AI災害に、
知って備える。

専門家の見方は、大きく割れている

AIが壊滅的な事態を招く確率「p(doom)」は、測定値ではなく個人の見積もりです。

割れていること自体が「不確実性が大きい」証拠。火災保険と同じで、確率が低くても被害が甚大なら、備える価値があります。

10の分野で学ぶ

各章10問、合計100問。すべて「防ぎ方・備え方」に焦点を当てています。

第1章　基礎知識：ASIと「制御不能」

まず言葉と全体像をつかむ。専門家の見方が割れていること自体が重要な情報。

第2章　人工ウイルス・バイオリスク

最も警戒される悪用分野。ここでは作り方ではなく「防ぎ方・備え方」だけを扱う。

第3章　核ミサイル・軍事AI・自律兵器

最大の論点は「最終判断を誰が下すか」。速度と誤認が事故を生む。

第4章　サイバー攻撃

すでに始まっている分野。AIは攻撃にも防御にも使われる。基本の徹底が効く。

第5章　重要インフラ・医療システム

電気・水・通信・金融・医療。止まると命に関わる。「静かな崩壊」を防ぐ。

第6章　偽情報・ディープフェイク・社会操作

社会の「共通の事実」が壊れると、あらゆる危機への対応力が落ちる。

第7章　制御不能・AIの暴走と欺き

「悪意」がなくても、目標のずれと能力の高さが合わさると制御が難しくなる。

第8章　経済・雇用・権力の集中

爆発的な事故だけが災害ではない。ゆっくり進む「人間の力の喪失」もリスク。

第9章　予防と対策：個人・企業・国・国際

「誰が・いつ・何をするか」。多層防御で、一つが破られても次で止める。

第10章　人類が生き残る条件・環境・地域

「どこなら助かるか」より「何があれば持ちこたえられるか」。地域名は研究に基づく相対評価。