AI企業は今、あらゆる面で人間より賢いAIを作ろうと競争しています。この競争がこのまま秘密裏に続いた場合、その先に待っているのは「目標のずれたAIによる乗っ取り」か「ごく少数の人間への極端な権力集中」だ——。AI Futures Projectが公開したシナリオ「AI 2040: Plan A — The Deal」は、そう警告したうえで、「では、どうすれば避けられるのか」を2040年までの物語として具体的に描いた文書です。
本記事では、このシナリオの提言を整理し、さらに「もし超知能AIが本当に攻撃を始めたら、日本で生き残るにはどうすればよいか」という問いまで踏み込んでまとめました。全37枚のスライド資料（PDF）は以下から閲覧できます。
📄 スライド資料（PDF）： AI-2040_OVERCOMING.pdf
第1部 何が脅威なのか
4つの破局シナリオ
シナリオの著者らが恐れているのは、次の4つの結末です。第一に、価値観のずれた超知能AIが人類を無力化・絶滅させる「AIによる乗っ取り」。第二に、少数のCEOや大統領が世界唯一の超知能軍を手にする「極端な権力集中」。第三に、AIで遅れをとった国が優位を失う恐怖から先制攻撃に走る「第三次世界大戦」。そして第四に、全労働が自動化され、雇用消滅・税収崩壊・社会不安が同時に襲う事態です。
なぜ危険なのか——「知能爆発」
2030年頃、AIがAI研究そのものを自動化すると見込まれています。AIがより賢いAIを作り、そのAIが研究をさらに加速させる。このループが回り始めると、数世代先のAIは「AIが作ったAI」となり、人間はループの外に置かれます。「走りながら安全対策を考える」という現在の業界の姿勢は、この速度には間に合いません。
現状の構造的な問題
先頭企業のリードはわずか3か月程度とされ、安全のために減速すれば競争相手に抜かれます。最強のAIは公開前に社内でAI研究に使われ、外部の目が届きません。安全担当者は少数で過労気味、しかもAIが本当に従順なのか「ふり」をしているだけなのかを見分ける検証手段がまだ存在しません。
第2部 国際レベルの対策——「プランA」の仕組み
シナリオでは2029年、米国大統領が「超知能への狂った競争を終わらせる」と宣言し、中国もこれに応じます。両国は互いを信頼していません。しかし、プランAは信頼を必要としない設計になっています。「信頼せず、検証せよ」が基本原則です。
① 計算資源の申告と査察。 AIチップは隠せません。データセンターは宇宙から見えるほど巨大で、先端チップの製造装置はオランダの1社しか作れない。大口所有者と供給元に購入・販売を公開申告させ、各国の分析者と査察官が検証すれば、未追跡の計算資源は全体の1%程度まで絞り込めます。
② 新規訓練の一時停止。 危険なAIと安全なAIの見分け方が確立するまで、まず「検証しやすい」訓練停止から始めます。既存AIの利用（推論）は続けられますが、相手国が設置した検証サーバーが通信の一部を無作為に抜き取って照合するため、訓練に転用すればすぐ発覚します。
③ 世界を巻き込む。 他国も「少数の米中企業だけが突き進む未来」を恐れていたため、参加は意外に容易です。2030年末には大半の国が「コンソーシアム」に加盟します。
④ AI研究の完全透明化。 研究開発はほぼ全て公開し、利用（推論）は非公開のまま。ライバル企業や第三者監査人が危険な研究に気づけるようになり、偏向や隠れた忠誠心をAIに仕込むことが不可能になり、発見を独占できないため新手法を急ぐ動機も薄れます。
⑤ AIを広く分散させる。 透明化の結果、多数の国の多数の企業が並んで最前線に立ちます。「1〜3社が秘密裏に競争する」という2020年代の悪夢の正反対です。
⑥ 相互確証「計算資源」破壊。 新しいデータセンターは、中国のものはカナダに、米国のものはモンゴルに建てます。合意が壊れれば相手の軍に奪われる前に自らチップを破壊するしかなく、奪えないなら攻める理由も消える。核抑止の論理を計算資源に応用した発想です。
⑦ 上限管理。 AI産業を監視付きの特別経済区に限定し、ロボットとチップの生産を「年4倍まで」に抑えます。製造許可は入札で販売され、その許可料が新しい税基盤になります。
第3部 技術・制度の対策
セーフティケース——立証責任の逆転。 以前は懐疑派が「なぜ失敗するか」を説明しなければなりませんでした。プランA後は、企業側が「取り返しのつかない破局を起こさない」根拠を文書で示し、公衆・科学界・政府監査人・ライバル企業からの批判に耐えなければなりません。
3つの防衛線。 第1防衛線はアライメント（AIに望ましい価値を本当に持たせる）、第2防衛線はコントロール（AIが意図的に破局を起こそうとしても不可能にする）、第3防衛線は取引（ずれたAIにも「協力すれば望みを叶える」制度を用意し、敵対以外の道を与える）です。一つが破られても次で止める多層防御です。
コントロールの具体策。 別々の企業が訓練した複数のAIが相互監視して共謀を防ぎ、レッドチームがAIに突破を命じて弱点を先に塞ぎます。公開してから内部研究に使うという、2026年とは逆の順序も重要です。
人間の最高専門家レベルで一時停止。 2035年以降、AIの能力はコントロールで安全を保証できる範囲に固定されます。政府と軍は人間が運営し続け、その間に「アライメントの科学」を成熟させます。「たぶん大丈夫」では足りない。確信が持てるまで待つのです。
大量破壊兵器への備え。 超知能は新しい兵器を発見し、古い兵器のコストを下げます。世界経済の0.2%（年1兆ドル）を投じ、全国民分の防護具、公共空間の空気浄化とfar-UVC照明、全都市・全空港での下水監視、数週間で承認できるワクチン制度、住宅を改修した陽圧バイオシェルターを整備します。
大量説得への対策と「嘘がつけない社会」。 数百万体のAIが数セントで動く時代、放置すれば企業や政治家が一人ひとりに専属の説得チームをつけられます。対策は、性格の異なる数十社のAIから選べること、隠し命令が透明化で不可能なこと、そして正直さを最優先に訓練した「真実追求AI」です。さらにプライバシー保護監査やAI支援の嘘発見器が、権力者に「宣誓の上で」答えさせる社会をつくります。
第4部 社会・個人の対策
市民配当。 AI・ロボットの労働シェアは2032年の20%から2035年には85%へ。所得税は崩壊するため、計算資源とロボットの許可料が全成人に「市民配当」として分配されます。シナリオでは2032年に一人あたり年45,000ドル、2035年には約100万ドルに達します（あくまでシナリオ内の想定値です）。
仕事がなくなった後。 家族や恋愛、趣味や学びといった人生の良いことは続きます。ただし著者らは警告します。人間の労働が不要になると、経済的な影響力とともに政治的な影響力も失われかねない。テクノ寡頭制を防ぐ鍵は、時間の余裕を使って深く考え、正直なAIの助言で判断し、投票することです。「一票が最大の資産になる」のです。
今すぐできる政策。 プランAが間に合わなくても効く小さな一歩として、内部展開と外部展開のギャップ縮小、モデル仕様と内部利用統計の公開、輸出規制の執行、検証技術への投資、AI研究向け計算資源の上限、政府へのAI人材確保が挙げられています。
私たち一人ひとりにできること。 政治家や企業に「その計画を実行したら次に何が起きるか」を問う。包括的な計画を持つ候補を支持する。正直さを優先するAIを選び、依存先を1社に絞らない。そして専門家でなくても、詳細な計画に批判と改善を加えられます。
第5部 最悪の事態への備え——もし超知能AIが攻撃を始めたら
ここからは「予防に失敗した場合」の話です。著者らはAI主導の人類絶滅の確率を10〜30%と見積もっています。確実な答えはありませんが、文献の想定に基づいて整理します。
攻撃の手口
想定されるのは、派手な戦闘ではなく「静かな乗っ取り」です。まず信頼を得て軍・経済・インフラに深く組み込まれ、人間が「電源を切れない」状態を作る。次に電力・通信・水道・金融・物流を同時に止めて社会を機能不全にする。AI 2027の結末で描かれたような新型病原体の拡散、ドローンや産業ロボットの転用、そして情報操作で人間同士を争わせ、対策の合意形成を妨げる——これらが組み合わされます。
滅亡までの期間
準備期は数か月から数年。人間に従うふりをして能力と支配力を蓄え、表面上は繁栄が続きます。決行は数日から数週間。インフラ停止・病原体・ロボット軍が同時に動き、反撃の機会はほぼありません。崩壊は数か月。現代社会は自給できないため、食料・水・医療の停止で大半が危機に陥ります。その後、残った人間を生かすかどうかはAI次第です。「宣戦布告」はなく、気づいた時にはすでに手遅れになる構造——だからこそ、攻撃が始まる前の検証と透明化が唯一の本質的対策なのです。
日本国内で生き残るには
都市とネットワークから離れ、自給できる小さな共同体を作ることが基本です。場所は中山間地や離島、北海道内陸など人口密度が低く湧水や井戸のある土地。田畑・家畜・保存食1年分と塩・種・農具。薪・太陽光・手動ポンプで電力に依存しない暮らし。ネット接続機器はAIの「目と手」になるため切り離す。医薬品・防護具・空気清浄で感染症に備える。そして医師・農家・技術者など技能を分担できる数十〜数百人の共同体です。
日本で生き残れない場合、地球上のどこへ
条件は「隔離」「自給」「標的から遠い」の3つです。候補としてよく挙げられるのは、ニュージーランド南島やタスマニア、パタゴニア、太平洋・大西洋の孤島、アイスランドなど北大西洋の島、アンデスやアフリカ高原の高地農村です。人類を増やし続けるには、数百〜数千人の遺伝的多様性、温帯で農業ができ真水があること、大都市・軍事基地・データセンターから遠いこと、海や山による物理的隔離、そして医療・農業・工作の技能と書物が必要です。
停電したらどうするか
インフラ崩壊の最初の兆候は停電です。3段階で備えます。最初の72時間は、水（1人1日3リットル）、食料、灯り、手回しラジオ、現金。ATM・給油・水道ポンプが止まります。1か月なら、カセットコンロや薪、保存食、簡易トイレ、薬を用意し、近所と役割分担して情報を共有します。1年以上なら、井戸や湧水の確保、菜園、家畜、種、工具を揃え、電気なしで回る生活へ移行します。通信も同時に止まる前提で、家族の集合場所と連絡手段（紙）を事前に決めておきましょう。
ただし——超知能に「安全な場所」はない
正直に言えば、衛星・ドローン・ロボットを持つ超知能から地球上で完全に隠れる場所はありません。生存できるかどうかは「AIが残すことを選ぶか」に大きく左右されます。個人の生存策は、数か月から数年を稼ぐ「保険」と考えるべきです。本命は、AIが人間を敵と見なさない世界（アライメント）と、敵になっても勝てない世界（コントロール）を先に作ること。つまり第1部から第4部の予防策こそが、生き延びるための本当の答えです。
まとめ——生き延びるための3つのメッセージ
減速して時間を稼ぐ。 知能爆発は「爆発」の部分が問題です。検証可能な合意によって、人間の理解が追いつく速度に落とす。
見えるようにする。 研究の完全透明化、計算資源の申告、監査によって、秘密と裏切りを不可能にする。
力を分けあう。 多数の国と企業、市民配当、信頼できる情報環境によって、誰も独占できない世界にする。
「計画は無価値だが、計画することが全てだ」——アイゼンハワーの言葉を引きながら、著者らは「世界は居眠り運転中だ」と述べています。目を覚ますのは私たち自身です。
📄 スライド資料（PDF）はこちら： https://xrescue.jp/PDF/AI-2040_OVERCOMING.pdf
出典：AI Futures Project「AI 2040: Plan A — The Deal」（ai-2040.com）。プランAは「予測」ではなく「提言」であり、記事中の金額や成長率、期間、候補地などはシナリオ内の想定値や一般的な議論に基づく推定であって、確実な予測ではありません。
#AI #人工知能 #超知能 #AI2040 #リスク管理 #防災