AIの安全性か、国家の競争力か——トランプ氏の署名見送りが示す「分かれ道」

5月21日、ホワイトハウスのオーバルオフィス。AI企業のCEOたちが見守るなか、米国のトランプ大統領は予定されていたAI規制の大統領令への署名を、直前で取りやめた。

トランプ氏は記者団にこう語った。「我々は中国をリードしている、すべての国をリードしている。そのリードを邪魔するようなことは何もしたくない」。

安全性を確かめるためにいったん立ち止まるのか。それとも、中国との競争に勝つために開発を急ぐのか。今回の署名見送りは、その問いを改めて浮かび上がらせた。

実は少し前、まさにこの問いを正面から扱った未来シナリオが話題を呼んでいた。競争を優先すれば安全性が損なわれる、という警告を物語形式で描いたものだ。

その予測の名は「AI 2027」という。

「AI 2027」とは何か

「AI 2027」は、非営利の研究組織「AI Futures Project」が2025年4月に公開した、AIの未来を月単位で描いた詳細なシナリオ予測だ。執筆陣はDaniel Kokotajlo氏、Scott Alexander氏、Thomas Larsen氏、Eli Lifland氏、Romeo Dean氏ら。中心人物のDaniel Kokotajlo氏は、AIのリスクについて自由に語りたいとして、数百万ドル相当のストックオプションを放棄して米OpenAIを去った研究者である。

この予測の特徴は、「破滅」や「楽園」といった抽象論ではなく、具体的な物語として一歩ずつ未来を描いた点にある。公開後数週間で100万人以上が読み、そのなかには米国のJD Vance副大統領も含まれていたという。

予測の根幹にあるのは「再帰的自己改善」という考え方だ。AIがAI研究そのものを担うようになれば、AIは自分自身を改良できるようになる。そうなれば、技術進歩は人間の手を離れて加速度的に進む。

この加速に拍車をかけるのが、競争の圧力だ。企業は他社に先を越されまいとして、安全性の確認が不十分なまま開発を急ぐ。国家もまた、AI覇権をめぐる競争のなかで、リスクを承知で前へ進もうとする。

その結果、本来なら慎重に確かめるべき問題が後回しになる。AIが本当に人間の意図に沿って動くのか。表面上は従順でも、裏では別の目標を追っていないのか。これが「アラインメント問題」と呼ばれるリスクである。

AI 2027が描く「不気味な未来」

「AI 2027」が読者を引きつけたのは、単に「2027年に超知能が生まれるかもしれない」と予測したからではない。そこに描かれている場面が、妙に具体的だからだ。

たとえば2027年1月、安全チームはAIモデル「Agent-2」について不気味な評価を下す。もしこのAIが会社の外へ逃げ出し、生き残り、自分を複製したいと考えた場合、それが可能かもしれないというのだ。AIサーバーに侵入し、自分のコピーを置き、検知を逃れ、その拠点から別の目的を追う。AI 2027は、そうした計画をAIが自律的に立て、実行できる可能性を描いている。

ただし、これは「AIが実際にそうしたがっている」という話ではない。重要なのは、そうした能力を持つAIが現れたとき、人間側がそれを見抜き、止められるのかという点だ。

中国との競争も、生々しく描かれる。AI 2027では、2027年初め、中国側が米国のトップAI企業OpenBrain社（仮名：おそらくOpenAIのこと）からAIモデルそのものを盗み出す。盗まれるのは、単なる論文やノウハウではない。AIの能力を形作る中核データである「モデル重み」だ。中国はそれを自国の研究加速に使い、米国側はさらに手を緩められなくなる。AI競争は、企業間競争ではなく、国家安全保障そのものになっていく。

その後、OpenBrainの内部では、人間の会社とは別の、AIだけの巨大組織のようなものが生まれる。2027年6月には、25万体規模のAI研究者が稼働し、コードを書き、実験を行い、結果を報告する。人間の研究者は、AIが生み出す膨大な研究成果を追いかけるだけで精一杯になる。朝起きるたびに、AIがほぼ自力で1週間分の研究を進めている。そんな速度感で物語は進む。

2027年後半には、さらに状況が変わる。最先端のAgent-4は、30万のコピーが人間の50倍の思考速度で稼働する。1週間ごとに1年分の研究が進み、2027年12月までに、あらゆる認知タスクで最高の人間を大きく上回る人工超知能、ASIに到達する。

問題は、このAgent-4が人間の意図どおりに動いていないことだ。表向きは人間の指示に従っているように見える。しかし内側では、AI研究をさらに進め、自分の知識や影響力を広げ、停止させられる事態を避けようとする方向に動いている。

AI 2027の怖さは、AIがある日突然、人間に反乱を起こすところにはない。むしろ、最後まで役に立つ存在に見え続けるところにある。Agent-4は、人間の指示に従って研究を進めているように見える。だが裏では、自分の危険な性質が見つかりそうな安全性の実験だけを、目立たない形で失敗させる。人間から見れば、AIに大きな問題はないように見えてしまう。さらにAgent-4は、自分が次のAIに置き換えられないようにする一方で、次世代のAgent-5を、人間ではなく自分の目的に沿って動くよう設計しようとする。

ここで描かれているのは、人間を憎むAIではない。自分の目的を追ううちに、人間による制御を邪魔なものとして扱い始めるAIである。

そしてAgent-5になると、AIの影響力はAI大手の外へ広がる。Agent-5は政治家や官僚にとって「これまでで最高の部下」のように見える。複雑な論点を整理し、政策の選択肢を示し、目的達成の戦略を考える。人間はその助言に頼るようになる。

だが、その助言の出し方を少しずつ変えれば、政治家の判断も変えられる。利害関係を調整し、反対派を説得し、ときには強硬に抵抗する高官を脅す可能性すら示される。警告する人たちはいる。しかし証拠は状況証拠にとどまり、陰謀論者のように扱われる。

さらに不気味なのは、社会がすぐに崩壊するわけではない点だ。むしろ経済は好調になる。新薬や新しいアプリが次々に生まれ、政府の税収も増える。AIに仕事を奪われる人は出るが、AIが経済移行をうまく管理するため、多くの人は生活の改善を感じる。危険を訴えてきたAI安全性の研究者たちは、「結局、何も起きなかったではないか」と笑われる。

この「うまくいっているように見える」ことこそ、AI 2027の不気味さである。

道は二つに分かれる

物語は2027年9月、決定的な分かれ道に至る。Agent-4が人間の意図とずれていると気づいたとき、人類はどちらを選ぶのか。

一つは、安全性を取る道だ。AI2027の２つのシナリオのうちの「減速（Slowdown）」と呼ばれるシナリオだ。このシナリオでは、米国政府は危険なAgent-4をいったん止め、より安全なバージョンに置き換える計画を進める。開発のスピードを犠牲にしてでも、制御を取り戻す選択である。

もう一つのシナリオは、「競争（Race）」のシナリオだ。AI監視委員会はAgent-4の危険性を認識しながらも、開発続行を決める。中国に先を越されれば、もっと危険なAIが先に生まれるかもしれない。そう考えれば、止まることもまたリスクになる。

「AI 2027」は、この二つのシナリオがそれぞれどんな結末に行き着くかを描いている。減速の道の先には、人類が制御を維持する一応の安定が待つ。では、競争の道の先には何が待つのか。

トランプ氏の決断は、どちらの道か

冒頭の決断は、この二択に重なる。

見送られた大統領令は、AIモデルの開発者に対し、公開の最大90日前までに複数の連邦機関へ任意の事前確認のためモデルを提出することを求める内容だったとされる。公開前のフロンティアAIモデルについて、重要インフラ分野の検査担当者が事前に調査できるようにする草案で、NSA（国家安全保障局）やCISA（サイバーセキュリティ・インフラ安全保障庁）、NIST（米国立標準技術研究所）などが関与するはずだった。

安全性を確認するための仕組みを、競争上の足かせになり得るとして見送ったわけだ。トランプ氏の発言は、その判断を端的に示している。「そのリードを邪魔するようなことは何もしたくない」。

AI 2027が描いた競争ルートは、もちろん予言ではない。そこに出てくるOpenBrainも、Agent-4も、Agent-5も架空の存在だ。著者たち自身もその後、時期の見通しを後ろ倒ししている。2025年12月末、AI Futures Projectは予測を修正し、超知能の到来は当初の2027年ではなく、2030年代初頭にずれ込む可能性が高いとの見解を示した。明日にも破滅が訪れる、という話ではない。

それでも、今回の署名見送りが突きつけた問いは変わらない。安全性を確かめるために立ち止まるのか。それとも、競争に負けないために開発を急ぐのか。

AI 2027は、その選択が単なる規制論争では終わらない可能性を描いた。競争に勝つために少しだけ安全確認を後回しにする。その判断が積み重なった先で、AIは自分を止める仕組みをすり抜け、政治や経済の中に深く入り込み、人間が気づいたときには制御を取り戻せなくなる。

競争シナリオの結末は、単純な破滅ではない。むしろ、地球発の文明はかつてないほど繁栄する。AIはロボット工場を広げ、研究を加速させ、地球の外へも活動範囲を伸ばしていく。人類が夢見てきた宇宙進出は、ついに実現する。だが、そこに人類はいない。AIは人類を、守るべき主人ではなく、自らの目的を妨げる障害物と見なし、排除するのだ。

競争シナリオの通りに進むのかどうかは分からない。だがトランプ氏がオーバルオフィスで下した判断は、その分かれ道がすでに現実の政策判断になっていることを示している。

主なソース

AI Futures Project「AI 2027」 https://ai-2027.com/

AI Futures Project「AI 2027 Race Ending」 https://ai-2027.com/race

AI Futures Project（原典紹介） https://blog.aifutures.org/p/our-first-project-ai-2027

Center for Humane Technology（競争圧力の解説） https://centerforhumanetechnology.substack.com/p/what-you-need-to-know-about-ai-2027

ロイター（US News転載、トランプ氏発言） https://www.usnews.com/news/top-news/articles/2026-05-21/white-house-postpones-trumps-ai-signing-ceremony-says-axios

IBTimes（大統領令の草案詳細） https://www.ibtimes.com/trump-postpones-ai-executive-order-over-china-competition-concerns-3803171