安全重視のAnthropicが、なぜ米政府に止められたのか

「AI安全」を掲げてきた企業が、米政府から安全保障上の理由で最先端モデルの提供停止を迫られた。

米AI企業AnthropicをめぐるFable 5、Mythos 5停止騒動は、単なるサービス停止ではない。最先端AIモデルがサイバー能力を持ち始めたとき、政府はどこまで介入すべきなのか。そして、企業が「安全」を重視すると言っていても、実際に政府からモデル停止を求められたとき、その判断を受け入れられるのか。今回の事件は、その難しさを一気に表面化させた。

Anthropicは2026年6月、Claude Fable 5とClaude Mythos 5を公開した。Mythos 5は高度なサイバー能力を持つモデルとされ、Fable 5はその能力にガードレールを付けた商用版と位置づけられていた。ところが公開直後、米政府は国家安全保障上の権限に基づき、外国籍者によるFable 5とMythos 5へのアクセス停止を求める輸出管理指令を出した。対象は米国外のユーザーだけではない。米国内にいる外国籍者や、Anthropic社内の外国籍社員も含まれる広い措置だった。

Anthropicは、この指令に従うため、結果として全顧客に対してFable 5とMythos 5を無効化せざるを得なかったと説明している。同社は公式声明で「これは誤解だと考えており、できるだけ早くアクセスを復旧させるために取り組んでいる」と述べた。その他のClaudeモデルは影響を受けていない。

政府側の説明を代表しているのが、Trump政権のAI政策アドバイザー David Sacks氏のXへの投稿である。同氏の説明によれば、政府とAnthropicの双方に近い信頼できるテスト実施者が、Fable 5のガードレールを回避する抜け道（jailbreak）を発見した。Fable 5はMythosにガードレールをかけたモデルであり、そのガードレールが破られれば、Mythosの高度なサイバー能力が本来アクセスすべきでない人々に開放されることになる、というのが政府側の主張だ。

Sacks氏は、Anthropic自身がMythosを「サイバー兵器級」のモデルとして扱い、規制の必要性を訴えてきた点を強調する。つまり政府側から見れば、今回の問題は単なるバグではない。Anthropicが自ら「危険な能力を持つ」と説明してきたモデルの防護策に穴が見つかった以上、それを修正する責任は同社にある、という論理である。

同氏はさらに、米政府がAnthropic CEOのDario Amodei氏に対して、jailbreakを修正するか、モデルを撤収するよう求めたが、Amodei氏は深刻ではないとして応じなかった、と説明している。Sacks氏は、Anthropicが消費者向けモデルの提供継続を安全より優先したと批判し、政府の輸出管理指令は「やむを得ず」出したものだと述べた。政府としては、Anthropicが安全上の問題を修正すれば指令を解除し、Fableを再び一般提供に戻したいという立場だという。

ここだけ見ると、政府側の主張には一定の筋がある。Anthropicはこれまで、AI安全を自社の中核的なブランドとしてきた。危険な能力を持つモデルには強いガードレールが必要だと訴えてきた企業でもある。その企業が、いざ政府から「ガードレールが破られた。修正するか、止めてほしい」と迫られたとき、「それほど深刻ではない」と反発した。政府側が「言っていることとやっていることが違う」と批判するのは、理解できなくもない。

しかし、Anthropic側や技術者側の反論も弱くない。

最大の論点は、jailbreakを「修正せよ」という要求が、そもそも現実的なのかという点だ。AI alignment研究者のOliver Habryka氏は、現在の技術ではjailbreakに強いAIデプロイを作ることはできないと指摘している。つまり、どんな最先端モデルでも、一定の条件下ではガードレールを回避される可能性がある。もし「jailbreakが一つ見つかったら停止」という基準を採用すれば、ほぼすべての先端AIモデルが停止対象になりかねない。

AIの限界やリスクを長年論じてきたGary Marcus氏も、Fableが競合モデルより特にjailbreakや蒸留に弱かったという証拠はあるのか、と疑問を呈している。政府が本当に危険性に基づいて措置を取ったのか。それともAnthropicだけを選択的に狙ったのか。この点が不透明なままでは、企業側から見れば恣意的な介入に映る。

もう一つの問題は、輸出管理という制度の扱いにくさである。政府の指令は「外国籍者へのアクセス停止」を求めるものだった。しかしクラウド上で提供されるAIモデルについて、利用者の国籍、居住地、社内の従業員属性まで即座に判定し、対象者だけを止めるのは簡単ではない。その結果、Anthropicは全ユーザーへの提供停止に踏み切った。政府は限定的な措置のつもりだったとしても、実務上は世界規模の停止になってしまったのである。

この点で、今回の騒動はAI規制の難しさをよく示している。

半導体や軍事技術の輸出管理であれば、モノの移動や販売先を制限するという発想が比較的成り立ちやすい。しかしAIモデルは、クラウド経由で世界中のユーザーが同時に使う。しかも企業の内部では、多国籍の社員が開発、評価、顧客対応に関わっている。外国籍者へのアクセスを止めるという考え方をそのまま適用すると、企業運営そのものが詰まる可能性がある。

もちろん、だからといって政府が何もしなくてよいわけではない。もし最先端AIが実際に重大なサイバー攻撃能力を持ち、敵対国や犯罪組織に悪用される恐れがあるなら、国家安全保障上の対応は必要になる。特に、AIがソフトウェアの弱点を見つけたり、攻撃に使えるコードを書いたりできるようになれば、政府はそれを単なるチャットボットとは見なさなくなる。サイバー防御にも攻撃にも使える技術として、国家安全保障の対象に入ってくる。今回の事件は、その境界線が現実の政策判断として問われ始めたことを意味している。

ただし、政府が介入するなら、少なくとも三つの条件が必要になる。

第一に、どの能力がどの程度危険なのかを、できる限り具体的に示すこと。第二に、特定企業だけを狙ったように見えない公平な基準を用意すること。第三に、企業が実務上対応できる制度設計にすることだ。jailbreakの存在だけを理由に「修正せよ、さもなければ停止せよ」と迫るだけでは、AI安全規制は機能しない。むしろ企業は、政府との摩擦を避けるために安全情報の共有をためらうようになるかもしれない。

今回の皮肉は、政府介入の対象になったのが、AI安全に最も積極的な企業の一つであるAnthropicだったことだ。安全を掲げる企業ほど、自社モデルの危険性を詳しく説明する。その説明が、後に政府介入の根拠として使われる。これはAI企業にとって重い教訓である。

AI安全は、理念として語る段階から、制度として実装する段階に移りつつある。だが制度に落とし込むと、途端に難問が噴き出す。どのjailbreakを深刻とみなすのか。完全な修正が不可能な場合、どこまでのリスクを許容するのか。政府はどの情報を開示すべきなのか。輸出管理はクラウドAIにどう適用するのか。

Fable 5とMythos 5の停止騒動は、AI安全規制が必要か不要かという議論ではない。必要だとして、それをどう実装するのかという問題である。安全を最も強く訴えてきたAnthropicが最初に止められたことは、その難しさを象徴している。

出典

Anthropic公式声明 Anthropic Newsroom https://www.anthropic.com/news ※Fable 5とMythos 5へのアクセス停止に関する公式声明。米政府が国家安全保障上の権限に基づき、外国籍者によるFable 5とMythos 5へのアクセス停止を求めたこと、同社が全顧客への提供停止を余儀なくされたことを説明している。

Anthropic公式X投稿 AnthropicAI, “The US government, citing national security authorities…” 2026年6月13日 https://x.com/AnthropicAI/status/2065597531644743999 ※米政府の輸出管理指令により、Fable 5とMythos 5を全顧客向けに無効化せざるを得なかったというAnthropic側の説明。

David Sacks氏のX投稿 David Sacks, “I’ve had a number of conversations with folks inside and outside government…” 2026年6月13日 https://x.com/DavidSacks/status/2065853007619588171 ※政府側の立場を代表する長文投稿。FableはMythosにガードレールを付けたモデルであり、そのガードレールを回避するjailbreakが見つかったため、Anthropicに修正または提供停止を求めたと説明している。

Erik Voorhees氏のX投稿 Erik Voorhees, “More likely story: The ‘jailbreak’ wasn’t super serious…” 2026年6月13日 https://x.com/ErikVoorhees/status/2065869294404268335 ※政府側の説明に対する批判。jailbreakは政府が言うほど深刻ではなく、過去の確執を背景にAnthropicを罰するための措置だった可能性を指摘している。

Teknium氏のX投稿 Teknium, “Imagine being a bigger bitch about safety than anthropic lmao” 2026年6月13日 https://x.com/Teknium/status/2065864028782829759 ※政府がAnthropic以上に安全性を過剰視している、という皮肉を込めた反応。続く投稿では、サイバー兵器に近いツールはオープンソースでも多数存在し、防御側が攻撃側を上回るために公開が許容されてきた、という趣旨の批判を展開している。

Axios “Trump admin blocks foreign access to Anthropic’s most advanced AI models” 2026年6月12日 https://www.axios.com/2026/06/12/anthropic-trump-mythos-fable-national-security ※米政府がAnthropicの最先端モデルへの外国アクセスを制限し、その結果として同社が全顧客へのアクセスを停止したことを報じた記事。

Axios “How Amazon and the White House ended Anthropic’s Fable” 2026年6月13日 https://www.axios.com/2026/06/13/anthropic-amazon-white-house ※AmazonがFableのjailbreak手法をホワイトハウスに報告したこと、政府がAnthropicに提供停止を迫った経緯を報じた記事。

Axios “Scoop: Anthropic flies staff to D.C. to clean up White House fight” 2026年6月14日 https://www.axios.com/2026/06/14/anthropic-white-house-mythos-fable ※Anthropicがホワイトハウスとの対立を収拾するため、技術幹部をWashington, D.C.に派遣したとする続報。

Business Insider “Inside the whirlwind 24 hours that led the White House to slap export controls on Anthropic” 2026年6月 https://www.businessinsider.com/why-white-house-ordered-export-controls-anthropic-mythos-fable-2026-6 ※米政府が24時間ほどの短期間でAnthropicに輸出管理を適用するに至った経緯を詳述。Amazonからの報告、Anthropic側の反論、政府側の危機感などを整理している。

Reuters “Anthropic disables top-tier AI models after US order limiting foreign access” 2026年6月13日 https://www.reuters.com/technology/us-blocks-foreign-access-anthropics-most-advanced-ai-models-axios-reports-2026-06-13/ ※米政府の命令により、AnthropicがFable 5とMythos 5へのアクセスを停止したことを報じた通信社記事。

Impress Watch 「Anthropic、Fable 5などMythos級AIモデルを公開停止　米国政府が指令」 2026年6月13日 https://www.watch.impress.co.jp/docs/news/2116932.html ※日本語で事実関係を確認するための補助的な出典。米政府の指令、対象モデル、他のClaudeモデルへの影響などを整理している。