米AI企業Anthropicは6月12日、同社の最新AIモデル「Claude Fable 5」と「Claude Mythos 5」について、すべての顧客への提供を急きょ停止すると発表した。米政府から、外国籍の人物による両モデルへのアクセスを停止するよう輸出管理上の指示を受けたためだ。
Anthropicの発表によると、対象は米国外の利用者だけではない。米国内にいる外国籍の人物や、Anthropic社内の外国籍社員も含まれる。同社は「この命令に従うため、Fable 5とMythos 5をすべての顧客に対して突然無効化せざるを得ない」と説明している。なお、同社の他のAIモデルへのアクセスには影響しないという。
Fable 5とMythos 5は、Anthropicが6月9日に発表したばかりの新モデルだ。Fable 5は一般向けの高性能モデル、Mythos 5は同じ基盤モデルを使いつつ、サイバー防衛など信頼された用途向けに一部の安全制限を緩めたモデルと位置づけられていた。Anthropicは発表時、Mythos 5について「世界で最も強いサイバーセキュリティ能力を持つモデル」と説明していた。
米政府が問題視したのは、Fable 5の安全制限を迂回する「jailbreak」の可能性だ。jailbreakとは、AIモデルに設けられた安全対策を回避し、本来は出力しないはずの情報や操作を引き出す手法を指す。
ただしAnthropicは、政府から具体的な国家安全保障上の懸念は示されていないとしている。同社によれば、政府が根拠としているのは、Fable 5に特定のコードベースを読ませ、ソフトウェア上の欠陥を修正させるという限定的な手法だという。Anthropicは「政府から示されたのは、限定的で普遍的ではないjailbreakの可能性についての口頭の証拠にとどまる」と主張している。
同社はさらに、その程度の能力は他社の公開済みモデルでも利用可能であり、防御側のエンジニアが日常的に使っている能力でもあると反論している。Anthropicは「限定的なjailbreakの可能性を理由に、数億人に提供されている商用モデルを回収すべきだという判断には同意できない」と述べた。
ロイター通信によると、今回の措置は、AIを支える半導体や製造装置ではなく、AIモデルそのものを輸出管理の対象にする動きとして注目されている。これまで米国の対中規制は、主に高性能GPUや半導体製造装置を対象としてきた。今回は、最先端AIモデルへのアクセスそのものが国家安全保障上の資産として扱われた形だ。
米ニュースサイトAxiosは、米商務長官Howard Lutnick氏がAnthropicの最高経営責任者Dario Amodei氏に書簡を送り、Mythos 5とFable 5について、米国外への輸出、再輸出、さらに米国内の外国人への移転にもライセンスが必要になると伝えたと報じている。同紙によれば、米政府当局者は、別の企業がMythosをjailbreakできたと主張したことを受け、国家安全保障上の懸念が強まったと説明している。
今回の件は、AI企業にとって新しいリスクを浮き彫りにした。企業が最先端AIモデルを使ってサービスを構築していても、政府の判断一つで、モデルへのアクセスが突然止まる可能性があるからだ。
AI競争は、モデル性能だけでなく、輸出管理、サイバー安全保障、そして各国の技術主権をめぐる問題に広がり始めている。
湯川鶴章
AI新聞編集長
AI新聞編集長。米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算２０年間の米国生活を終え２０００年５月に帰国。時事通信編集委員を経て２０１０年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』（2015年）、『次世代マーケティングプラットフォーム』（2007年）、『ネットは新聞を殺すのか』（2003年）などがある。趣味はヨガと瞑想。妻が美人なのが自慢。