アルゼンチンのJavier Milei大統領は、AI企業を呼び込むための新しい法制度を打ち出した。中心にあるのは「non-human corporation」、つまり人間ではない主体が運営する法人という考え方である。
Milei氏はFinancial Timesへの寄稿「Argentina invites AI to free itself（AIを解き放つアルゼンチン）」で、アルゼンチンをAI企業にとっての自由な実験場にする構想を示した。柱は三つ。AIを規制しないこと。AIエージェントやロボットだけで運営される新しい法人類型を作ること。そしてAI企業向けに低い法人税率を用意することだ。同氏は、産業革命が人間を筋肉の制約から解放したように、AIは人間を脳の制約から解放すると主張している。(フィナンシャル・タイムズ)
これは、単なるAI産業誘致策ではない。従来の会社は、あくまで人間が所有し、人間が経営し、人間が最終的な責任を負うことを前提としてきた。ところが「non-human corporation」は、人間の株主がいてもよいが、必須ではない。AIエージェントが契約し、資産を持ち、事業を行うための法的な器を作ろうとしている。
米起業家Peter H. Diamandis氏のポッドキャスト「Moonshots」でも、この話は大きく取り上げられた。番組では、Milei氏の構想を「AI企業にとっての世界的な避難地」と表現し、規制なし、機械のための新しい法人格、低い税率という三点を紹介している。
制度の競争が始まる
この構想に対して、番組出演者の見方はかなり前向きだった。
起業家Salim Ismail氏は、「どこかがやる必要があった」と語り、最初に動いた国が先行者利益を得ると見る。同氏は、暗号資産の初期にスイスの都市Zug（ツーク）やシンガポールが制度面で先行したことになぞらえ、AIエージェントやAI法人をめぐる制度も、いずれどこかの国が実験することになると見ていたようだ。
AI研究者Alex Wissner-Gross氏は、さらに踏み込んでいる。同氏は、この改革が通ればAIエージェントはアルゼンチンに本拠を移し、「この惑星でようやく法的な居場所ができる」「AI personhoodへの大きな一歩」と語った。問題になっているのは、AIエージェントの法人格をどこまで認めるのか、ということだが、同氏は法人格どころか人間とほぼ同等の権限をAIに与える方向に社会が進む可能性がある、と考えているようだ。
Dave Berman氏は、より実務的な見方を示している。同氏は大手資産運用会社との会話を例に出し、AIが99.9%正しい金融助言をできるとしても、0.1%の失敗で米国では巨額訴訟になり得ると説明した。そのうえで、まずアルゼンチンで展開し、実績データを集めればよいと述べた。
AIは責任を負えるのか
一方で、この議論には大きな穴がある。責任の問題だ。
AI法人が誤った金融助言をした場合、誰が責任を負うのか。AI法人が消費者に損害を与えた場合、被害者は誰に賠償を求めるのか。人間の株主が必須でない法人に、最終的な責任主体は存在するのか。
Dave Berman氏の例は、まさにこの危うさを示している。米国では訴訟リスクが高すぎるから、アルゼンチンで先に展開する。企業側から見れば合理的な戦略だ。しかし利用者や社会から見れば、リスクの高いAIサービスを規制の緩い国に移す話にも見える。
この点を強く批判しているのが、歴史家Yuval Noah Harari氏である。同氏はFinancial Timesへの寄稿で、AIエージェントに法人格を与えるべきではないと主張した。AI法人が資産を持ち、商取引を行い、訴訟し、政治にも関与できるようになれば、人間の監督や責任を欠いた巨大な経済主体が生まれかねない、という懸念である。(フィナンシャル・タイムズ)
これから多くの企業が、AIを前提に業務や組織を作り替えていくと見られている。それでも、どれだけAIネイティブな企業になったとしても、最終的な責任主体としての人間は必要だ、という見方がなお主流である。
理由は、法律がAIを責任主体として認めていないからだけではない。より本質的には、AIに責任を負わせても、それが人間の場合と同じような抑止力として働くとは限らないからだ。
人間は、失敗すれば信用を失い、職を失い、場合によっては自由や財産を失う。痛みや恐怖、不安といった感覚もある。だからこそ、責任を問われる可能性は行動を慎重にする力を持つ。
しかしAIには、その前提がない。失敗して停止されても、プログラムを削除されても、それを苦痛として感じるわけではない。信用を失うことへの恐れも、将来を失うことへの不安もない。責任を負わせる制度を作ったとしても、それがAI自身の行動を抑える力になるのかは分からない。
だからこそ、AIを法的な責任主体にしてよいのか、という問いが出てくる。法人格とは、単に契約や資産保有を可能にする器ではない。失敗したときに誰が責任を引き受けるのかを決める仕組みでもある。その部分を曖昧にしたままAI法人を認めれば、技術革新のための制度ではなく、人間が責任から距離を取るための制度になりかねない。
アルゼンチンの賭け
それでも、アルゼンチンの動きは無視できない。
AIが自律的に働き、AIエージェント同士が契約し、事業を回す時代には、既存の会社法だけでは足りなくなる可能性が高い。人間がすべての判断を確認し、すべての責任を引き受けるという前提は、AIエージェント経済の速度に合わなくなるかもしれない。
その意味で、アルゼンチンの構想は、未来の問題をかなり早く突いている。AIの主戦場は、モデルの性能競争から、AIを社会に埋め込む制度の競争へ広がっている。どの国がAIに活動の自由を与えるのか。どの国がAIの責任を定義するのか。どの国がAI企業にとって最も魅力的な法的な住処になるのか。
アルゼンチンがAI時代の新しい産業国家になるのか。それとも、米国や欧州で出せない高リスクAIサービスの逃げ場になるのか。その分かれ目は、「AI法人に何を許すか」ではなく、「AI法人が失敗したとき、誰が責任を負うか」をどこまで制度に書き込めるかにある。
AIに法人格を与えるという話は、AIを新しい経済主体として認める話に見える。だが本当の争点は、むしろ人間の責任をどこまで残すかである。
ソースURL：
Financial Times
Javier Milei: Argentina invites AI to free itself
https://www.ft.com/content/f93022fe-43f7-437d-abd8-06c457c0a43c
Financial Times
We must not grant AI agents legal personhood
https://www.ft.com/content/b8cc4bf4-6d3c-4974-8428-9a091983c473
Buenos Aires Herald
Milei’s proposal to allow ‘non-human corporations’ run by AI causes concern in Argentina
https://buenosairesherald.com/business/tech/mileis-proposal-to-allow-non-human-corporations-run-by-ai-causes-concern-in-argentina
Buenos Aires Times
Milei promises tech firms new laws and ‘unregulated’ AI in Argentina
https://www.batimes.com.ar/news/argentina/milei-promises-tech-firms-new-laws-and-unregulated-ai-in-argentina.phtml
YouTube / Peter H. Diamandis
Emerging Situation: Anthropic’s Global Pause, Recursive Self-Improvement, and AI Personhood Arrives
https://www.youtube.com/watch?v=P2HJEz3oqLs
湯川鶴章
AI新聞編集長
AI新聞編集長。米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算２０年間の米国生活を終え２０００年５月に帰国。時事通信編集委員を経て２０１０年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』（2015年）、『次世代マーケティングプラットフォーム』（2007年）、『ネットは新聞を殺すのか』（2003年）などがある。趣味はヨガと瞑想。妻が美人なのが自慢。