Altman氏が語る解雇騒動の真相とAI開発の考え方の変化

OpenAIのCEO、Sam Altman氏の解雇騒動から３週間が経つが、何が起こったのか同社からはまだ正式な説明が行われていない。そんな中、有力誌Timeが「今年のCEO」にAltman氏を選出。その発表イベントに出席したAltman氏が、今回の解雇騒動と彼の中のAI開発の考え方の変化について語った。特定の人物に対する批判的な発言を避けようとしているためか、同氏の発言だけでは真意が分かりづらい。背景情報を交えながら、Altman氏の発言を解説し、AI開発の方向性の変化の可能性について考えてみたい。

まずはこのイベントでAltman氏が何を語ったのかを正確に書き出してみよう。司会者が「多くの人が知りたがっていると思うんだけど、結局何があったんですか？」と質問した。「何があったのか」というのは、どうしてAltman氏が理事会から解雇されそうになったのか、という意味だ。この問いに対し、Altman氏は「AIが超知能に近づくにつれ、関係者のストレスは大きくなっていく。社会へのインパクトの大きさに気づくからだ。そしてそれが爆発したんだ」と答えている。またその後のやり取りの中で「AGI（汎用人工知能）が誕生するまでに、こうしたことが起こるだろうと予測はしていたが、こんなに早く起こるとは思っていなかった」とも語っている。

これらの発言から分かるのは、１つにはやはり開発中の次世代AIの安全性をめぐってAltman氏と理事会との間で対立があったということだ。開発中の次世代AIモデルは性能が大きく向上するが、一方で人類に危害を加える結果になりかねない。人類に危害を加える可能性があるのなら開発を延期、もしくは中止すべきだし、Altman氏に延期、中止の意思がないのなら同氏を解雇するしかない。そう考えた理事会がAltman氏に解雇通知した、ということが今回の騒動の真相。そういう理解で間違いなさそうだ。

分かることの２つ目は、開発中の次世代AIモデルは、AGI（汎用人工知能）というものにかなり近づいたということだ。AGIの正式な定義は人によって異なるが、「ほとんどすべての面において人間より賢いAI」というような曖昧な理解で、まずはいいと思う。Altman氏自身、AGIが完成するまでにしばらくの時間がかかると予想していたが、予想より早く完成しそうだと彼が考えていることが、今回のインタビューの発言から分かる。

また今回のインタビューの中でAltman氏は、「5年前、われわれは少数の人間がAIをコントロールすべきではないと思っていた。AIを民主化すべきだと思っていた。でもその考えは明らかに間違っていた」と語っている。つまりAIを少数の人間がコントロールするほうがいいという考えに変わったということだ。

Altman氏は「われわれは企業統治のあり方を正しく改良しなければならない」と続けている。これらの発言だけだと、彼が何を言おうとしているのか分かりづらい。少し解説しよう。

OpenAIは、AIは人類の未来に大きな影響を変える重要技術なので、少数の大手テクノロジー企業だけが所有すべきではない、という考えの下、OpenAIは非営利団体OpenAI Nonprofitとして2015年にスタートした。しかし非営利団体としてでは十分な資金が調達できなかったため、非営利団体の下部組織として営利組織のOpenAI LCCを設立し、Microsoftからの資本を受け入れた。

営利組織の取締役会なら、急成長に大きく貢献したAltman氏のような社長をクビにするようなことは絶対にない。ところが非営利組織OpenAI Nonprofitの理事会の存在意義は、AIの民主化に反する経営をしていないか監視すること。AIの民主化に反する経営をAltman氏が行っていると判断したので、今回クビを通告したわけだ。

なぜAltman氏は、少数の人間がAIの方向性をコントロールしたほうがいいという考え方に変わったのだろうか。同氏自身、この辺りを詳しく説明していないが、OpenAIの幹部の一人、Ilya Satsukever氏が、別のインタビューでOpenAIの考え方を説明している。なぜOpenAIがAIの最新モデルをオープンソース化しないのかという質問に対してSatsukever氏は、オープンソースにすることで悪意のある人間に悪用される可能性があると指摘している。AIは社会に非常に大きな影響を与える技術なので、その最先端の研究開発はまず善意の少人数の人間だけで行い、悪用される可能性への対策を十分に準備した上で、オープンソースとして公開したほうがいい、と語っている。

恐らくAltman氏も同様の考えに変わったのだと思う。

AIの民主化を掲げる非営利組織が営利組織を監督するというOpenAIの企業統治のあり方が、今回の騒動を招いた。経営陣の考え方が変わったので、非営利組織が営利組織を監督するという企業統治のあり方を変えていきたい、というのがAltman氏の発言の真意だ。

こうした流れに対してイーロン・マスク氏は「OpenAIはクローズソースの利潤最大化を目指す組織で、実質マイクロソフトに牛耳られている」と語っている。そこまで極端な方向転換かどうかは分からないが、安全性への懸念が残る中、OpenAIを始めとする営利企業のAI開発は全速力で進んでいくことは間違いなさそうだ。