なんでもないようなニュースから読み取れるAIのトレンド

この１週間はあまり大きなニュースがなかったけど、特段たいしたことがなさそうなニュースの中に、大きなトレンドが隠れていることがある。今週はそうしたニュースを２つほど解説したい。

◎政治家ボットはNG

米Washington Postによると、素人でも簡単にチャットボットを作ってリリースできるOpenAIのGPTストアから、次期大統領候補のDean Phillips氏のGPTが削除され、同GPTを開発した人物が出入り禁止となったらしい。（情報ソース Washington Post 有料）

その前にちょっと脱線。

日本人の間では「GPT」という言葉を、GPT-3やGPT-4といったOpenAIの基盤モデルの総称という意味で使っている人が多い。一方で、素人で簡単に開発できて、完成したものをGPTストアに並べることのできるチャットボットをどう呼ぶかというと「GPTs（ジーピーティーズ）」と呼ぶことが一般的になってきているみたい。

昨日、一般ビジネスマンとオンライン会議していたら、基盤モデルを「GPT」、チャットボットを「GPTs」と呼んで棲み分けていた。日本では、そういう定義が定着しているようだ。

でもGPTsの「s」は複数の意味のSで、OpenAIのCEO、Sam Altman氏のインタビュー動画を見ていると、チャットボット単体ではSをつけず「GPT」と呼んでいる。一方でGPT-3やGPT-4を「GPT」と呼ばずに、「Foundation model（基盤モデル）」と呼んでいる。OpenAI的には、GPTはチャットボットのことを指すようだ。

アメリカ人の間でも「ややこしい」と感じる人はいるようで、著名投資家のJason Calacanis氏はポッドキャストの中で「チャットボットはチャットボット。僕はGPTと呼ばないからね」と語っていた

でも本家がチャットボットをGPT、GPT-4などを基盤モデルと呼ぶのであれば、これに合わせるしかない。ということで、僕も本家の定義に従うことにします。

さて今回、使用禁止になったのはチャットボットの方。選挙活動団体が大統領候補のDean Phillips氏のGPTを開発。同氏のメッセージを広く有権者に伝えようとした。しかしGPTの利用規約は、①本人の許可なく実在の人物のチャットボットを作ることと、②選挙活動に利用することを禁止している。

実はここに大きなトレンドが隠されている。

自由にチャットボットを作ることのできるプラットホームの先駆者的存のcharacter.aiでは、実在の人物のチャットボットを自由に作れるし、政治的発言も規制されていない。

なぜOpenAIが実在の人物のチャットボットや政治的発言を禁止しているのか。

結論から言うと、OpenAIが開発中の次世代基盤モデルは、どうすれば人間を説得できるかという論理的思考が可能だからだ。

次世代基盤モデルが、論理的思考が可能だということは、Altman氏本人がBill Gates氏との対談の中で語っている。（情報ソース　Bill Gates氏のポッドキャスト　英語）

どんな技術を使えば論理的思考が可能なのか。ディープラーニングの3人の父の一人と言われるYann LeCun氏によると、計画エンジンだという。計画エンジンは言語モデルと組み合わせることで、相手の発言に対してどのように発言すれば最終的に相手を説得できるのかを計画できるAIになる。（情報ソース　X（旧twitter　英語）

LeCun氏率いるFacebook AIリサーチ研究所でも、言語モデルと計画エンジンを合体したAIモデルCECEROを開発しており、CECEROは対人間の交渉、説得タスクで、画期的な結果を出したという。

LeCun氏によると、トップAI企業はどこも計画エンジンの開発を進めており、関連する論文も多数出しているという。またOpenAIは、FacebookでCECEROを開発した技術者も雇用している。「ほかの噂は全部無視して。（OpenAIの次世代モデルは）計画エンジンの可能性が高い」（同氏）といいう。

年末にAltman氏が理事会から解雇通告されるという騒動があった。結局同氏はCEOに復帰し理事会は解散となったが、事の発端は次世代モデルの危険性を危惧する理事会と、開発を進めたいAltman氏の対立だと言われている。

何がそんなに危険なのか。Altman氏自身がウォール・ストリート・ジャーナルの取材に対し「（生成AIによる嘘の写真である）DeepFakeよりも怖いのが、明らかに分かるような形で説得してくるのではなく、知らない間に納得させられてしまうこと。（次世代AIは）それが可能。大きな社会問題になるのではないかと思う」と語っている。

論理的思考は、AIの進化にはぜひ取り入れたい機能。しかしその結果、思いのままに人間を洗脳できるようになれば非常に危険だ。どうすればいいのか。

少なくとも政治的発言を規制すべき。Altman氏はそう考えたのかもしれない。

チャットボットが大統領候補の考えを代弁するくらいなら問題はない。しかしその候補に投票するように有権者を説得するようなことになれば問題である。今のチャットボットにはそれができないが、次世代AIのチャットボットにはそれが可能かもしれない。

なので今から政治的発言を禁止した。今回のニュースの背景には、そういうトレンドが隠れているのだと思う。

◎OpenAIが半導体メーカーに

OpenAIのCEO、Sam Altman氏が半導体製造工場建設のための資金調達を進めているらしい（情報ソース　FortuneとBloomberg　英語）。調達予想金額が100億ドルという巨大な額で、中東のG42やソフトバンクから資金を集めようとしているのだとか。

AI向けの半導体が不足しているのでテック大手が軒並み半導体製造に乗り出しているが、他のテック大手は半導体製造といっても半導体を設計するだけで、実際の製造は台湾の製造専門業者に丸投げする場合がほとんど。でもOpenAIは、製造工場の建設にまで乗り出す計画だという。

今から資金調達しても工場建設、製造開始まで少なくとも数年は必要。

生成AIブームは、今年中にハイプサイクルの幻滅期に入るのかどうかが興味深いところだが、開発現場の最前線を見ているAltman氏は、ここ数年はAIブームは加速することがあっても減速することはない、と考えているようだ。
（情報ソース　フォーチュン　英語）

AIブームが加速すれば、どんな社会になるのだろうか。