前回掲載したユヴァル・ノア・ハラリ氏とオードリー・タン氏の対談の和訳記事。かなりの長文にもかかわらず、非常に多くのアクセスをいただいた。また多くの方がSNSで感想を述べておられたが、受け止め方は千差万別。そこで、中でもおもしろそうな意見を書いておられた方に追加取材させてもらい、記事としてまとめることにした。

関治之氏（Code for Japan代表）

オードリーらしいなって思いました。オードリーは、技術は人間のためにあるというスタンス。「使い方次第だよね」というのが彼の主張です。

技術者でもあるので、プログラマーならではの返答が多かったですね。ハラリ氏が哲学的な仮定の話をしてきても、実務者として返答していたなって思いました。なので噛み合わない部分もありますが、全体的にはおもしろい議論になっていると思います。

ハラリ氏の主張は、本などで知ってはいましたが、誰かがコントロールしなくても、AIが人間の心理に影響を与えるディストピアに向かうリスクは、確かにあるなと思いました。

これに対しオードリーは、彼の持論なんですが、透明性と市民参画で対抗していくことを強調していましたね。僕も彼と同じシビックテック側なんで、そのリスクに対して、透明性と市民参画でしっかり対処していかないといけないな、と考えさせられる対談でした。

対談の最後の方でオードリーが、異なる意見を「分断」としてとらえるのではなく、「側面」だと理解することが重要だって言ってます。この視点がとても重要だと思うんです。何でも二元論で片付けない。アジア的な考え方だと思います。

僕は、アメリカで始まったCode for Americaの影響を受けて日本でもシビックテックの活動してきたんですが、とはいえなかなか難しさと感じていました。そんなときにオードリーたちが台湾でやっていたGov0という活動を見に行ったんです。

結果は、Gov０のほうがいいなって思いました。うまく説明できないけど、二元論じゃないんです。ロジックでこれが正しい、という感じでもない。

いろんな人に寄り添う。いろんな意見をあるがままに受け入れる。そんな感じなんです。

単なる「多様性」ではない。「多様性」を超えたような感覚なんです。これがオードリーたちの、すばらしさだと思います。

佐々木俊尚氏（作家、ジャーナリスト）

AIを人間が受け入れるかどうかという点で、二人の世界観の違いが分かって興味深かったです。

実は個人的に最近、中国、台湾などの儒教社会とテクノロジーの関係に、興味があるんです。

中国人がテクノロジーに対して違和感を感じない、という内容の本を読んだんですが、AIや技術の恩恵を純粋に受け入れようとする素地が中国にあるというのです。私はこれが実は、儒教的な要素じゃないかって思うんです。

儒教って、基本的人権、民主主義はどうでもよく、民を豊かにしてくれるリーダーであればいい、という考え方なんです。

中国は昔から難しい試験を通った文官のエリートに国を任せてきました。こういう考え方は、欧米から見れば非民主主義なんですよね。

今の中国共産党も儒教的。若い行政マンを地方に送り、業績を上げた者を中央に戻す、というやり方です。

つまり儒教は、たとえ民主主義的でなくても、世の中をよくしてくれるのであれば、それでいい。そういう考え方なわけです。

AIに関しても、儒教的な考え方と、欧米の民主主義的な考え方では、根本的に違います。

欧米は、どんなにAIが社会をよくしてくれても、それはアルゴリズムとデータであって、そんなものに社会を支配されるのは、人間の尊厳を揺るがす、と考えるわけです。

ハラリ氏も、欧米の一神教の考え方が根幹にあるのかもしれませんね。要するに、神から権限を与えられたのは人間だけであって、よれを揺るがしてはいけない、という考え方ですよね。

儒教は一神教とは関係のない、まったく違うレイヤーの考え方なので、神から与えられた基本的人権のような考え方は、そもそもないわけです。優秀であるはずの政治的リーダー、もしくはAIのようなものが何かの理由で間違いを犯したときには、それは天命を失うということであり、天命が失われたのであれば、かって皇帝がつげ変えられたように、体制が変わらなければならない、という考え方です。

ですので、対立する価値観というより、全然違う価値観と、とらえたほうがいいかもしれません。その辺りの価値観の違いが、ハラリ氏とタン氏の間で明確に見えたように思いました。現代の最先端の哲学者たちなんですが、言ってることは、一神教と儒教を引きずってるなって感じでした。

でもこれからの時代を考えると、中国的な考え方のほうが有利じゃないかなって思います。

AIって、どんどんデータを使っていかないと進化しないじゃないですか。最近プライバシーの問題で米国のテクノロジー大手が非難されることが増えてきましたが、これが米国のAIの進化の足を引っ張るのではないかと思います。

一方で中国は、そういうことを一切懸念していないので、ますますAIが進化するのではないかと思います。

そう考えると善悪は別にして、今後、東アジアが世界に対して影響力を持つようになるのではないかって思います。

かつて植民地時代に欧米は、欧米のリベラルな価値観を布教するために植民地化するんだと言ってきた。民主主義の価値観を植え付けたらアジアは経済成長するんだ、と信じてやってきた。自己正当化の理論でやってきたわけです。

ところが中国が独裁政権でも経済成長できることを実証しようとしています。こうなれば、欧米の帝国主義時代からの「普遍的なリベラリズムが豊かな資本主義を生む」という根本的価値観が揺らいでしまう可能性がある。そういう危機感が、欧米のほうにあるんだと思います。なので、そこは絶対に否定しなければならない。欧米は、そう考えているんじゃないかと思います。

七沢 智樹氏（東大情報学環客員研究員）

この議論の基本的な構造は、典型的な技術哲学の議論の構図で、ハラリ氏の「技術決定論」と、タン氏の「社会構成主義」の対立の構図です。この対立は、平行線に終わることが知られています。なので、司会者の方も困っていましたよね（笑）。

また、技術決定論は今のアカデミズムでは嫌われています。なので、ハラリ氏は自分が技術決定論者ではないと言っていますよね。でも、実際にはそのロジックは完全に技術決定論です。しかも、かなり強い。つまり技術（AI）が社会のあり方、人間の行動を決めるという考え方です。

ハラリ氏は、AIメンターが人格形成に影響を与えるようになり、それが問題だと主張しますね。しかし、それでいいのかと問うだけで、それ以上の答えは出さない。ハイデガーもそうですが、技術決定論的議論は、危険性を訴えることには字幅を裂きますが、答えを出すことは消極的なのです。

これに対し、エンジニアでもあり大臣でもあるタン氏は、実績を元に見事に回答します。タン氏の答えは、社会によって技術の使い方を変えることができるし、みんなで発展的に議論していけばいい。その種は既にまかれている。つまり、台湾では民間のエンジニアによって社会をよくするために技術が使われている、とタン氏は言うわけです。

これは、科学技術社会論と呼ばれる分野の議論であり、社会構成主義の考えにつながります。AIのような技術であっても、社会での扱い方によってコントロール可能であるということを前提にしています。

技術決定論の考え方はとても嫌われているといいましたが、なぜなら技術がすべてを決めてしまうと結論づければ、人間が為すすべはないことになり、それで議論は終わってしまうからです。思考停止してしまうわけですね。それに対して、科学技術社会論のように、AIをどう使えばいいか議論するほうが、発展的な議論になり未来に希望が持てます。

しかし、私はハラリのような技術決定論も、単純には否定はできないと思っています。なぜなら技術は、社会や人間の行動のあり方に明らかに影響を与えるからです。タン氏もコードは自然法則のようなものだと言いますが、まさしくそうだと思います。ある意味で逆らうことができないという点で正しいと思います。確かに新しい技術が人間の行動を変えてきたと思います。

そして、ハラリはより突っ込んだ議論を行っています。つまり、AIは究極の技術進化を遂げ、国家の機能を代替すると。歴史上、封建制度や資本主義システムなど様々な社会システムが登場し、それを通して支配者が国を治めてきましたが、そのシステムがごっそりAIという技術に代替されるようになると、ハラリ氏は主張するわけです。そしてAIの時代になり、人に代わってAIが人々をコントロールするということになる。それでいいのかと。

そう言われると、一瞬、それはまずいと誰しも思うかもしれません。映画でもよくあるテーマです。

しかし、この考えも技術哲学の文脈で紐解くならば、今度は、技術が自律的に発展するというオートノミーの話をハラリがしていることがわかります。技術が、人の手を介在せずに自律的に進化していくと。この考えは、技術決定論の考えをさらに推し進めたものとされ、今の技術哲学者でこういう考えをしている人はいません。技術は、これまでもそうだったように、人から分離して自律した行為者になることはないとされているのです。

個人的には、やはり、技術が人を抜きにして進化することには限界があるのではないかと思います。ハラリのような主張を論理的に否定するのは難しいですが、私も技術設計をしていたことがあるのですが、そういった経験からも難しいと思っています。

その点、タン氏は、柔軟さがあります。より実践的なとらえ方をしていて、AIであろうと、エンジニアリング可能だと考えています。また、タン氏は台湾の大臣で支配階級にも属していますが、視点は一市民であり、それらが一人のエンジニアの中に垣根なく合わさった視点からの発想なので、説得力があるわけです。そこには、支配と被支配のような対立構造を自在に超えていく東洋思想のようなものを感じるわけです。

このインタビューは、ポストコロナの時代においては、これまでのような固定的な見方をするのではなく、あらゆる二元性を超えて自在に世界を捉えかつ「実践」していくこと、特にエンジニアリングを通した実践の重要性を改めて教えてくれたように思います。