exaCommunity

exaCommunity exaCommunity exaCommunity exaCommunity

AI新聞 -AI WEEKLY- 人工知能の世界をもっと身近に AI新聞 -AI WEEKLY- 人工知能の世界をもっと身近に

ユヴァル・ノア・ハラリ、オードリー・タン対談「民主主義、社会の未来」全和訳

  • 2020.7.12

SHARE

iStock:NicoElNino

We translated RadicaxChange’s original article  “To Be or not to Be Hacked? The Future of Identity, Work and Democracy.” Into Japanese with the permission of Audrey Tang and Michael Zur of Yuval Noah Harari International Office. This is an abridged version of the whole conversation.  The whole conversation is available as a YouTube video.

 

 

イスラエルの歴史学者ユヴァル・ノア・ハラリ氏と、最先端のコロナ対策で一躍世界の注目を集めた台湾のIT推進大臣、オードリー・タン氏。私が個人的に今、最も注目している二人の知の巨人だ。この二人によるAIや民主主義の未来に関する対談が、RadicalxChange財団の手で実現した。過去から未来を読むハラリ氏と、テクノロジーの現場から未来を読むタン氏。非常に多くの示唆を含む対談になっているため、二人の許可を取って、対談内容をすべて和訳して掲載することにした。

 

まずは二人のバックグラウンドを簡単に説明しよう。ハラリ氏は、イスラエルの歴史学者・哲学者。オックスフォード大学で中世史、軍事史を専攻して博士号を取得。エルサレムのヘブライ大学の教授で、著書『サピエンス全史』は世界で1600万部を超えるベストセラーで、「ホモデウス」「21Lessons」などを合わせると2700万部を売り上げている。

 

一方のタン氏は、台湾のプログラマーであり政治家。中学を中退後、シリコンバレーで19歳のときに起業している。2016年に35歳の若さで台湾の行政院に入閣し、デジタル担当の政務委員(大臣)を務めている。米有力誌フォーリンポリシーが同氏を2019年の世界の思想家100人に選んでいる。

 

ハラリ氏はゲイ、タン氏はトランスジェンダーということで、対談は性的マイノリティーの話題から始まっている。

 

この対談は主に、ハラリ氏の歴史観からくる未来予測が、テクノロジーの観点からどの程度、的を得たものなのかをタン氏に質問するという形で行われている。

 

かなりの分量の記事になったので、「対談の流れ」を先に書いておきたい。時間のない方は、「対談の流れ」の中から気になる項目の部分だけ、本文を読んでいただければと思う。なおAIのことをハラリ氏は「アルゴリズム」、タン氏は「コード」と呼ぶが、以下の「対談の流れ」の中では「AI」という表現に統一した。またタン氏の主張の解説、ハラリ氏の主張の解説は、別の記事にまとめたい。また私なりの感想も別稿で展開したいと思う。

 

対談の流れ

 

【データをデバイスで管理】

対談は、二人の共通点であるジェンダー問題から始まるが、ハラリ氏はすぐに議論の方向を「人間以上にその人間のことをAIが理解する未来」に向ける。

 

ハラリ氏が10代のときに、高性能のAIがあれば、ハラリ氏の行動データからハラリ氏自身が気づく前にハラリ氏がゲイであることを把握していたのではないだろうか。こうした時代に生きることは何を意味するのだろうか。「テクノロジーは政治や社会にどんな影響を与えるのでしょうか」と問題提起する。

 

それに対してタン氏は、プライバシーの観点から回答。台湾で実装している「個人情報をクラウドに保存するのではなく、個人のデバイスに保存し、必要なときに必要なデータだけを共有する仕組み」を解説し、プライバシー侵害が大きな問題にはなっていないと語る。

 

ハラリ氏は、プライバシーの侵害が監視社会の台頭につながる可能性を指摘しながらも「台湾で行われているように、正しい行動を取れば、このディストピア的なシナリオを防ぐことができると思います」とし、プライバシーや監視社会に対する議論は一旦ここで終わりにした。

 

【価値観を変えたピンクのマスク】

一方で「しかし、正しく技術を利用しデジタル独裁の台頭を防ぐことに成功したとしても、さらに深遠な問いが存在します」とさらに哲学的な観点から問題を提起。「AIが本人以上にその人のことを理解するようになれば、人々は人生のあらゆる決断をAIに頼るようになるのではないか」とし、「哲学的には、これは我々の時代の本当に大きな問題だと思います。(中略)どう対処すればいいのでしょうか」と質問し直した。

 

これに対しタン氏は、プログラムは物理法則と同じで、それに逆らうことはできないと指摘。多くの国民が望むルールをプログラムにすれば、それは社会にとってよい結果になる、と話す。ハラリの哲学的な問いには答えず、監視社会の問いにさらに詳しく意見を述べた形だ。

 

ハラリ氏は、プログラムに偏見が混じっている場合もあるだろうと指摘、AIが価値観を左右するようになるのでは、と質問し直した。

 

タン氏は、ITの規格団体が絵文字の性差別の問題に取り組み始めた実例を話し、プログラムの書き換えを認める社会であれば問題ないという考えを示した。

 

それに対しハラリ氏は、プログラムは書き換えられても、それを書く人間の価値観や偏見は簡単には書き換わらない、と反論する。

 

タン氏は、台湾でピンクのマスクが女性的なイメージだったのが、一夜にしてかっこいいイメージに変わった例をあげ、政府が迅速に対応し、参加型フレームワークと高速なフィードバックの反復を組み合わせれば、価値観を変えることは可能だと主張した。制度の改定に何年もかかるのなら価値観は変わらないが、もし代替ビジョンをテクノロジーを使って社会システムに組み入れることができれば、「24時間で魔法のようなことが起きる」と語った。

 

 

【複数のAIアシスタントで人間の成長を支援】

ハラリ氏は、AIが人間の脳を簡単に操作できるようになれば、高速なフィードバックの反復だけでは「必ずしも十分ではありません」と反論。新しいタイプの独裁者の台頭の脅威を指摘したうえで、彼の最大の関心事である哲学的な問題に話を戻した。人間に変わってAIが大事な結論を下すことに対するタン氏の意見を求めた。

 

タン氏は、説明責任と価値観の2点でこれに応えた。台湾では、IT大手に対して、広告に関する生データを全部公開するように要求。ソーシャルメディアでユーザー一人一人をターゲットにした選挙広告を打てなくした話を説明。一方の価値観に関しては、1つのAIが意見を言うのではなく、複数のAIの意見を取り入れるようにすることで、偏ったAIの影響を回避できるとした。

ハラリ氏は、複数の意見のAIを持つことは1つの解決策だとしながらも、幼い頃からAIの意見を耳にしていれば、AIの意見が価値観に影響を与えるのは避けられないだろうと反論した。

 

 

【分散型台帳と市民の参加】

多様な意見をAIに組み込むことが解決策だと主張するタン氏と、それだけではAIが人間の価値観に影響を与えることを防げないとするハラリ氏。議論はこのままでは平行線なので、司会者が新型コロナウイルスなどの世界的な危機にテーマを変えた。

 

タン氏は、薬局やコンビニエンスストアに、マスクの自動配給機を設置し、マスクの在庫をリアルタイムで確認できる分散台帳型のIoTシステムの取り組みを説明。以前から同様の仕組みで大気汚染を観察するシステムがあったので、マスクのシステムを比較的短時間で実装できたと話している。

 

ハラリ氏は、情報にアクセスできる民主主義国家のほうが、国民に情報を知らせない監視国家よりも、パンデミックなどの世界的危機にうまく対応できると、台湾の取り組みを称賛した。

 

 

【21世紀の共通の価値観とは】

社会を1つにまとめている共通の価値観のことをハラリ氏は「物語」と呼ぶ。21世紀には21世紀に合った「物語」が必要だが、その「物語」にとらわれすぎてはならない、とハラリ氏は警告する。

 

タン氏は、21世紀の「物語」は「多様性」。台湾の斬新な取り組みを可能にするのは多様性を重視する考え方だと指摘している。また本当に苦しんでいる人たちのことを忘れないでプログラミングすることで、「物語」からも自由になれるとしている。

 

 

ハラリ国際事務局の依頼を受けて、対談のYouTube動画に日本語字幕をつけました。この記事の和訳より、直訳が多いですが、イントネーションや表情などから、直訳でも十分に理解できると思います。

 

 

対談本文


Puja Ohlhaver
皆さん、ようこそ、今日のRadicalxChangeのユヴァル・ノア・ハラリとオードリー・タンの対談です。私はPuja Ohlhaverです。この会話に参加できてとても光栄です。今日の会話のタイトルは「To Be or not to Be Hacked? アイデンティティ、仕事、民主主義の未来」です。

 

イスラエルからの参加者はユヴァルです。彼はゲイの歴史家であり、広く普及している3冊の本の著者で、皆さんも聞いたことがあるか、読んだことがあるでしょう。最初の本は「サピエンス全史」で、私たちの遠い過去の歴史です。二冊目は「ホモ・デウス テクノロジーとサピエンスの未来」で、私たちの遠い未来について書かれています。最新の本は「21 Lessons 21世紀の人類のための21の思考」で、今日のことについて書かれています。

 

台湾のオードリー・タンさんです。オードリーは台湾初のデジタル大臣であり、台湾初のトランスジェンダー内閣のメンバーでもあります。オードリーはまた、アーティストであり、ハクティビスト(ハッカー活動家)であり、無政府主義者でもあります。

 


まだLGBTプライド月間なので、今日はジェンダー・アイデンティティについての会話で始めたいと思います。特にお二人には、自分のジェンダー・アイデンティティを自分で発見した経緯と、それがテクノロジーに対する見方にどのような影響を与えたかについてお聞きしたいと思います。ユヴァル、まずはあなたから始めましょう。

 

 

【データをデバイスで管理】

 


Yuval Noah Harari
自分がゲイであることに気づき、カミングアウトしたことで、技術だけでなく、科学や歴史全般に対する私の態度が大きく変わりました。まず最初に、人が自分自身についてほとんど何も知らないということに気づかせてくれました。私がカミングアウトしたのは、21歳の時でした。

 


15歳、16歳当時を振り返ってみても、本当によく分かりません。私は男の子に惹かれていて女の子には惹かれていない。そのことは明白なはずでした。私は自分のことを知的な人間だと思います。なので、自分の性的指向については分かっていて当然なのに、当時はわかりませんでした。心の中は分断されていて、自分のことを自分で分かっていませんでした。

 


だからこそ、今日、新しい監視技術の発展を見ていると、最も興味をそそられる事の一つは、私が自分自身を知るよりも、誰かが私の事を知っていたらどうなるのか、という事です。私が10代の頃にFacebookやTikTokなどが存在していたとしたら、私がゲイであることが、私自身がそのことに気づくよりもずっと前にFacebookなどが気づいていたことでしょう。

 

企業や政府が、私のことを私以上に知っている世界。そんな世界で生きるということは、どういうことを意味するのでしょうか?これは、テクノロジーが政治や社会に与える影響について、私が今日抱いている大きな疑問の一つです。

 

 

Puja Ohlhaver
オードリー、あなたが自分のセクシャリティについて気づいた経緯を教えてくれませんか?

 

 

 

Audrey Tang
そうですね。まず最初に確認しておきたいのは、台湾は世界でも数少ない、いやおそらく世界で唯一、ゲイ・プライドやトランスジェンダー、LGBTIQの権利を守るための行進を行っている国です。2、3日前、そして昨日も行進が行われました。

 

台湾は、1年前に婚姻の平等を認めました。アジア初です。これで同性カップルが結婚した場合に、異性カップルと同じ権利と義務を持つようになりました。
私の生まれつきのテストステロン(男性ホルモン)のレベルは、おそらく80歳の男性のレベルしかありませんでした。私が13歳か14歳の時には、平均的な男性の思春期のテストステロンのレベルと平均的な女性の思春期のテストステロンのレベルの間のどこかに位置していたと思います。

 

インターネットに出会えたことはとても幸運でした。たとえわたしの住んでいる地域に、わたしのような人間がわたし一人だったとしても、世界中の同性愛者やバイセクシャルの人たちから、いろいろ教えてもらうことができたからです。


たとえ自分の住んでいる街には100人に1人、1000人に1人しかいなくても、インターネット上には同性愛者、バイセクシャルのサポートグループがあって、彼らが自分たちの実体験をシェアしてくれたからです。

 

その後、24歳の時にわたしの第二の思春期である、女性としての思春期が2~3年ありました。そのおかげで、政治家としてすべての異なる人々の意見を理解し、共感できるようになりました。

 

なぜなら自分の心の中に両方の性を持っているからです。
台湾が結婚の平等を法制化したとき、この法律は世代間の異なる立場を調和させることにもつながることに気づきました。年配の世代の価値観は、家族やグループを大事にすること。一方、若い世代は、より個人主義です。



しかしわれわれは台湾の法体系では、文化を超えた方法で異なる世代の価値観を尊重するように努めています。私はこの国の正式名称を「超文化人民共和国」と訳すことがあります。台湾を、文化を超えた形で1つにすることが、わたしのライフワークでもあります。

 

 

Puja Ohlhaver
素晴らしい。 ありがとうございます。 オードリー、あなたはユヴァルが言ってるような状況のことを心配していますか? つまりあなたがあなた自身のことを理解する以上にテクノロジーがあなたのことを分かっているという状況です。

 

 

 

Audrey Tang
私の仕事の大半は、民間セクターが彼らの生産手段を保持することに費やされます。RadicalxChange財団的な言葉で言うと、データ連合やデータ協同組合がデータの生産手段を保持することを保証するということです。

 

つまり、もし人々が言われるがままの方法でデータを生産し、その結果、監視国家や監視資本主義が可能になるのであれば、ユヴァルが語るシナリオにつながる可能性が十分にあるということです。

 


しかし、民間セクター、つまり一般市民が彼らのデータが収集されていることを理解すれば、話は違います。例えば、台湾では、コロナウイルスハッカソンの優勝者で、連絡先追跡技術で最先端のLogboard社が、ユーザーの現在地や体温、症状などの個人情報を収集していますが、そうしたデータはどこか転送されることはなく、携帯電話内だけに保存されています。

 

Logboard社の技術は、医療担当者が接触追跡の調査に来たとき、ユーザーの友人や家族についての詳細な個人情報を漏らすことなく、接触追跡に必要な情報への一度限りのリンクを生成します。従来のような接触追跡の面談のように、不必要な個人情報を医療担当者に話さないとならないわけではありません。これはごく簡単な1つの例に過ぎません。自分のデータを自分で所有、管理できれば、自分の個人情報は、最も親密で信頼できる友人や家族とだけ共有することができるのです。

 

企業、業界を超えたデータコラボレーションの仕組みは、「このサービスを利用する場合は、アプリをインストールしてください」と命令する国家や多国籍企業が社会に与えるインパクトよりも、圧倒的にパワフルであることがいずれ明らかになることと思います。

 

台湾のパンデミック対策が成功した1つの理由は、データをクラウドに保存するのではなく、個人のデバイスだけにデータを保存し、必要なときに必要なデータだけを共有するという考え方をベースにした、ユーザーと企業の協力体制にあるのだと思います。

 

 

Yuval Noah Harari
それについて一つ意見を言わせてください。 私は技術がすべてを決定するとは考えていません。技術的決定論を信じているわけではありません。つまり監視資本主義や監視全体主義のようなものは、アメリカでも中国でも、現在の技術的躍進の必然的な結果だとは思いません。

 

技術発展の結果ではありませんが、これまでの歴史の中で一度も見たことのない新種の全体主義が台頭してきていることもまた事実です。それは人々の行動を常にウォッチすることが、技術的に可能になったからです。これがわれわれが直面している最大の危険です。

 

スターリンのロシアでも毛沢東の中国でも、20世紀の最も暗黒の時期であっても、常にすべての人の行動をウォッチすることは技術的に不可能でした。あなたのことをあなた以上によく知ることは、単に技術的に不可能だったんです。

 

警察や政府の捜査官、KGBの捜査官が24時間、国民全員を尾行する必要があるとすれば、捜査官が足りません。たとえ捜査官が十分にいたとしても、彼らが作成する紙の報告書を全部読んで分析することなど、不可能です。

 


それが今では技術的には実現可能になりつつあるのです。捜査官は必要ありません。センサーやカメラ、マイクが全て揃っているからで、人間のアナリストも必要ありません。AIの機械学習があるからです。監視全体主義の可能性が出てきたわけです。ですが、必ずしもそうなる必要はありません。台湾で行われているように、正しい行動を取れば、このディストピア的なシナリオを防ぐことができると思います。

 


同じ技術を使って全く違う種類の政権を作ることができるということを、われわれは20世紀を通じて見てきました。韓国と北朝鮮を見てください。同じ民族、同じ地理、同じ歴史、同じ文化を持ち、同じ技術を使って、全く異なる種類の政権を作っています。

 

しかし、正しく技術を利用し、デジタル独裁の台頭を防ぐことに成功したとしたとしても、さらに深遠な問いが存在します。もしある政府が私たちを常にウォッチし、そのデータが責任ある安全な方法で収集され、政府や大企業のためではなく、私たちのためにデータが使われるようになったとします。
一見良さそうな状況ですが、そんな状況でも、深遠で哲学的な問いが残ります。どこの学校へ行くのか、どこに就職するのか、誰と結婚するのか、といった人生の中で最も重要な決断において、人間ではなくアルゴリズムが決めるようになる可能性があります。

 

オンライン政府が強制的に何かをわれわれにさせる、という話ではありません。自分自身よりもアルゴリズムのほうがわれわれのことをよく知っていて、よりよいレコメンデーションができると、われわれ自身が考えるようになるという話です。われわれが、人生の決断をますますアルゴリズムに頼り始めるという話です。

 

アルゴリズムは常に改良され続けます。それにアルゴリズムは完璧である必要はありません。人間がする予測の平均値よりも、優れていればいいだけなのです。アルゴリズムが改良されるにつれ、人々が自分の判断を信じるより、アルゴリズムを信じるようになる可能性があります。



哲学的には、これは我々の時代の本当に大きな問題だと思います。デジタル独裁のディストピア的なシナリオを防ぐことができたとしても、私たちは民主的なアルゴリズムにどう対処すればいいのでしょうか。

 

 

Audrey Tang
ではそのことについて議論していきましょう。アルゴリズムのことを「コード 」と呼ぶことにしますね。わたしがコードというと、アルゴリズムのことだと思ってください。コードはもちろん、ユヴァルが説明したようなインパクトを持っています。

 


コードはLawです。Lawといっても、法律ではなく、法則のようなものです。コードは、何が起こりうるか、何が起こらないかを決定する、サイバースペースにおける物理の法則のようなものなのです。サイバースペースの法則では「こういうことは起こらない」とコードで規定されていると、物理の法則同様にまず起こらない。ただ天才ハッカーの手にかかれば、物理の法則と違って「絶対に起こらない」とは言い切れないところがあります。とは言うものの、ほとんどの人にとっては、コードによって事前に規制されているので、それは起こらないと考えていいでしょう。

 

ですから、何が透明であるべきかということも決めることができます。例えば、台湾のように「市民に対して国家の行動を透明化」することもできますし、中国のように「国家に対して市民の行動を透明化」することもできます。


私たちが社会の一部としてコードを配備するたびに、それは規範を確立します。つまり、物理学のように、何が合法なのか、何が可能なのかさえコードが教えてくれるのです。「今日は物理の法則に違反しよう」などということは考えられないように、コードに反することはできません。



それは基本的に、今の私たちの文字ベースの規範とは全く違う立ち位置を持っています。市民が今の文字の法律に服従したくないのなら、2014年にやったように、故意に国会を占拠するでしょう。そして、それが合法だと主張して、裁判官を納得させればいい。

 

つまりコードを書くとき、法の下の公平さが担保されるべきだし、開かれた未来へ誰もがアクセスできるようにすべきです。もしそのコードの社会的影響に関して意見が分かれたとき、もし社会規範によって合意された結果になるのであれば、ポジティブな影響になります。一方、 少数の人だけが得をし、他のすべての人を制限するようなものであれば、ネガティブな社会的影響になります。

 


たとえそれが何万人ものプログラマーによって作られたコードであったとしても、社会規範に反するものであれば、それは一種の制限でありネガティブな社会的影響ということになります。

 

 

 

Yuval Noah Harari
コードと物理学を比較することは 非常に重要なポイントだと思います。多くの人はまだ、現実を形成するコーダーたちの巨大な力を理解していません。コーダーはE=mc²という物理法則を変えることはできません。 しかし社会的現実は、ますますこれらのコードによって形成されるようになっていきます。

 

とても簡単なことから始めましょう。昔、あなたは役所に行き、いくつかの書類に記入する必要がありました。書類には男性か女性かを チェックしなければならない箇所があります。選択肢はこの2つしかありません。申請書などの書類を書き上げるためには、男女どちらかにチェックマークを入れなければなりません。どこかの役人が、書類にはこの2つの選択肢しか必要ないと決めたからです。これが今の現実です。

 

 

 

Audrey Tang
ちなみにわたしは男女両方にチェックマークを入れますが(笑)。

 

 

 

 

Yuval Noah Harari
しかしシステムによっては、両方にチェックを入れることができない場合もあります。紙の場合はできますね。そういう意味で紙の方がまだ自由があるという良い例です。

 

コンピュータ上では、チェックを入れないと次の画面に進まないし、片方にしかチェックを入れられないように、コードで規定されている場合があります。これが今の現実です。

 

多分カリフォルニアに住む22歳ぐらいのプログラマーが、世界中の人々の生活に影響を与える、この深い、哲学的、倫理的、政治的な問題についてあまり深く考えずに、こうしたフォームを開発してしまったのかもしれません。

 

 

 

Audrey Tang
性別のチェックと同じような問題は、絵文字にも見ることができます、絵文字は、多くの人がコミュニケーションのために使用する、抽象的なシンボルです。非常に長い間、人の絵文字はすべて男性の図柄でした。女性の絵文字に切り替えるには、ジェンダーセレクターで設定しなおさなければなりませんでした。ちょうどここ1、2年の最近の出来事ですが、多国籍企業やコード作成者のための規格作りの団体であるUnicodeコンソーシアムが、一番よく使うような絵文字である「歓喜の笑い」「歓喜の涙」の顔は、デフォルトでジェンダーニュートラルに見える必要がある、と言い始めました。男の子に見えるようにしたい、女の子に見えるようにしたいのであれば、追加の作業をしなければならないし、男の子に見えるようにするのと、女の子に見えるようにするのとでは、同じくらいの作業量でなければならない、と主張し始めました。

 


こういうことが一般的になってきたのだと思います。もしプログラマーが今の自分の常識にこだわる場合、もしチェックボックスのメーカーが他の選択肢を許容しない場合、市民ハッカーに頼ることになると思います。将来の市民ハッカーが、将来の社会規範の変化に応じて修正してくれるはずです。
ちなみに台湾では、入国の際の空港で入力してもらう健康確認フォームには、男女以外の選択肢も追加されています。しかし、台湾はアジアで唯一、集会や言論などの自由が完全に守られている司法管轄区なので、市民ハッカーが不当に処罰されることはありません。アジアの他の場所では、同性婚ができないのと同じように、この種の市民ハッキングをすれば、トラブルに巻き込まれる可能性があります(笑)。

 

つまり、適正な手続きにのっとりさえすれば、アルゴリズムのコードを法のコードと同じよう書き換えることができるのかどうか。社会がそうすることにどれくらい前向きか。それ次第だと思います。

 

 

 


【価値観を変えたピンクのマスク】

Yuval Noah Harari
この問題は、繰り返しになりますが、私たちの生活を形作る自然法則と、私たちが考案したルールの違いは、歴史の主要なテーマの一つです。もちろんどの文化も、どの宗教も 、自分たちの法則は自然の法則であり、法を破る者は不自然なことをしていると主張します。

 

これは明らかに間違っています。あなたが言ったように、法律が本当に自然の物理法則に従っているのであれば、それを破ることはできません。でもどこかの宗教が来て、「二人の男性がお互いに愛し合ったり、二人の女性がお互いに結婚したりするのは不自然だ」と言った場合、法律が自然の法則にのっとっているのであれば、同性婚は間違いということになります。

 

光の速さよりも速く動けないような、本当の自然法則は、絶対に破れません。でも二人の女性がお互いに愛し合ったり、セックスしたりすることは、生物学的にも物理的にも可能です。人間が作ったルールだけが「ダメだ。間違っている。そんなことは許されない」と言っているだけなのです。ある意味、コンピュータコードの良いところは、多くの場合、簡単に修正できるということです。コンピュータコードが何らかの意図を持って書かれたものであっても、意図しない偏見で書かれたものであっても、簡単に修正できます。

 

人間の場合、ゲイや黒人に対し 偏見を持っている人がいれば、「この人が偏見を持っています。この仕組みに偏見があります」と指摘できます。それに同意してくれる人もいるでしょう。でも、それだけで偏見を変えることはできません。偏見は意識的な知性よりも 、もっと深い潜在意識から来ているからです。

 

さてコンピュータには潜在意識がないと言ってもいいでしょう。コードのどこかに偏見が含まれていれば、それを変えればいいだけです。 コンピュータのコードを同性愛者に優しいものにしたり、LGBTに優しいものにすればいいのです。人間の持つ偏見を変えることよりもある意味ずっと簡単です。

 

 

 

Puja Ohlhaver
これは興味深いポイントです。オードリー、あなたは先日の別の会話の中で、コロナ危機の際のピンクのマスクの話をしてくれました。市民テクノロジーのおかげで、ジェンダー主流派がピンクのマスクをサポートし、私たちの偏見を深く掘り下げて考えるという状況を実現できました。その例について少しお話いただけますか?

 

 

 

Audrey Tang
確かにそうですね。台湾では、パンデミック対応システムに見られるような、私たちが言うところの社会イノベーションは、「速い」、「公平」、「楽しい」の三本柱で成り立っています。人々の知の集合体における「速い」の事例をお話ししましょう。

 


スマートフォンでも固定電話でも、電話を持っている人なら誰でも、フリーダイヤルの1922に電話をかけることができます。中央伝染病コマンドセンター(CECC)の電話番号です。

 


4月のある日、ある少年が電話をかけてきました。「うちの地区では、医療用マスクを配給してもらってるんだけど、マスクの色を選べないんです」。彼に配給されたマスクは、すべてピンク色でした。「ピンクのマスクをしていると、クラスメイトにいじめられたり、笑われたりするかもしれない」。なので、学校に行くのが怖いと言うのです。

 


その翌日、CECCが毎日行っているライブストリーム記者会見で、男性医療官も女性医療官も全員がピンクの医療用マスクを着用して登壇しました。

 


このことは、すぐに全国的な注目を集めました。有名人のアバターや有名なウェブページの多くがピンクに色を変えました。ピンクは突然、最もカッコいい色になりました。またこのことを通じてジェンダーに関する社会通念の問題についても考えさせられるいい機会になりました。ある意味、国民全員がトランスジェンダーぽくなったわけです(笑)。

 


ここでのポイントは、もしあなが特定の社会通念に関して疑問を持っているのなら、電話一本で事態が変わる可能性があるということです。年齢は関係ありません。この少年はおそらく選挙権も持っていないと思います。

 


単純に電話をし、状況を説明したことで、CECCは動きました。もし何人かの男の子がピンク色だからといってマスクをしないのであれば、それは公衆衛生上の脅威です。すべての人にマスクをしてもらうため、CECCの医療官らは24時間以内にこのジェンダーに関する社会通念に対応してくれたのです。

 

この高速な反復サイクル、アジャイルな対応は、民間セクターをより強く、より強固なものにします。

 

コマンドセンターからの命令を待つことなしに、だれでもがルール作りに参画できるわけです。

 


基本的に、マスクをつけるということは、ある種のルールです。このルールが意味するものは、自分の手から自分を守るということです。台湾では、自分の健康には自分で気をつける、ちゃんと手を洗うというのが社会のルールです。マスクをつけるということは、このルールを自分自身と他人にリマインドすることでもあるのです。

 

マスクをするということは、他の人を保護するためにマスクを着用するという意味に加え、他の人を尊重するといった意味もあるので、感染モデルにおけるR値を減少させるための高い価値を持っています。またピンクの医療用マスクは、マスクをすることがカッコいいという要素も加えました。

 

統合すると、感染モデルに加えて、(ミームのような)情報感染モデルのR値も改善しているかもしれません。CECCは、このような社会にプラスとなるアイデアを増幅させる役割を担っています。これが「市民の共和国」というものです。

 

 

 

 

Puja Ohlhaver
オードリー、あなたの見解はテクノロジーを利用して、私たちのためにコードを使うことのようですね。 ユヴァル、間違っていたら訂正してください。あなたはコードが、既存の偏見をルールとして確定させることを心配しているようですね。オードリー、あなたの解決策は、参加型のフレームワークと高速な反復を組み合わせたもののようですね。それがあなたの解決策の特徴ですか?

 

 

 

 

 


Audrey Tang
はい、間違いありません。もちろん、公平でなければならないし、楽しいものでなければならない。そのことについては後でお話ししましょう。はい、「速い」部分はその通り。不可欠です。
政府が、システムの修正やパッチと呼んでいるものでしか対応しないのであれば、以前からある偏見や間違ったコードを修正するのには十分ではないでしょう。一年に一回、もしくは4年に一度の投票や選挙の年だけに、3ビットだけアップロードしているようであれば、偏見を修正するのには十分ではありません。

 


誰もが自由にフォーク、つまり代替ビジョンを開発し、24時間のサイクルの中で融合することができれば、魔法のようなことが起こる。それは、少数の市民テクノロジストが土木技術者のような役割を果たせることになります。なぜなら彼らのコードが人口の半分以上の人に使われることになれば、これらのコードは、高速道路や一般道路と同じような役割を果たすことになるからです。またさらなるメリットとすれば、誰もが異なる未来を想像することができるようになります。

 

 

もしそうした未来が大まかなコンセンサスを得られたら、つまり多くの人がそれを受け入れられるようになれば、ピンクがおねえ的な色から、とてもかっこいい色へと変化します。社会にとっての新しいリアリティーとして、わずか24時間で変わることができるわけです。

 

 

 

【複数のAIアシスタントで人間の成長を支援】

 


Yuval Noah Harari
私にとっての最大の問題は、またしても歴史的な観点からなんですが、民主主義は人々の欲望や感情に権威を与えるということです。これが民主主義における究極の権威です。4年に一度だけ、人々の欲望や感情を声に出すことは、確かに十分ではないということに私は完全に同意します。効率的ではない。

 


私たちが21世紀に直面し、今後ますます直面するであろう大きな課題は、今、人間をハックする技術があるということ。それらの技術が、今後われわれの欲望や感情をますます操作する可能性があるということです。

 


もちろん、歴史の中で、王や皇帝、預言者や宗教は、常に人々の心の中に入り込み、そこで何が起こっているかを理解し、それを操作しようとしてきました。歴史の中では、20世紀の全体主義運動のような洗脳の動きが何度もありました。

 


しかし、先ほどお話ししたような技術を持っていなかったので、常に全員をウォッチすることができませんでした。最終的には、生物学的な知識が不足していたことが最大の障害でした。

 


人間は、人間の脳の中で何が行われているのかを理解するための、生物学や脳科学の知識を十分に持っていませんでした。結局、人間の脳はブラックボックスで、スターリンや毛沢東やヒトラーのような人でさえ人間の脳の中で何が起こっているのかを本当に理解できませんでした 。

 


しかし今、コンピュータ科学のブレークスルーとともに生物学の分野でもブレークスルーが起こり、このブラックボックスを開けようとしています。このことで、人間をハックし、脳の中で何が起こっているのかを理解することができるようになろうとしています。したがって、全く新しい操作方法が可能になろうとしているのです。

 


何百万人もの人々の欲望や感情を大規模に操作できるようになれば、それに対抗するには「速いフィードバックの反復」だけでは必ずしも十分ではありません。

 


繰り返しになりますが、人間をハッキングする完全な能力、それはまだ未来の話です。私たちはまだそこには到達していませんが、ここ数年で起きていることは憂慮すべきことです。最近のアルゴリズムやアプリ、デバイスが、実際には既に人間をハッキングしているのです。世界で最も賢い人たちが、どうすれば大衆の感情のボタンを押せるのかという問題に取り組んでいます。大企業は、彼らの従業員である非常に優秀な人たちに対して、こう言います。 「人々は、われわれのアプリやデバイス、プラットフォームに対し一日に30分の時間を費やしている。これを1時間にしたい。これが今年の業務目標だ」。

 

世界で最も優秀な人たちに、このタスクを与えるわけです。人々の注目をハイジャックして、企業のプラットフォームに注目させる方法を探させるわけです。世界で最も優秀な人たちは、感情のボタン、恐怖のボタン、憎しみのボタン、欲のボタンを見つけます。こうすることで、人々の注目を集めることが簡単にできるからです。



未来を見ようとすると、またしても独裁者、新しいタイプの独裁者が台頭する非常に大きな可能性が見えてきます。しかし、たとえ独裁者の台頭を避けることができたとしても、人間の脳、人間の心をハッキングする新しいツールの台頭にどう対処すべきか、それが本当に大きな問題です。

 

インタビューの最初の部分の例で考えてみましょう 私が例えば14歳の時、アルゴリズムは私の行動を分析したとしましょう。アルゴリズムは、私の目が何を見ているのかを分析します。浜辺を歩いていて、かわいい男の子やかわいい女の子に注目しているかどうか。ビデオやテレビを見ている時に、私の目が何をみているのかを分析します。私が女の子より男の子が好きなのを発見したとします。アルゴリズムはそれを私に伝えるのか、もしくはその情報を基に何らかの形で、私を操ろうとするかもしれません。



例えばコカコーラがこの知識を使って、私が必要としていないものを売るために使ったらどうでしょう。セクシーな男たちのコマーシャルを見せられて、なぜか分からないけど、私はその製品を買ってしまう。それはこの知識を悪用していることになります。

 

しかし、本当に大きな問題は、もしアルゴリズムが悪意を持っていなかったらどうなるかということです。そのアルゴリズムが特定の企業のために働いているのではなく、単純に私の知らない私自身のことを知っている。一種の情報の不均衡です。この結果、何が起こるのでしょう?

 

つまり、アルゴリズムは、私がゲイであることを教えるべきなのか?それとも私がこのことにゆっくりと気づくように、徐々にいろいろなコンテンツを見せていくべきでしょうか?このアルゴリズムのような存在との適切な関係性とはどのようなものになるのでしょうか?

 

もう一つ。私たちはこれまでにも、ある意味でこのような存在を持っていました。母や父、教師などです。私の母は、私が14歳の時、私がゲイであることを知らなかったかもしれませんが、私自身気づいていない私自身のことをたくさん知っていました。

 

しかし、母は私のこと一番に考えた上で、そうした情報を活用してくれました。過去何千年もの間、人類はこうした有益な親子関係を築いてきたのです。

 

ところが私たちは突然、実際には母よりも遥かに私のことを知っている、全く新しい種類の「存在」を作り出しているわけです。しかもその「存在」であるAIのメンターと私が、どのような関係性になるのか。そのことについては、文化的、歴史的な事象で参考になるものが全くないんです。

 

私はこの件に関して、ディストピア的、ユートピア的なことを言いたいわけではなく、ただこの新しい技術からどのような関係性が生まれてくるのか、歴史学者として非常に興味深く感じているということです。

 

 

 

Audrey Tang
はい、この点に関しては、実際には2つのポイントがあります。1つは、説明責任の欠如です。コカコーラの例がありました。そしてもう1つは、価値観合わせの問題です。人間の味方であるマシンが、すべてを見通している問題です。
説明責任の問題は比較的簡単です。台湾では、前回の総統選挙で、政府の完全独立機関である「管理院」と呼ばれる部門で、1つの規範を確立しました。独立系ジャーナリストが分析できるように、選挙献金や選挙費用に関する生データを全部公開し、選挙を抜本的に透明化したんです。

 

政府がこうした方針に舵を切ったのは、私たち市民ハッカー活動家がこれを要請し続けてきたからです。時には政府に不服従の行為さえしてきました 。2018年の市長選挙の時に、私たちが実際に動き始めた時、大事な事が欠けていることに気づきました。選挙に関するソーシャルメディア広告が、選挙運動として一切報告されていなかったんです。ソーシャルメディア選挙広告の多くは出稿者が外国人でした。だれがどの候補の広告にいくら使っているかは、完全なブラックボックスでした。

 

外国からの資金がいくつかの国の選挙に介入したという報道を目にしたことがあります。ユヴァルが説明してくれたような高度なターゲティング技術を使った外国からの選挙介入です。一人一人の隠れた恐怖や希望が何であるかを、非常に細かな精度で予測し、その恐怖や希望を使って投票に行かないように誘導したり、特定の候補者を避けるように誘導したり、ある種の感情操作をしたりするわけです。

 


今、私は多国籍企業に「管理院を見てほしい」と言っています。この過激なまでの透明性が台湾の「普通」であり、あなた方には2つの選択肢がある、と言ってます。我々の管理院のように リアルタイムの広告ライブラリを公開し、台湾人を操作しようとしていることがバレて恥をかくか。それかソーシャルメディア広告でわれわれを操ろうとしないか、のどちらか。あなたがた多国籍企業の選択、あなたがた次第です、と言ってます。そのための法律を作ったわけではありません。基本的には、管理院の基準を満たさない場合、社会的な制裁があることを伝えただけです。フェイスブックは広告ライブラリを全面的にオープンにすることにしました。グーグルやツイッターなどは、選挙中に政治的な広告を出すのを止めました。

 

これは説明責任の問題に関する対処法の簡単な例です。これは比較的小さな問題です。一方、価値観を合わせるという問題は、はるかに大きな問題です。

 

 

私たちの母親や父親、地域社会の人々は、彼らなりの物の見方を基に、私たちへ賢明なアドバイスを提供してくれます。もちろん、私たちのことを思ってのアドバイスです。それはそうなのですが、アドバイスはに彼らの人生経験からくる偏見が含まれています。たとえいいアドバイスであったとしても、成長過程にあるティーンエイジャーにとって、アドバイス以外の可能性を閉じてしまうこともあるでしょう。

 

 

私にとって、この価値観の問題を解決する1つの方法は、基本的ルールとして複数の物の見方を提供することだと思います。人間のアシスタントと同じことだと思います。複数の人間のアシスタントが、あなたの価値観を理解した上で、それぞれの提案をします。もし一人があなたの利益にならない提案をしたら、残りのアシスタントがその一人と協議することでしょう。もしその一人が何度もあなたの価値観と違う提案をしたら、残りのアシスタントがその一人に警告を発するでしょう。

 

 

この「1つの意見ではなく、複数の意見を参照する」というのは、わたしの仕事上のモットーでもあります。例えば、私は「ユーザーエクスペリエンス」という表現ではなく、「ヒューマンエクスペリエンス」という表現を使います。ユーザーという表現のほうが特定の業界では一般的なのは知ってますが、ユーザーという言葉を使うと、その技術を使っている時間だけが重要という考え方になります。消費者の注目と時間を奪い合うゼロサムゲーム的な考え方です。

 

しかし、もしトータルな「ヒューマンエクスペリエンス」という考え方をすれば、異なる物の見方が相互にプラスとなり、最終的には自分という単一の視点から自分自身を解放することが可能になります。

 

 

 

 


Yuval Noah Harari
おっしゃるように、この問題に対処する一つの方法は、複数の人間や視点を持つことだと思います。

 


人々がアルゴリズムの脅威を口にするとき、よく言われるのが民主主義への悪影響です。確かにアルゴリズムによる選挙操作は、民主主義に悪影響を与えます。

 



しかし、長期的にはアルゴリズムが大統領や首相を操作する可能性があります。そのことに人々は気付いていません。人間社会への脅威というと、SFの世界ではロボットが反乱を起こして私たちを殺そうするという話になりがちですが、そうではなく人間が理解できないようなアルゴリズムによって、大統領や首相が政治の重要な決定を下すようになるかもしれないのです。

 

 


アルゴリズムが首相のところに来て、こう言います。「巨大な金融危機が起きそうです。なので、これを実行しなければならなりません。しかしその理由は説明できません。なぜなら、あなたの脳は私が集めた全てのデータを分析できないからです」。 つまり、たとえ首相が正式な責任者であっても、実際にはアルゴリズムが政治を行なっている。このようなことが、より頻繁に起こり始めています。

 

 

面白いことに、独裁政治の方がこの種のアルゴリズムによる乗っ取りに対して、実際にははるかに弱いのです。アルゴリズムによる乗っ取りについてのSF小説やSF映画のシナリオを書く時間があったら、中国共産党をその舞台にしたいと考えています。

 

 

もし共産党がアルゴリズムに対して下級官僚の任命権を与えたらどうなるのでしょうか?トップの人事は、政治的過ぎて複雑過ぎるので、下級官僚の任命権だけにします。

 

 

しかし、地方都市や支部などのすべての役人を任命するとしましょう。共産党の8000万人の全党員を常にモニターし、データを集めて分析し、経験から学ぶアルゴリズムによって任命するわけです。

 


なぜアルゴリズムがこの人を起用したり出世させたりするのか、党員のだれも理解できないままにアルゴリズムを信頼する。いずれそんな時代になる可能性があるように思います。

 


そしてついにはアルゴリズムが党を支配するようになります。ある日、党のトップがはたと気づきます。 「どうしよう。やり過ぎだ。もはやコントロールできなくなった」。気づいたときは、もはや手遅れ。アルゴリズムが下級官僚を全員任命してしまっています。

 

この種のアルゴリズムによる乗っ取りは、ロボットの反乱のSFシナリオよりも、はるかに可能性が高いと思います。また実際には、民主主義政権よりも権威主義政権の方がアルゴリズムによる乗っ取りが、はるかに簡単に起こります。というのは必要なのは、上層部の人々がアルゴリズムを十分に信頼するようになることだけだからです。一方、民主主義では、アルゴリズムが乗っ取るためには、何百万人もの人々にアルゴリズムを信頼するように説得する必要があります。権威主義的な政権では、一握りの人々を納得させるだけで十分です。それに彼らには、権力者がすべての情報を収集し何もかも知っていることがいいことだという論理を受け入れる下地が、既にできているわけですから。

 

しかしこれは可能性のあるシナリオの一つに過ぎません。 価値観問題の本当に深い問題は、たとえ民主主義があり、異なる物の見方をする人が数多くいたとしても、アルゴリズムが私たちのことをよりよく知っていて、 人生の意思決定の場面でアルゴリズムの意見に耳を傾けるようになると、 私たち自身の価値観も次第にコントロールされていくということです。幼い頃からアルゴリズムが私たちの側にずっといるのであれば、なおさらそうです。

 

 

私は現在44歳なので、私の価値観は何十年もの経験によって形成されてきました。今になってアルゴリズムが私のために意思決定をするようになったとしても、アルゴリズムが私の核となる価値観を変えることは難しいでしょう 。
しかし、もし赤ちゃんや幼い子供から、子供の人生についてより多くの決定がAIメンターによってなされるとしましょう。そのAIメンターは、実際にどこかの企業に仕えている邪悪なメンターではなく、その子供の利益のためを考えて動くメンターだったとします。

 

あなたはこのAIメンターを信頼していても、その決定がどこから来ているのか分からない。全てのデータを調べても、理解することはできません。しかし、これらの決定は子供が成長していく中で、その子の価値観を形作っていくのです。だから繰り返しになりますが、私はこのことについて、いいとも悪いとも考えていません。ディストピアになる、ユートピアになると主張しているわけではありません。歴史家として、この全く新しい状況を非常に興味深く思っているだけです。

 

 

 

 



Puja Ohlhaver
RadicalxChangeのアイデアの一つにデータの尊厳があります。オードリー、あなたは会話の最初の方で、アーキテクチャについて言及していましたね。ここで考慮すべきことの1つは、このような多元性を持つようにアルゴリズムをどのように構築できるか、データの尊厳をどう担保するのかということだと思います。

 

 

データの尊厳という考え方は、データの管理とデータの利用を分けて考えるというものです。この2つを分離することで、最終的には大手テクノロジー企業や政府が持っているデータの独占と独占欲を、打ち破ることになります。

 


管理と使用を分離すると、多くの異なるデータ協同組合や団体ができて、そうした組合、団体間で特定のアルゴリズムを受け入れたり拒否したりすることができるようになります。このような複数の集合体が持つデータの上に、複数のアルゴリズムが存在するようになり、われわれはその中から好きなアルゴリズムを選択できるようになると思われます。

 

オードリー、それはユヴァルが心配している問題を解決できる、説得力のある未来のビジョンだと思いますか?

 

 

 

 


Audrey Tang
一人のメンターという考え方は、一種の直線的な発達過程を前提としています。中学中退者の私は直線的発達過程の経験がないので・・・。大学とかいうものに通う人がいるとかいう話は耳にすることがありますが(笑)。

 

いずれにしても、何が言いたいのかというと、台湾では昨年からの新カリキュラムでは、子どもたちが自分たちでプロジェクトを設定して問題解決型学習で構造的な問題を解決していくように、アドバイスしています。

 

そして先生方は、それは学校の先生かもしれませんし、コミュニティ・カレッジの先生や、地域の高齢者学習グループや先住民族の言語サークルなどの先生であったりするかもしれません。

 

子供が例えば気候変動に関心を持った時に、紙の教科書が教えてくれるファクトや考えに頼るのではなく、気候変動に興味を持っている様々なサークルの先生にリーチし、そこから学ぶことができるようになりました。問題を理解して解決したいという強い思いがない事象に関して、いくら教科書で教えてもあまり意味がないからです。

 

自己動機づけ学習の考え方が、新しいカリキュラムの核心です。台湾では過去何十年にもわたって代替教育、実験的教育、家庭教育などの様々な教育実験を行なってきました。その結果として自己動機づけ学習のカリキュラムが始まりました。これらの教育実験はすべて合法で、過去10年にわたり台湾の若者の10%までは、公式のカリキュラムに縛られず、自分でカリキュラムを選択することができるようになっています。

 

何がうまくいって何がうまくいかないのかを学んだ上で、同じ問題に取り組んでいる自律的なサークル学習方法が最適であると判断したのです。この方法で、個人対個人の競争に発展しがちな東アジアで主流の教育の考え方から解放されることでしょう。

 


東アジアで主流の直線的な成長に囚われてしまえば、陸上競技のように1位、2位、3位と、子供達の間に勝敗が生まれます。しかし、解答を求めてシステム的な問題に取り組む場合は、基本的には自分でコースを選びます。ですのでスタートした時点で、既にだれもが勝利しています。

 

そうすると、あなたはまた、すべての異なる分野、すべての異なる文化から、超文化的な方法で新しい「(関心事の)星座」を形成している他の人々と出会うことになります。このようにして、あなたが出会った人たちは皆、全く異なる文化の中にいることになり、おそらく世界観についてはお互いに意見が異なることになるでしょう。

 

もし彼が拡張現実や支援知性で自分自身をエンパワーしようとすれば、彼らのアルゴリズムは恐らくまったく異なる価値観を持つことになるでしょう。そうすれば、子供はある意味で自分の「(関心事の)星座」を形成することができるようになるでしょう。

 


RadicalxChange財団の考えである交差データの考え方が、本当に光るのはここだと思います。自分自身をハッシュタグの束として定義した場合、より多くの次元を探求すればするほど、ハッシュタグの組み合わせはよりユニークなものになります。

 

最終的には、私は私が自分自身に関連付けるハッシュタグの集合体になり、異なるアイデアや異なる価値観に役立つデータを取捨選択するようになります。もちろん自分が選択した「星座」の本質に沿った形での取捨選択です。これがデータの尊厳という考え方の核心部分です。

 

 

 

 

Yuval Noah Harari
AIのメンターという考え方は、一つの軌跡や特定の価値観を意味するものではないと思います。まさにその逆です。それは実際には伝統的な教育システムよりもさらに探求と幅広い興味を奨励することができます。

 

音楽のようなことを考えてみましょう。私には特定の音楽の好みがあるとします。アルゴリズムの相棒やアルゴリズミックのメンターの未来シナリオの1つは、私の好きなものをAIが学習して、それをどんどん与えてくれて、私を繭の中、もしくは私自身の過去の偏見や意見の牢獄のようなものに閉じ込めてしまうというものです。

 

しかし、逆の見方をすると、私のことをよく知っているからこそ、新しい音楽に触れるための最良の方法を知っているということです。頑張りすぎると裏目に出ることもありますよね。だから、私に与える音楽の10%は、私自身では聞こうとは思わないようなジャンルの音楽にするかもしれません。また、一日や一週間の中で、私が新しい経験を最も受け入れやすい時間帯を知っていて、その時間帯に異なるジャンルの音楽をかけてくるかもしれません。

 

伝統的な学校のやり方では、我々は音楽の授業に行かなければなりません。音楽の授業は毎週火曜日の11時からです。そう決まっています。この時間に新しい種類の音楽に触れることに決まっているわけです。

 

しかし火曜日の11時は、かなり疲れていたり、何か気になることがあるのかもしれません。私にジャズやインドネシアのガムラン音楽を紹介するには、最悪の時間帯になるでしょう。一方、AIはその日の夜の7時は、私が新しい体験にオープンであるを知っています。なので、その時間帯に新しいジャンルの音楽をかけてきます。

 

このように人間をハッキングするということは、必ずしもそれまでの好みや偏見の中に閉じ込めてしまうということではなく、今までにない多様性や探究心につなげることも可能です。つまり、AIメンターは、様々な方向に向かう可能性があるわけです。

 

 

 

 


Audrey Tang
私は完全に同意します。私が直線的な進行と言ったとき、私は単に「彼ら」の代わりに「それ」でAIを参照していることを単数代名詞で言及しているだけです。

 

私が言いたいことはこうです。例えば私の個人の携帯電話は、このフィーチャーフォンです。タッチスクリーンもないので、ケータイに夢中になってしまうことはありません。あなたはどうかな?(笑)私はタッチスクリーンには、大変な中毒性があると思っていますし、ケータイに夢中になるのはあまり好きではありません。

 

フィーチャーフォンを持つことで私は、この携帯電話からの入力帯域幅を意図的に制限しているわけです。このことによってこのデバイスはおそらく、ユヴァルが先ほど説明したような私の好みにあう情報や、逆に新しい興味の対象外の情報を判断するような十分なデータを集めることはできないでしょう。それは技術的用語では「混合意志」といいますが、私の時間や私のコミュニティの中から「混合意志」を見つけることができなくなります。

 

このように十分なデータがないので、AIが私の好みを当てずっぽうに推測しようとすると、まず外れるでしょう。ときには笑ってしまうほど外してくるでしょう。なのでAIの推測結果を私はまったく気にしません。

 

これは医療用マスクをつけているようなものです。マスクが細菌やウイルスから我々を守ってくれるように、わたしを(無用なレコメンデーションから)守ってくれます。また例えばFacebook Feed Eradicatorと呼ばれるプラグインをインストールすると、Facebookアプリやウェブサイトから不要なFacebook自動フィードを削除してくれます。

 

Facebook上で何かを検索したりライブストリームを見たりといった、あなたが自らの意図で行うことは従来通りできますが、FacebookがAIを使って自動で表示するもの、予測不可能な部分、あなたの感情やドーパミンなどの発生させるような仕組みは削除できます。

 

何が言いたいのかというと、社会の主流意見がスパムに対し批判的になるまえに、スパムメールを自動的に削除するようなツールは、昔から存在していました。

 

最終的には社会の主流意見がスパムの問題について気づき、今日では、私たちはスパムメールについてそれほど心配しなくてよくなりました。

 


でもそうなる以前から、スパムメールが来た時に、それを読んでスパマーたちに情報を与え、それをベースにまたスパムが来るという悪循環に陥るのか。最初の段階でスパムを拒否することで、スパムが波及効果を起こす前にあなたとあなた自身のコミュニティを守るのか。あなたが選択できたわけです。

 

情報感染モデルのR値が1以下になってしまえば、これらの悪い情報や悪質な考え方は拡散しません。また社会のためになる情報であっても、我々の脳には入ってきません。我々の意識脳は、異なる情報を調整する役割を持っていると言われています。その調整のためには十分なスペースが必要です。たとえいい情報であっても大量に入ってこないようにする必要があるのです。

 

 


【分散型台帳と市民の参加】

Puja Ohlhaver
話を少し変えましょう。現在のCOVID危機を考慮して、世界的な問題について話をしましょう。ユヴァル、あなたの世界的危機のリストには、AI、気候変動、核兵器が含まれています。そのリストにパンデミックを追加したかどうかは知りませんが。

 

この危機の驚くべき点の一つは、台湾がここで例外的なパフォーマンスを発揮したことです。都市封鎖なしにウイルスの拡散を抑えました。台湾にとっては成功ストーリーであるわけですが、世界的にも大きな関心事だと思います。

 

オードリー あなたに質問ですが、台湾の成功はどのような話だったのでしょうか?台湾人をまとめ上げたのは民族主義的なアイデンティティーの共有だと思いますか?この成功を世界中で再現するためには、これから何を学べばいいのでしょうか?

 

 

 

 


Audrey Tang
実は同時に2つの危機があります。1つはパンデミック、生物学的な危機です。もう1つは、不安、恐怖、暴挙、陰謀論、パニック買いなどがあります。これらのことを「情報感染」と呼びます。 

 


もし陰謀論を耳にし、そして国が心のワクチンを提供しない状態、つまり基本的な科学的理解のためのコミュニケーション材料を積極的に出していない状態であれば、人々は実際に何が起こっているのか分からなくなり、認識論的な空虚感に苦しむことになるでしょう。そうなれば、ぽっかりあいた穴を陰謀論のような思い込みで埋める可能性があります。人々をより分裂させ、事態をさらに悪化させる結果になります。

 

台湾では非常に早い段階で、「速く、公平に、楽しく」という原則を確立しました。「速く」についてはお話した通りです。対策パンデミック戦略について関心のある人は1922に電話すれば、あらゆる質問に答えてもらえます。

 

あるいは、もっと詳細な質問をしたい記者たちには、毎日の午後2時のブリーフィングの機会を用意しました。しかしそれでも人々の恐怖心を鎮めるには、十分ではありません。例えばウイルス対策製品やマスク不足などの恐怖があり、マスクがコンビニや薬局で配布され始めた頃は、かなり早い段階からパニック買いが起こっていました。

 

そんな中、台南市のハワード・ウーという名前の市民技術者が、非常にシンプルなサイトを開発しました。彼は友人や家族を招待して、街のどの部分にまだマスクがあるかを報告するための地図のサイトを開発したのです。 緑色の部分はまだマスクの在庫があるお店で、赤いものは在庫がなくなった店舗です。

 

この非常に単純な仕組みによって、どの店で並ぶことが無意味で、どの店で並ぶことに意味があるのかを知ることができるようになりました。ただ彼は、このサイトが全国的な注目を集めることになるとは予想していませんでした。全国的に報道されると、彼は非常に迅速にウェブサイトを閉鎖しなければなりませんでした。彼はGoogle Map APIを使用していたのですが、全国的に有名になったわずか2日後には、20,000ドルものGoogle Mapの利用料金が発生してしまったからです。

 

彼のアプリを使っている人の一人が私でした(笑)。そこで私は首相に話をして「人々を信頼して、データをオープンにする必要があります」と訴えました。
このことは、オープンデータやオープンAPIを追求してきた台湾の歴史の中で、最も興味深い出来事の1つになりました。薬局でのマスクの配給に切り替えた際に、台湾の人口の99.99%をカバーする国民健康保険証を専用の機械に提示すれば、誰でもマスクを受け取ることができるようになりました。

 

その機械は、30秒ごとにすべての薬局の在庫レベルを公開するマシン・ツー・マシン・システムになっています。この機械からのデータを基に、100人以上の市民技術者が地図、チャットボット、音声アシスタントなどを開発しました。

 

この機械は、実質的な配布台帳になります。台帳はわずか30秒ごとに更新され、過去の数字を改ざんできない仕組みになっています。初めのころは一人当たり1週間に3枚、のちに2週間に9枚のマスクが配布されました。9枚配布されれば、数分後にスマホでアクセスすれば、その薬局の在庫レベルが9枚少なくなっていることが確認できます。もし特定の薬局の在庫がなくなったり、あるいはむしろ増加しているという異常事態が起こった場合、人々はその場で1922に電話して、CECCに報告できます。このことを割と詳しくお話ししているのは、実はこれこそがデータコラボレーションのアイデアの基礎部分だからです。

 


この仕組みは、公正な分配を確実にするために一人一人が責任を共有するというものです。この仕組みのおかげで、どの地域にマスクが余っていて、どの地域に不足しているのかを分析するダッシュボードを開発する人もいました。夜遅くまで働いていて薬局に行けない人もいます。そういう人のために、24時間営業のコンビニでもマスクの受け取りを可能にしました。この仕組みはもう既に世界的にも有名になっています。

 


これらのコードは、すべてオープンソースです。韓国の人たちは台湾モデルを例に挙げ、週に一度、一日に一度数字を公開するだけでは不十分だと韓国政府に訴えました。台湾がやったようにリアルタイムAPIを韓国でも公開する必要があると説得したのです。

 

韓国で最初のマスク配給マップのコードを書いたのは、台湾の台南に住むフィンジョン・キアン氏です。彼は韓国語が話せなくても、コンピューター言語のJavaScriptを書けます。JavaScriptが書ければ、ソフトウエア技術者がボランティアで、ある意味、土木関係のエンジニアのように社会に貢献できるのです。人口の半分以上に当たる1000万人が書かれたコードを利用するからです。

 

この話の核心は、公平性です。現時点では90%以上の人がマスクの配給システムを利用しています。残りの10%は恐らく、パンデミック以前にマスクを大量に保管していたのかもしれません 。

 


このアプリを使って、自分の取り分のマスクのうち未回収分を人道支援として海外に送付することもできます。taiwancanhelp.usというサイトに行けば、計500万枚以上の医療用マスクを海外に寄付した30万人の人たちの名前を見ることができます。

 

また政府高官がこの「台湾製 」とプリントされたマスクをつけていると、「 1日に200万枚のマスクを自動生産できる自動化された工場の設計図も欲しい 」と言われるので、その設計図もシェアしています。

 


「公平性」は、間違いなく国内だけではなく、本当に国際的な視点でもあります。これが、わたしのモットーである「速く、公平に、楽しく」の3本柱の1つである「公平」の話です。

 

 

 

Puja Ohlhaver
気候変動もまた台湾に大きな影響を与える国際的な問題でもあります。台湾は、この問題に関しても非常に興味深い社会イノベーションを起こしています。オードリー、市民によって運営され、分散型台帳上で実行される分散型センサーについて少し教えていただけますか?これも世界とシェアできる台湾の成功事例ですよね?

 

 

 

 


Audrey Tang
ええ、その通りです。マスクマップがすぐに試作できたのは、空気マップと呼ばれる別のマップが既に存在していたからです。台湾の人たちが自主的にこの分散型台帳に参加して、基本的には学校やベランダなどにセンサーを設置して気候を測っています。

 

例えば、大気汚染レベルなどを測定し、それを分散型台帳技術で動く市民IoTシステムにアップロードするわけです。

 

これは何を意味するかというと、もしあなたが大気汚染のある場所に住んでいて、大気汚染の状態を知りたいと思ったら、国内に100程度しかない高精度な気象観測所ではなく、近所の小学校に設置された空気センサーや、高校で情報技術の授業を受けている高校生の観察記録に、携帯電話などでアクセスできるということです。空気センサーは米ドルで100ドル以下、4Gネットワークは使い放題で月16ドルです。台湾ではブロードバンド接続は、人権の一つと考えられているので低価格で提供されています。

 

これらの仕組みのすべてが、全体としての情報レベルを向上させ、それがまた気候科学に貢献するわけです。分散型台帳の少なくとも1つのコピーは、ナショナル・ハイスピード・コンピューティング・センター(NCHC)にあります。NCHCのスーパーコンピューターは、世界のトップ20に入ります。省エネ部門ではトップ10に入ります。

 

いずれにしてもこのスーパーコンピューターは、どんな中学生のコードでも取り込むことができます。もし中学生のコードが大気汚染などを予測する上で優れているということになれば、中学生が自分のパソコンに膨大なデータをダウンロードしなくても、スーパーコンピューターを通じて市民のIoTシステム全体にアクセスできるようになります。

 

これを研究の民主化と呼ぶこともできるでしょう。気候研究や気候科学のような研究に必要なコンピューターを、趣味レベルの研究者にも開放しているわけです。これもまた、3本柱の原則のうちの公平性の原則の応用例になります。こういう土壌があったからこそ、私たちはマスクマップをこれほど早く実装することができたわけです。

 

 

 



Puja Ohlhaver
ユヴァル、これで私たちが直面している世界的な課題について、より楽観的になれましたか?

 

 

 

 


Yuval Noah Harari
そうですね、このようなグローバルな課題の多くは、解決策がグローバルでなければならないと思います。もちろん、それは個々の国に根ざしています。一番大事なのは、「ナショナリズムとグローバリズムの間に矛盾があり、どちらかを選ばないといけない」という考え方の罠に陥らないことです。

 

矛盾はありません。ナショナリズムとは自国民を愛することであって、外国人を嫌うことではありません。今回のパンデミックや地球規模の気候変動のような状況では、もしあなたが本当に自国民を愛し、彼らの幸福を願うならば、外国人と協力しなければなりません。愛国者になるには、グローバリストであることも必要です。矛盾はありません。先ほどからの台湾での取り組みの話を聞いて、そのことが分かると思います。

 

また、非常に重要なポイントが1つあります。パンデミックであれ、地球規模の気候変動であれ、これらの緊急事態に対処するためには、すべての人に何をすべきかを命令する権威主義的な政権が必要だと考えている人がいます。そうでなければ、コンセンサスを得ることはできないと彼らは考えます。


台湾の例は、その逆が正しいことを証明しています。また台湾に限ったことではありません。今回のパンデミックでは、権威主義的な中国が民主主義的なアメリカよりも優れた対応をしたのは事実ですが、台湾や韓国のような東アジアの国々や、ニュージーランド、ギリシャ、ドイツなど、疫病に最もよく対処してきた国の多くは、民主主義国です。なぜなら一般的に言って、十分に情報を与えられ、やる気になっている国民のほうが、何も知らされず監視されている国民より積極的に動くからです。

 

民主主義国で情報にアクセスできる国民がいれば、国民を取り締まることに無駄な資源を使う必要はなく、その国の施策はうまく行くでしょう。それが最善の方法です。

 

 

 

 


【21世紀の共通の価値観】


Puja Ohlhaver
実はそろそろ終わりに近づいているので、最後の質問をさせていただこうと思います。それは未来のための話です。ユヴァルは未来を見つめる中世の歴史家で、オードリーは現在をハッキングする技術者です。これらの地球規模の問題を解決するために、私たちのユニークで個性的な特性や違いを消し去ることなく、未来に向けて新しい共有の「物語(価値観)」をどのように展開していけばいいのでしょうか?私たちは新しいルネッサンスを切り開くことができるのでしょうか?そのルネッサンスの物語とは何でしょうか?オードリー、あなたどう思いますか?

 

 

 

 


Audrey Tang
確かにそうですね。台湾の将来を心配している人のために、私はまずは台湾という島の話から始めます。よく聞かれるのが、台湾はどこへ行くのか?国として、国家として、何を目指しているのか?

 


私はよく「それは予測可能です」と答えます。台湾の頂点、台湾の高度の最先端は、先住民族の言葉でサヴィア、パトゥンクオン、または翡翠山と呼ばれる山の頂上です。その高度が毎年2センチから3センチ伸びているのです。

 

台湾は、空に向かって成長している、空に向かって成長している、それが地質学的な答えです。なぜ台湾の頂点が成長するのか?それは、ユーラシアプレートとフィリピン海プレートの間に挟まれているからです。ぶつかり合っているからです。なので地震が絶えません。そこで私たちは、建造物の耐震性を高めるだけでなく、自分たちの考え方の耐震性も高める必要があることを学びました。

 

台湾では、学識者だけでなく、日常の実務家も含めて、多くの人が中国式の権威主義的なデータ管理が必要だと主張してます。一方で、ヨーロッパで主流の思想を主張する人もいます。ヨーロッパでは国家が監視するのではなく、個人のプライバシーを保護することが重要だとする思想が主流です。GDPR(EU一般データ保護規則)に代表されるような社会インフラを構築すべきだという考えです。また、アメリカに見られるような「データは石油のような資産で、そこから価値を抽出すべきだ」という考え方を主張する人も多くいます。

 


台湾ではこうした異なる考え方が併存しているのです。

 

 

今回の対談で最初に、婚姻の平等の法律化の話をしました。内縁の関係も合法化するという話です。私たちは常に、異なる立場から共通の価値観を引き出すという「イノベーション」に取り組み、成功してきています。こうしたイノベーションこそが、持続可能な真のビジョンであり、7世代先の人類の利益のために働くということなんだと思います。

 

それこそが重要なことであり、どうでもいいのは、今日の時点で人々がそれぞれの視点に基づいて争っているゼロサムゲームです。台湾は複数の視点からからのメリットを享受している。それぞれの視点は、将来的にはAIメンターによってサポートされるようになるのでしょうが(笑)。台湾で20以上の言語が話されているように、多様性を認めることが、支配的な思想から我々を解放してくれているわけです。

実はこの台湾モデルは、台湾に限定されているわけではありません。同じような考え方の人たちが、様々な方法でゼロサムゲームを超えて前進しています。例えば、今回の対談を主催したRadicalxChange財団は、経済市場の力を借りながら、社会的利益のために動いています。もしくは、その逆なのかもしれませんが(笑)

 

大事なことは、「分断の視点」というこれまでの過ちを犯すのではなく、違う意見を単なる側面だと理解することだと思います。両方の側面を促進させることで、より高い場所に上り詰めればいいのです。それが人類の未来でもあります。私たちは文明の多元性から恩恵を受け、実際に空高く成長していくことでしょう。

 

 

 



Yuval Noah Harari
人間は「物語」を語る動物です。私たちがこの地球を支配できたのは、我々が架空の「物語」を作り、それを信じることができる唯一の動物だからです。「物語」を作り出すことが、人間同士の協力関係の鍵です。

 

私たちが協力するのは、神々や国やお金などといった架空の「物語」を信じているからです。それらは自分の頭の中にしか存在しないのです。これは悪いことではありません。これが私たちの行動のほとんどすべての根底にあるのです。

 

お金には明らかに客観的な価値がありません。お金に価値があるのは、人間の頭の中だけです。客観的な価値を持つバナナとは対照的です。バナナは食べることができし、栄養になります。客観的な価値がないことは、悪いことではありません。お金がなければ、今のような商業ネットワークを持つことはできないからです。

 

大切なのは、物語の奴隷にならないで、自分たちに役立つ物語を作ることです。人類が常に直面してきた危険は、社会を組織するための大きな物語を作ってきたことにあります。物語を作ったあと、人類はそれが頭の中で作り上げただけの話だということを忘れてしまう。そしてそれに囚われてしまうのです。物語の名の下に、自分自身や他人を傷つけ始めるのです。

 

たとえばサッカーのようなゲームを例にとって考えてみましょう。サッカーはゲームです。人間がサッカーを作り出しました。サッカーは楽しいし、それ自体は何も悪いことではありません。でもサッカーの試合に負けたからといって、人を殴ったり殺したりするようになったら、大変な問題です。

 

それは未来を見ても同じです。人類を一つにするために 新しい物語を作る必要がありますが、物語はすべて苦しみを和らげるために作られるべきことを忘れてはなりません。

 

物語か現実を調べるテストがあります。現実は、すべてのコードとすべての物語の後ろに存在します。もしそれが現実であれば、苦しみを感じることができます。ある物が現実か物語を調べるには、それが苦しむことが可能かどうかで分かります。

 

あなたは国家やどこかの神や企業などを信じているとします。それが現実か物語かを知るには、それが苦しむことができるかどうかを考えれば分かります。国家は苦しまない。お金は苦しまない。ドルが価値を失っても苦しまない。コンピュータもそうです。コードも苦しまない 。

 

21世紀にどんな物語を作るにしても、新たな課題に対処するためには、常にこの問いを自問自答しなければなりません。実際に苦しんでいるのは誰なのか?私たちがすることはすべて、その苦しみを和らげるためにあるということを忘れないでください。そうすれば、私たちは安全な場所にいることになります。

 

 

 




Audrey Tang
その解釈はとてもパワフルで、とても啓発的ですね。牡蠣を食べるビーガンである私は、(中枢神経を持たない)牡蠣が苦しむのかどうかなどの議論はしませんね(笑)。本当に意味のあることは、人々に力を与えることです。人々とは、苦しむことができるあらゆる存在を意味しています。


痛みに最も近い人たち、本当に苦しんでいる人たちに力を与えるためにコーディングを続けると、彼らは(社会のためにコードを書く)シビックハッキングの意味においての「ハッカー」になることができるでしょう。彼らは、身体からの制限も、社会的立場からの制限からも、さらには何も生み出さないのに無自覚に繰り返してしまう「物語」からも、自由になれるのだと思います。

 


古い物語から解放された彼らは、新しい物語の織り手となり、サピエンス系のすべての人にとって、より良い運命を決定することができるのです。もし私たちがあまり苦悩を感じていない人々、すでに快楽主義的なライフスタイルを楽しみすぎている人々に力を集中させるならば、私たちは本当の危険にさらされています。

 


快楽主義はゼロサムゲームではないにしても、自己増殖して自己トラップ(罠)のサイクルに陥りがちです。また、ハックするかハックされるかは個人レベルの問題ではないと言いたい。むしろ社会レベルでのことです。(社会の不平等を測る)ジニ係数のように、痛みや苦しみに最も近い個人がどれだけ新しい規範やコードを共に作れるのかという「コード織り手係数」「物語織り手係数」のような指数を作って、それにそって生きていけるようにしたいですね。

 

 

 

 

Yuval Noah Harari
私は全面的に支持したいと思います。それはとてもすばらしい意見だと思います。

 

 

 

 

Puja Ohlhaver
すばらしい ありがとう。 ありがとう ユヴァル、ありがとう オードリー。 オードリー、あなたはこの美しい考えを発表してましたよね。あなた自身の物語で、特異点は近いに関する例の文書です。

 

 

 

 

 


Audrey Tang
分かりました。私の仕事のモットーを書いた文書のことですね。3年半前、私が初めてデジタル大臣になったとき、デジタルを、情報技術もしくは情報通信技術のことと誤解されることがよくありました。この場合の技術とは機械と対話するという意味しかありません。一方でデジタルとは、社会の新しい可能性を形成することを意味した言葉です。

 

この二つを区別するのは難しいので、私の仕事のモットーの説明文として詩というか、祈りのような文章を書いてみました。Pujaさんのリクエストで読ませていただきます。こんな感じです。

 

Internet of things(物のインターネット)を見たら、Internet of being(人間のためのインターネット)を考えよう。


バーチャルリアリティを見たら、リアリティの共有を考えよう。


機械学習を見たら、コラボ学習を考えよう。


ユーザー体験を見たら、人間体験を考えよう。


特異点が近いと聞いたら、多元性がここにあることを忘れないようにしよう。

When we see the Internet of things, let’s make it an Internet of beings.

When we see virtual reality, let’s make it a shared reality.

When we see machine learning, let’s make it collaborative learning.

When we see user experience, let’s make it about human experience.

Whenever we hear the singularity is near, let us always remember the plurality is here.

 

 

 

 

Puja Ohlhaver
とても美しいです。ありがとうございました。ありがとう、オードリー。ありがとう、ユヴァル。これがお二人にとって気づきの機会になれば幸いです。わたしには大きな学びの機会になりました。残りの「LGBTプライド月間」をお楽しみください。

 

 

 

 


Audrey Tang
長寿と、繁栄を。

 

 

 

 

湯川鶴章

AI新聞編集長

AI新聞編集長。米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』(2015年)、『次世代マーケティングプラットフォーム』(2007年)、『ネットは新聞を殺すのか』(2003年)などがある。趣味はヨガと瞑想。妻が美人なのが自慢。