バーチャル研究者が綴る『ホモ・デウス(下巻)』レビュー(前編) ～人間至上主義が終わる日

f:id:namonaki777:20191224042307j:plain — 話題沸騰の「ホモ・デウス」、皆さんは既にお読みになられたでしょうか？

はじめに

　こんにちは、なもなき(@Nam0naki_)です。

　この記事はVNOSアドベントカレンダーの23日目の記事となります。

　え？投稿日が24日になってる？気にしたら負けです。

　さて、簡単に自己紹介させていただくと、僕はバーチャルVR研究者として、同じVNOSのバーチャル美少女ねむさんと人類は美少女になるべきか議論したり、学術系アイドルグループHolographicの一員であるよーへんさんの配信によくお邪魔させていただいたり、何故か歌ってみたを投稿したりオリジナルソングを歌ったり、龍が如くを始めたとしたゲーム実況をやったりしています。

　あと、最近はよくTwitterにお料理とかお酒とかをアップしています。皆さんもよかったらおすすめのウィスキーを是非教えて下さい。

　さて、今日の記事では少し前に世間を賑わせた「ホモ・デウス¹」を読んだので、そのレビュー及びVR研究者なりの独自の解釈を加えて持論を展開したいと思います。

　なお、僕は後半に当たるホモ・デウス(下)しか読んでいません。なので、上巻で述べられていた項目については論じることができない、ということを先にお詫びしておきます。

　また、この本がどういう背景によって書かれた本かについてはここではあえて解説しません。僕のレビューを見て興味を持たれた方は是非本書を手にとっていただければと思います。

　余談ですが、相方であるねむさんがこの本について独自の論を展開していますが、こちらの本には一切こんなことは書かれておらず、むしろ人々が「ホモ・デウス」を目指すことに人々は技術を自らの手で制御できなくなる、と述べています(少なくとも僕からはそう読み取れます)。

f:id:namonaki777:20191224035701p:plain — この本は一言もそんなこと言ってないよ！ねむさん！

　一方で、僕自身も独自の理論を展開するので、この文章は『怪文書』として心のうちにとどめてもらえればと思います。　

　なお、本稿において何度も「事実」と「真実」という言葉がでてきますが、こちらの記事を参考に、以下のように区別したいと思います。

▶︎「事実」……客観的な本当の事柄。実際に起きた事柄。英語訳では「fact」。
▶︎「真実」……主観的に本当と思われること。嘘偽りではないこと。英語訳では「truth」。

人間至上主義が見た「夢」

　およそ700年前の1300年頃、我々の行いの「正しさ」を決めるのは宗教でした。同性愛は認められるべきか？何故人殺してはいけないのか？自分の今やろうとしていることは正しいのか？そのような様々な問いにぶつかったとき、人々は「過去」に答えを求めました。聖書を読み、司祭に教えを乞い、「神」が答えを教えてくれました。人々はその答えに従い、明日を、将来をどのように生きていくかを決めていました。

　しかし、科学を基礎とした人間科学至上主義によって、「正しさ」は大きく形を変えるようになりました。この経緯については「ホモ・デウス(下)」では詳しく述べられてなかったため、ここでは割愛します。

　現代において、多くの人は宗教に「正しさ」や「答え」を求めていません。「教え」は求めるかもしれませんが、もはや何かに悩んだとき、相談する相手は聖書に見聞の深い司祭ではありません。何故ならば、彼らは聖書は知っていても、彼らの求める「真実」は知らないからです。

　代わりに、人は「事実」を調べようとします。もしくは、どこかの専門家に「事実」を問います。あるいは自分でない、友達や家族、先生等に「相談」をします。もちろん、彼らは聖書のことをほとんど知りません。そして、それを元に自分に「真実」を問いかけるのです。「自分は何をするのが『正しい』のか？」と。

　宗教が絶対的に正しく、全ての答えを教えてくれるという考えは「人間至上主義」によって終わりを告げました。人々は「人間こそがこの世で最も正しく、最も適した『真実』を導き出すことができる」と言う境地に立ったのです。これは、科学技術の発展の賜物と言えます。人々はこの世のありとあらゆるものを技術によって制御し、操り、そこから得られる全ての利便性をこの手に享受するようになりました。技術の発展は人々の死亡率を大幅に下げ、投資家達は技術がこれから起こしてくれる「奇跡」に期待し、資金援助を行いました。結果、人々がこれほどまでに「便利」を享受することができる世の中が訪れるようになりました。

　もちろん、その裏では多くのものが犠牲になりました。科学技術によって大気は汚染され、水は汚れ、大量に排出された二酸化炭素は地球温暖化を引き起こしました。ただ、本稿ではこれについて述べたいのではなく、「人間の選択することは全て正しい」という「人間至上主義」が何故終わるのか、そして後編ではVR技術はどのような役割を果たすのか、お話していきたいと思います。

　科学技術の発展に傾倒し続けた結果、我々人間(ホモ・サピエンス)は全てを知り、遥かに優れた人間モデルを持つ新人類(ホモ・デウス)を夢見るようになります。しかし、ホモ・デウスに「なる」ことができるのは、果たして「我々」なのでしょうか？

f:id:namonaki777:20191224040317p:plain — 我々は「スーパー日本人」になることができるのか？

人間は必ずしも正しくない？ ~ 人間至上主義の終わり

　昨今、AIが(ある限られたシーンにおいて)ですが人間を知能的に上回るシーンを度々目にするようになりました。チェス、将棋、クイズ、囲碁……。AlphaGOがまだ10年、20年はかかるだろうと言われた囲碁の分野において人間を打ち負かし、一躍AIブームを巻き起こしたことは、記憶に新しいです。

　コンピュータが「学習」をしないただの「計算機」だったころ、それまでもっとも価値が高いとされてきたのは人間の「学習」、「経験」及びそれに基づく「思考」でした。人間は学校や図書、またはテレビやインターネットのメディアなどを用いてあらゆることを「学習」します。そして、実際に自分の目や耳、手足や舌等で多くのことを「経験」します。そして、それに基づいて人々は「思考」し、「答え」を導き出します。人類史上主義の始まりからここ10年前の現代まで、それこそが地球上最も自分にとって正しい「真実」だと信じられてきました。

　しかし、科学実験において、人間の導き出す「答え」が本当に思考によるものなのか、「学習」や「経験」に裏打ちされたものなのかどうか、ましてや「真実」なのかどうか、疑問に思われる事実が浮かび上がってきました。左脳と右脳が違った答えを導き出したり、脳波を観測することで人の「答え」を「思考」より前に予測することができたり、結論ありきで「物語る」自己であったり、人間はたとえ「経験」していたとしても「事実」を正しく観測しておらず、むしろ様々な「不具合」によって歪められた「真実」を観測しているとしか思えない現象が数々の実験によって明らかになってきました。これについては本書を是非手にとって見ていただきたいですし、認知バイアス等の「○○バイアス」で調べていただければいろんな「事実」を知ることができるので、是非調べてみて下さい。結論から言うと、人間は「事実」として、「不確定な真実」の断片から「意味」を見出したり、それをつなぎ合わせて一つの「物語」を紡ぎ出すことには非常に優れていますが、逆に「事実」を正しく観測することはできていないことが明らかになりました。

f:id:namonaki777:20191224040354p:plain — AとBが同じ色という「事実」を聞いても、我々がそれを「真実」として信じることはとても難しい²

　一方、コンピュータは科学技術の発展によって、自らデータを「学習」し、場合によっては自己対戦等によって「経験」し、その結果統計的に裏打ちされた「答え」を導き出す手法を確立しました。ご存知「機械学習」です。機械学習によって、コンピュータは人の「思考」に頼ることなく、自ら結論を導き出すことができるようになりました。機械学習には様々なアルゴリズムがありますが、基本的にはコンピュータがより効率的にデータを処理して、答えを出すためのお手伝いをしているだけで、人間が「こうやったらこのゲームで勝てるようになるよ」等といった「戦略」を一つ一つ手ほどきしてるわけではありません。場合によっては将棋などでは「三駒関係」という人間がおおよそ「戦略」として採用しないであろうデータをコンピュータは戦況判断するための「戦略」として採用したりします。

f:id:namonaki777:20191224040716p:plain — 三駒関係による価値判断の一例。将棋をかじってる人は直感的に「左のほうが良い形」と判断するのですが、これをコンピュータは全パターンにおいて数値的なスコアをつけて判断し、戦況を判断する。でも、最近はこの手法も頭打ちになっているそうです³

　ここでは、機械学習や、それに基づく強化学習、深層学習の手法については詳しくは述べません。もし、それらについて詳しく学習したいのであれば数学的な知識を身に着けた上で以下の本等に挑戦されることをおすすめいたします。

f:id:namonaki777:20191224040807j:plain — 恐ろしく難しい黄色い本で有名な一冊⁴。これを書いてる筆者を含め多くの人間があまりに難しすぎて匙を投げ出している。ちなみに一部の章は漫画で勉強することができるよ⁵。いい時代になったものだね。

　本稿で大事なことは、機械学習は与えられたデータから人間の理解できるような意味を見出したり、そこから物語を紡いだり、はたまた感情を想起させているわけではありません。あくまで「事実」の羅列、コンピュータ的に言えば「記号列」としてデータを統計的に「処理」します。そこには、バイアスによって「事実」を歪める余地は存在しません。人間が何らかの目的の下、データを「ありのままに」コンピュータに学習させないことはありますが。

　それよりも大事なことは、コンピュータは人間よりも遥かに多くの「事実」を処理し、人間を遥かに凌ぐ速度で「経験」し、裏打ちされた「答え」を出す、ということです。人間はせいぜい一分間に600文字程度しか文字を読むことはできませんし、人生を二倍速で経験する、などと言ったことは逆立ちしてもできません。せいぜいアニメを倍速で見るのが精一杯ですし、それ以上の速度で見たら、それを正しく認識するのは不可能に近いでしょう。しかし、コンピュータは計算機の計算速度の限界まで、それを成し遂げてみせます。そして、その計算速度は「ムーアの法則」に従い、頭打ち説がささやかれながらも順調にその速度を伸ばしています。

f:id:namonaki777:20191224040918p:plain — ムーアの法則が示すグラフとCPUの処理速度の相関⁶。2010年代後半になって限界は見え始めているものの、この計算速度の向上と機械学習の発展には切っても切れない関係がある

　果たして、こうなった時に「事実」を正しく判断し、より正しい「答え」を導き出してくれるのは一体誰なのでしょうか？

ホモ・デウスの座に座る者 ~ AI様の言う通り

　記号列としてデータを「正しく」与えることさえできれば、コンピュータは人間よりも遥かに早く、正確な答えを導き出すことができる時代はそう遠くありませんし、既に多くの分野で「事実として」そうなっている分野は数多くあります。ウーバーは人間の手を殆ど借りる事なく何百万ものタクシー運転者を管理することができますし、世界の株式市場の注文の多くは既にAIによって行われています⁷。こうなったとき、もはや「正しさ」は人間のものであると言えるのでしょうか？機械学習のプログラムを作るエンジニアでさえ、データの前処理を請け負ったり、「今回はこのアルゴリズムを使って学習して」と「お願い」することはあるものの、その結果コンピュータが何を学習しどのような答えをだすのか、そしてそれは何故かを正確に知ることはできません⁸。でも、実際にその答えに従ったほうが、多くの場合⁹何故かうまくいってしまう。

　こうなったとき、人間より全知全能で遥かに優れた見識を持つ「ホモ・デウス」は一体「誰」なのでしょうか？少なくとも、我々ではない「誰か」なのは確かなのかもしれません。もし、未だに人間が正しい判断をしている分野があったとしても、それはまだ「事実」をコンピュータが扱いやすい「記号列」にできていない、もしくはできる環境が整っていないだけであり、整った暁にはAIの判断が人間を上回るのはそう遠くない未来だと言えるかもしれません。そして、場合によっては「あなた自身」のことでさえ、「あなた」でない「誰か」がより「あなた」を知る時代が訪れるのかもしれません。

f:id:namonaki777:20191224041047p:plain — 「人工知能に首輪をつけられてペットのように飼いならされている幸せな人類のイラスト」だそうです。人工知能のおかげで人類は幸せになったよ！やったね！

　ここまでが、ホモデウスの著者、ユヴァル・ノア・ハラリが導き出した「結論」です。但し、この本は以下の３つの重要な問いをもって締めくくられます(ここはそのまま引用します)。

1. 生き物は本当にアルゴリズムにすぎないのか？そして、命は本当にデータ処理にすぎないのか？
2. 知能と意識のどちらのほうが価値があるのか？
3. 意識は持たないものの高度な知能を備えたアルゴリズムが、私たちが自分自身を知るよりもよく私たちのことを知るようになったとき、社会や政治や日常生活はどうなるのか？
—『ホモ・デウス　下　テクノロジーとサピエンスの未来 ホモ・デウス　テクノロジーとサピエンスの未来』ユヴァル・ノア・ハラリ著
http://a.co/b9Mmdxw

　これらの問いは、我々人類(ホモ・サピエンス)にとっての「希望」なのかもしれませんし、最後に課せられた「使命」なのかもしれません。

ホモ・デウスで語られなかったこと ~ VR技術の果たす「役割」とは？

　さて、ここまでが僕なりの「ホモ・デウス(下)」のまとめであり、僕にとって重要な要旨を述べたものです。もはや事実を正しく認識する役割は人間が完全にイニシアチブを取ることは不可能となり、AIの言うことに少なくとも耳を傾けざるを得ない世の中になりました。それは、僕や皆さんの日常にも既に浸透しており、Google Chromeを開けばWebの閲覧履歴に基づいてAIによって選定されたおすすめの記事が目に止まりますし、Amazonを開けば購入履歴や閲覧履歴に基づいたおすすめの商品がトップページにでかでかと映し出されます。しかも、厄介なことにこの記事や商品は完全に「AIのみ」によって選定されたものではなく、何らかの意図をもって選択されたものも混ざっているようです。一方、そのおかげで提示データに「歪み」が生まれ、我々は幸いにもそれを積極的に「選ばない」自由を大いに行使することができます。

　しかし、もしそれが本当に我々にとって「正しい」選択であったとしても、それを享受しない人、言い換えるなら享受「したくない」人は多くいることでしょう。何故ならば、何故その選択が優れているのか、誰も教えてくれないからです。それはAI自身ですらそうで、それをいくらAIに問おうとも『得られたデータとそれに基づくアルゴリズム処理を行った結果こうなりました』としか言ってくれません。それを聞くと、人によっては『ロボットがおすすめする商品なんて温かみがないから買わん』なんて理不尽なことを言う人も出てくるでしょう。それに従うことが結局の所最も正しい選択であるのにも関わらず。

f:id:namonaki777:20191224041207p:plain — 来年もよろしくお願いいたします。手書き文字、温かみがあっていいですよね。この文字が本当に手書きで書かれたものなのか僕にはわかりませんが！

　人は「理由」を欲する生き物です。何故そのような選択が行われたのか？そこにはどのような「物語」があったのか？それがないままに「結論」だけを突きつけられるのは、どうも収まりの悪さを感じます。パッと見どうも正しそうに見えるけど、何故それに従う必要があるのか？それを納得できるように語る術をAIは今の所持ちません。しかし、僕はここに大胆に新しい技術を持ち出します。それが、VR技術です。そして、ここにこそ、判断に敗北を喫した我々の「自由」があると僕は考えます。

　さて、ホモ・デウスをまとめているだけでずいぶん長くなってしまったので、続きは後半で語ることにしようかと思います。可能な限り年内には後半の記事をまとめて、VNOSアドベントカレンダーのまだ開いてる日程に突っ込もうかと思いますので、皆様どうぞ期待せずに待っていただけると幸いです。

　それでは。