探そう、まだ見ぬ未来を。

人工知能の未来

AIが創造する未来は、人類にとってユートピアなのか、ディストピアなのか【前編】

長谷敏司 SF作家/株式会社モノゴコロ 船山聰・髙野智康

SF小説『BEATLESS』(著:長谷敏司/イラスト:redjuice)をご存じだろうか。2012年10月に角川書店から出版、日本SF大賞にノミネートされ、今も根強いファンが存在する話題作だ。

超高度AIと呼ばれる汎用人工知能が完成し、人類知能を凌駕(りょうが)、人類は自らより遥(はる)かに高度な知性を持つ道具とともに生きている時代。主人公の少年と脱走した人類未到産物hIE「レイシア」の出会いを描く。「ヒト」と「モノ」のボーイ・ミーツ・ガールが話題となった作品である。(作品紹介より)

2016年6月に開催されたAI関連のイベントでは、この『BEATLESS』のヒロイン、アンドロイド「レイシア」とモノゴコロの技術を融合したAIキャラクターが人間とコミュニケーションするデモンストレーションとして登場し、多くの来場者にインパクトを与え、ネット上ではファンを驚かせた。

モノゴコロは「モノに心を持たせる」ことを目指して独自AIエンジンの開発に取り組んでいる。AI技術によって人間が持つような「心」を作り出し、それをさまざまなモノに搭載して人間とモノとのコミュニケーションを実現させようとしているのだ。「Watson」などは巨大な知識データベースを活用した一種のエキスパートシステムだが、モノゴコロでは会話の意味を理解しながら応答するAIを開発している。つまり、「意味を理解するAIを作る」ことをミッションとしており、独自のアプローチをとっているといえるだろう。

そのモノゴコロとSF作家・長谷敏司がコラボレーションしたきっかけは、モノゴコロのスタッフに『BEATLESS』のファンがいたことだった。「コミュニケーションできるAI技術をどうプロモーションしていくか?」という課題に対して、著者の長谷氏に協力を請うたのだという。

そこで、今回、SF作家の長谷敏司氏と、株式会社モノゴコロ代表取締役、船山聰氏、営業・渉外責任者の髙野智康氏、による鼎談(ていだん)が行われた。独自のAI技術を追求する企業と、独自の世界観を形作るSF作家の目に見える、AIの未来像とはどのようなものか。

AIがもたらす未来はユートピアかディストピアか

――AIの未来をテーマとすると、一部では「AIがもたらす未来はディストピアになるのではないか」とも言われているところがあります。まずは皆さんが「ユートピア派なのか? ディストピア派なのか?」ということと、それぞれの立場から見る、AIがもたらす未来についてお聞かせください。

長谷:僕個人的には「AIがもたらす未来はユートピアか? ディストピアか?」という設問は、現実にAI技術が進歩してきた状況ではあまり意味がないと思っています。

なぜ、AIがディストピアを導くように見えてしまうのかというと、「AIとはこういうものだ」「人間はAIをこのように使うべきだ」というルールを一部の人が作り、好き勝手に扱っているように映るからではないでしょうか。

十分な資本や優秀な人材、圧倒的なバイタリティーを抱えるパワーのある人たちが、自分たちにとって都合がいいようにAIを使えるよう、ルールを作り、時には書き換えてしまう。それを見た多くの人たちは、事実はどうあれ「彼らはお金を稼ぐためにやっている」「自分たちの仕事を奪おうとしている」という風に捉えがちです。そして、彼らが生み出したAIがまた新しいパワーを生み出す源泉となる。

現在、世界中で最もパワフルな人物たちといえば、イーロン・マスク氏だったりアマゾンのジェフ・ベゾス氏だったりGoogleのラリー・ペイジ氏だったりといった人々でしょう。巨大な投資を行うプレーヤーたちという程度のくくりですが。彼らの存在感は計り知れないものがあります。そして、そうした実績によって脅かされる既存産業も数多くある。AIについても同様です。進歩は、たいてい象徴的な人物や会社名、あるいはビジネスの匂いとともにニュースに現れる。人間の仕事、役割がAIに代替されることが目に見えているからこそ、一部の人間は「AIがディストピアを招く」と警鐘を鳴らすのです。

――そもそも「AIがディストピアを招く」という議論そのものが、意味がないということでしょうか。

長谷:そうではありません。基本的に世の中の「良いのか悪いのか」などを決めるルールは、パワーを持つ人たちによって作られています。なので、ディストピアを描くパワーを握った人たちに対して、「AIはイエスなのかノーなのか」という論争をするためには、論争を仕掛ける、ユートピアを描く人たち自身もまた、対等な位置に立つ必要がある。つまり、パワーを持たなければいけないわけです。

相対するためのパワーを得るには、いまパワーを持っている人たちを納得させる、力のあるビジョンを打ち出していくことが必要となります。ディストピアを描くパワーのある人たちに、「このAI技術がもたらす未来は素晴らしい」と思わせるビジョンをユートピアを描く自分たちも作る。そのディストピアなAI技術や運用法自体を脅かすような、パワーのあるユートピアなAIを、対峙する自分たち自身が作っていかなければいけません。

黙っていても倫理的な世界や、ユートピアやディストピアがやってくるわけではありません。学者、研究者、経営者といったパワーを持った人たちが、AIのルールや方向性を決めるテーブルを囲んでパワーゲームをする機会は必ず出てくる。本気でAIのあり方を変えたいのなら、そこでパワーゲームを仕掛けられる立場にいなければならない。これは政治の世界も同じですよね。日本国国民として投票権はわれわれみんなが得ているけれども、本当に法律などのルールを変えたいなら、政治家なりそこに関われる立場にならなければいけない。どこまで本気なのか、ということです。

テクノロジーの進歩にブレーキをかけられるのか?

──AI界隈(かいわい)を見ていると、テーブルに着いていない外野から「いや、マズイよね」という声がたくさん集まっているという印象を受けます。それだけ関心度の高いトピックスだということだと思いますが。

長谷:テーブルや外野にもいろいろな種類があります。日本をひとつのテーブルと見なす場合もあれば、世界標準を決めるテーブルも存在する。「AIイニシアチブ」のような世界標準を決める場で、もし日本がAIの後進国だと判断されれば、日本だって簡単に外野入りするでしょう。そのときは、テーブルを囲む人たちからは「なぜ、AI競争に負けた人たちの言うことを巨額の投資をした僕たちが聞かなければいけないのか?」という話になってしまう(笑)。

世の中の決まり、ルールはパワーを持った人たちが決めている。これは昔から続く不変の真理です。だからこそ、倫理的に考えて「ディストピアが来るのではないか」と言う人たちは、本気で危惧する未来を変えたいのなら全力で走らないといけない。資金、技術、運動、文化、ビジョン……どんな形であれ、外野に置かれ続けない努力をしないと、どうしようもないのではないかと思います。

船山:長谷先生の話に共感するのですが、「AIが進化するとユートピアになるのか、ディストピアになるのか」ということではなくて、結局は学者、研究者、投資家や経営者といったプレーヤー次第というのがあると思います。最も心配しているのはこの点で、先行するプレーヤーが「チャンスばかり優先視してしまって、あまりそれ以外の弊害に関しては顧みない」となれば問題も多く出てくるでしょう。工業地帯から汚染物質が垂れ流された過去などはまさにこれで、テクノロジーは常にもろ刃の剣。利便性や利益ばかりが追求されるといろいろなことが起こる。でも、チャンスのなかでは、それは軽視されてしまう。

長谷:AIを生業(なりわい)にしている方などは、「俺はテクノロジーのプロだから、倫理のことは倫理のプロに任せればいい」と思っているのかもしれないですね。

船山:まさにそういう方々とお話ししたことがあるのですが、やはりあまり気にしていないという気がします。「そこを考えたら、何もできないでしょう」といった感じで……。いろいろな意味で怖いですね、この話は(笑)。

でも、その方々にとってそれは、ビジネス的な面ではある意味仕方がないことなのかもしれません。過剰にブレーキをかけ続けていても、技術は進歩しないし、発展しない。気がつけばブレーキを外したライバルたちに追い抜かれてしまうわけですから。

髙野:大阪大学知能ロボット学研究室の石黒浩教授も話していましたが、結局、責任というものを経済問題として捉えれば良いだろうと。「AIが自動運転する車が事故を起こした時、一体誰が責任を取るのか。AIに責任が取れるのか」という議論になると「それは保険の問題」とする。パワープレーヤーたちは世の中に「保険」という便利な社会システムがあるから、そこに一任すればよいという判断ですよね。

――確かに、そういう考え方がいいのか悪いのか分からないですね。ただ、自動運転領域のスタートアップに話を聞くと、「保険があればよいのではないか」といった回答は時折耳にします。

長谷:実際そうなんですが、それはそれとして「法的にどうなのか」という問題も一緒に考えなければいけません。でも、法がイエス・ノーを出すとしても、その法が「こういう論理だからこれが正しいね」とか、「こういう論拠だから納得せざるを得ないよね」ということをポジティブに社会に伝えられるパワーを持てるかどうかもまた別です。その社会にコンタクトする足場を作るのは、政治家でも経営者でも弁護士でも哲学者でもいい。

船山:そうですね。プレーヤーや意見を言える方々が、状況を詳しく正確に把握して、うまく監視としても機能してくれるといいなと思います。

長谷:監視として機能するシステムを作ったりとか、それだけの説得力のある論拠であったりとか、社会状況のデータなどをきちんと収集、分析した上で「これはこういう理由で、こういう結果が出ているからイエスだ、ノーだ」と言えるだけのエビデンスをきちんとそろえられるかどうかですね。そして、そうした説得力のある議論も技術の発展があった上で進んでゆくことなんです。

AIによるターニングポイントはいつなのか

――自動車が自動でブレーキングする機能が登場したとき、最初は世間も「機械にブレーキを任せるなんてとんでもない」という風潮でしたが、いざデモンストレーションをやると、誰もが「これは便利だ」となりました。あれが運転を機械がサポートするというターニングポイントになったかと思いますが、AIでは同じようなことがいつごろ訪れるんでしょうか。

船山:私はすぐ近いうちだと思っていますが、長谷さんはどうですか?

長谷:もう、すでにある程度変わってきている気がします。大きな転換点になったのは、多分、囲碁プログラムの「AlphaGo」ですね。「AlphaGo」が人間に勝利したことで、日本政府がAIの指針を作ることに本腰を入れ始めた感があります。

おそらく囲碁というのは政策決定をしている人たちにとって、分かりやすいターニングポイントだったんです。アメリカの人たちはどうだったのか知らないですが、日本の政策決定をしている人たちにとっては、おそらく「囲碁は人間にしかできない高度なゲームである」とか「将棋は陥落したとしても、囲碁はもっと先だよ」と思っていたものが、いきなりスパッと負けてしまった。そのことに対する衝撃というのは、日本で政策決定をしている、パワーを持った人たちに大きいインパクトとして伝わったのではないかという気がします。

――確かにあの頃から「AIが人間の仕事を奪う」という議論が白熱してきた感もあります。昔からある種言われている、SF作家の役割として、科学に対するひとつのアンチテーゼみたいなものとして「ディストピアを提示していかなければいけない」ということがあると思いますが、長谷さんとしてはどうお考えですか?

長谷:科学に対する疑いみたいなものや違った視点を提示し、科学を批判するというのは、SFの黎明(れいめい)期からSF作家の仕事のひとつみたいなところがあります。けれども、僕個人的にはAIに関しては、総論で「ノー」という話はできないと思っています。つまりAIは現実になっているので、すでに総論としてイエスとかノーの話ができる状態ではないんです。

――既に広く普及しているものに対してイエス・ノーと言っているのと変わらない、意味が薄いということですね。

長谷:程度の差はあれど、AIはスマートフォンにも入っているし、あらゆるものに組み込まれようとしています。その状況に対して乱暴にイエス・ノーを言うのは非常に難しい。おそらくAIが組み込まれた社会で、AIに対して、もしノーを言うとしたら、もっと焦点を絞って言わないと響かないだろうという気がします。そうでないと何かの不安をただ、あおるだけになってしまう。

不安をあおる文学や、不安をあおる言説は出てくるだろうけれども、これを理性的な切り分けをせずに置くのは、SFの仕事なのかというと、個人的にはちょっと賛同しかねるところがあります。

でも、SF作家には、テクノロジーに縛られずイマジネーションを広げるタイプのかたもいるので、そういうSF作家はおそらく、これからAIが一般的になる時代に対して別の答えを出すと思います。今の日本SFは、意見やビジョンにそういう幅を持てるぐらいには層が厚い。別のSF作家に聞いたら、また別の答えが出てくるでしょう。

――現代にジュール・ヴェルヌがいたとしたら、昔に書いた作品とは全然違ってくるでしょうね。あの人たちが生きていた時代だからこそのSFが成り立っていた。いまだと「これ、実際にできてしまう」みたいなことも結構あるので(笑)。

長谷:もしジュール・ヴェルヌがいたら、今ある技術を足場にして、もっと遠いところに行くビジョンを投げるかもしれないですよね。

船山:世の中はこれから変わっていくと思いますが、長谷先生の話を聞いて思うのは、一般の人たちはやはりテクノロジーや仕組みが理解できないと、未知のものに対する恐怖が強くなるのではないでしょうか。これがだんだん見えてくると、そこにこだわるのではなくて、より先のユートピア的な未来とか、いろいろな可能性を感じてくれるのではないかと思います。

(後編では、どのように社会にAIが浸透していくのか、人間とAIがどう付き合っていくべきなのかをお伺いします)

会場提供:d-labo ミッドタウン

LATEST POST