探そう、まだ見ぬ未来を。

人工知能の未来

AIが創造する未来は人類にとってユートピアなのか、それともディストピアなのか【後編】

長谷敏司 SF作家/株式会社モノゴコロ 船山聰・髙野智康

AIが浸透した世界のビジョンとは

――未来のビジョンについて、どのようにお考えですか?

長谷:昔からディストピア像のひとつの定番として、ジョージ・オーウェルの小説『1984年』に登場するビッグ・ブラザー的な監視社会というのがありましたが、AI化した社会は基本、監視される社会です。あらゆるデータが取られて、それがフィードバックされていく。

では、監視されることと人間生活や人生との関係はどうか、ということを考えたとき、例えばカメラやセンサーが常に室内にあって、それが人のデータを捉えることによって健康状態が分かるようになるかもしれません。そういうものはSF的には、「それは素晴らしいもののように見えて、実は問題があります」といった、管理社会のひとつのディストピア的なビジョンとして使われてきました。しかし、それが技術的に実現したとき、果たして「ディストピアだ」と片づけてしまっていいのか、それは分かりません。そのころには日常的な風景になっているかもしれないからです。

――要介護者を見守るという意味でカメラやセンサーを設置することに対して、以前に比べれば容認する声が増えつつあると感じています。もちろん、プライバシー保護などの問題はありますが。

長谷:監視を受け入れる社会になると、老人の見守りとして家にカメラを設置する方が、その家に人を派遣して様子を見回るよりコストは下がるでしょう。また、病気になってから医療機関にかかる費用より、センサーでデータを取り続けて予防するほうが負担も抑えられるはずです。

「四六時中、人間を監視する」ことに抵抗があった人たちも、老人介護や医療費の増大などの話をし、適切な技術の使われ方がされれば「やむを得ない」と考える気がします。社会として老人や必然的にコストのかかる人たちを見捨てないために、人間的な選択をした結果になるわけですよね。そこはどういう社会で、どういう条件を備えていたらディストピアなのかという問題は、僕たちの選択とテクノロジーや経済の状況、パワーの状況によって、答えを変動させていく必要があると思います。旧来のディストピア観を恐れて人間を見捨てるなら、それは本末転倒ですから。

――大量の情報を機械が収集するなかで「もしハッキングされて情報が盗まれたらどうするのか」という議論もありますよね。

髙野:一方で、人間の手による個人情報の流出問題もあります。人間にすべて任せておけば大丈夫なのかというと、そうではない。結局悪意ある人間による情報流出を完全には止められません。実はこのまま人間の手に任せ続けると、逆にディストピアが来るのではないか、と。

船山:最近の傾向としては、個人情報の取り扱いはすごく繊細になっていると思います。たとえば、画像処理の分野ではある特徴だけを残して、個人が特定できるような情報は残さないようにしていくとか。これからは個人情報などの扱いに関して、世の中全体の合意が必要だろうと思っていますが、そこはいずれ解決できるテーマだと思っています。

――今までは、生のデータをそのまま保存して、それがもし流出したら、という話でしたが、現場の技術者の方々は、そこは意識しているわけですね。

船山:そうですね。暗号化による情報のセキュリティーを確保しながら、なおかつ基本的には人間はそれを参照しないでAIだけが取り扱う。ルールや権限をしっかりと確立していくことが重要になると思います。

髙野:分かりやすいところだと、トイレの見守りシステムというのがあります。トイレにカメラがあると、みんな「とんでもない」と思うでしょう。でも、コンピューターに記録される情報は、サーモセンサーのように、まったく個人が特定できない状態なんです。トイレで倒れて動かなくなったり、何か異常があったりしたときだけアラートが鳴る。そういうシステムだと「付いていたほうがいいね」となるはずです。

長谷:昔、ディストピアと思われていたものが現実化したときに、その当時に思われたことと同じ意味合いを持っているとは限りません。産業革命時には失業の恐れを感じた労働者が織物機を破壊したというエピソードが残っていますが、今そのようなことをする人はいないでしょう。それは、機械を脅威ではなく、共存できる仕事のパートナーだと理解するようになったからです。AIについても共存できる形にするかしないかは、言ってみればわれわれ作る側、つまり人間に任されています。

ユートピア、ディストピアというものに関して、考えなければいけないとしたら、おそらく昔に描かれたユートピア、ディストピアに近いかどうかではなくて、20年後や30年後、長いスパンで言えば100年後とかの人たちに対してどのくらい責任を持つか、どのくらい次の世代につなげるものを作れるかが大切だと思うんです。モノづくりのコントロールがまだ人類の手にある私たちのバトンが次の世代に移ったとしても、ちゃんと継続して何かを作り続けていくことができるか。そんな終わらずに思考を継続していく感じがあります。

髙野:幕末の志士が抱いていたような「百年の計」みたいなのが、これからも必要になってくるでしょうね。あれくらいの長期的なビジョンがないと、軸足がふらついてしまうというか。

長谷:そうですね。100年後のAI社会を、常に考えながらビジョンを更新し続けたほうがいいなという気はします。

――2017年に考える100年後と、10年後、2027年に考える100年後でも大きな乖離(かいり)があるのは間違いなさそうです。

船山:だから、性急に何かを決めて、取り返しがつかない状態にならないよう、常にその時その時のリーダーがビジョンを変えられる自由みたいなものを残しながら、進められればいいのかもしれないですね。

われわれとしては、AIの世界に関わるということの責任を重く考え、いつの日か世界を、人間というか、生き物にとってのユートピアに近づけられたら、と考えています。『マトリックス』や『ターミネーター』のようなアメリカ映画で描かれるディストピア像に対するカウンターはあてていきたい。AIの役割には、「人間ができることを代行する」ということもありますが、「人間ができなかったことをする」ことができます。例えば、介護や精神医療の領域などで、真正面から取り組むと、人間だとどうしても途中で疲れてしまうことがある。でも、AIは疲れるということを知らない。だから、とことんまで人の気持ちに寄り添っていけます。

長谷:人工知能界の倫理委員会で話をしたときのことですが、AIによる高齢者の見守りロボットについて「ノー」と言う委員もいました。なぜかというと、AIに全部任せて家族が高齢者を放置してしまう可能性があるからです。便利なモノができたからといって、人間の仕事を全部任せるかどうかの判断は、人間に任されています。任せるか否かは人間が選択しなければいけない。「便利なものができたのが悪い」というのは、ちょっと話が違う(笑)。つまり、見守りシステムができたとしても「サポートされているのはあなたの親父なんだから会いにぐらい行けよ」という話です。

新しい選択肢ができたからこそ、AIの技術に流されないように、自分が何を選択するのかが問われるようになると思います。その選択はAI化が進むにつれて増えていくだろうなと思います。

船山:AIに流されてはいけませんよね。AIによって自分の能力を伸ばせるようにもなる。けれど、AIに任せて自分は何もしないということを選択すれば、その人の人生は痩せていくのは間違いないことですから。

――個人的にはAIの社会では、AI任せにするという選択は逆にできない気がしています。結局は自分で選択し、決断しないといけません。AIに任せきりというのは難しいのではないかと思います。

長谷:そうだとよいのですが、AIや先進技術に何の興味もない人たちというのも当然います。「よくわからないけれど、楽になる」ということがあれば、おそらくやすきに流された選択をする部分はあると思うんですね。逆説的ではありますが、AIが本当に普及したと言えるのは、そういう興味がなく選択も積極的にしない人々が使いだしたときだからです。もしくはアーリーアダプターと対局に位置するラガード(遅滞者)のように、AIを拒絶する人たちだって出てくる。

船山:なのでわれわれは、コミュニケーションできるインターフェースというものの重要性を感じているんです。人とAIに十分な意思疎通がないと、どんどんギャップが大きくなってしまう。そこから情報格差が生まれ、不満やいろいろな問題になっていく。なので、人とAIが密接に関わり、お互い共感しながら生きていくということができたら理想ではないかと思います。

長谷:テクノロジーに対してどう、アプローチしていいか分からなくなるという状況は往々にして起こると思うので、テクノロジー側から人に対しての何らかのアプローチをするというシステムは、弊害もあるかもしれないけれども、あったほうがいいですよね。

AIと人間はどう、付き合っていけばいいのか

――いろいろお話を聞いてきましたが、皆さんはAIと人間はどう付き合っていけばいいと考えていらっしゃるのでしょうか。

髙野:さきほど、老人の見守りシステムの話もありましたが、われわれ開発側は、「見守ることによって家族の距離が近くなるといいよね」と考えています。報告機能があって「今日お薬飲んでないよ」とロボットが息子に報告する。そうすれば、「あ、お父さんどうしたのかな?」という気づきにもなります。老人の家庭にロボットがいれば、「お薬飲んでよ」と、家族もロボットを通して言えますよね。こうやった方が人間として「楽しいね」とか、「温かいね」というものをロボットなどに取り入れて開発していこうという気持ちでやっています。

船山:今後こうした見守りシステムで、われわれの作るサービスは「昨日はお父さん、こんな様子だったよ」と知らせるような“おせっかい”が大事だと思っています。はっきりと「いや、お父さんには会いたくないんだ」と言われない限りは、「連絡した?」「写真送ってあげた?」と聞いてくれるくらいの方がいい。家族関係をAIが一生懸命取り持ってくれる時代ですよね。

――“おせっかい”機能というのは面白いですね。

長谷:高齢者になった父親が転んでケガをしたら、父親の声で言ってもらえるといいかもしれませんね。「転んで気持ちが沈んでいるから、おまえ、来いよ」とか(笑)。

船山:人間の素直に言えない気持ちを、AIが代弁してくれたりとかね。そこは実際に狙っているところです。なのでキャラクター……、AIというのが、顔の見えない仕組み、機能ではなくて、なるべく顔が見えて感情移入できるような「アナログハック」というか、そういうものを目指しています。

――これからAIは、どういうふうになっていくのでしょうか?

髙野:私は企業と人々が欲しいサービスを提案していく、企画営業の立場ですが、皆さんが欲しがっているものの根っこは皆同じだなぁという印象です。AIによるサイネージ、効果的なプロモーション、あるいは萌(も)えキャラと話したい。それは非常に日本人っぽい欲求ですが、結局新しいモノとのコミュニケーションが求められていると感じます。

モノやキャラクターに「心」があることによって、人が癒やされる、企業はマネタイジングができる。現在はそういう方向で開発を続けています。こうしたサービスを早く実現したいと思っているのですが、それが実現できたとき、そのことによって、どのように世の中が変わってくるのかは、これから考えていかなければいけないなと思っています。

船山:日本ではアニメやマンガなどのオタクカルチャーの影響からか、世界に比べてAIを擬人化するイメージが強いと思います。自分もそういう思いでずっとやってきたんですが、今後そこは求められていくのかなと改めて感じているところです。AIが応用される分野はもっと広がると思いますが、人は、先ほどの話に出てきたような、形のない環境に溶け込んでいるAIに対して怖れを感じるのかもしれません。それを緩和する役目として、AIが人の形をしていると、すごく安心感がある。hIE(ヒューマン・インターフェース・エレメント)という、長谷先生の作品に出てくる人型のアンドロイドのようなインターフェースは着実に求められると思っています。

さらにその先、どのプレーヤーが未来にどういうAIの活用をしていくかは、それぞれだと思うんですが、そういった意味で、われわれの取り組みは、先ほどの話のように、なるべく人に寄り添ったかたちになります。エネルギーというか、気力が尽きない機械が人を支えていけば、ユートピアでなくとも、悲観的にならなくてもいいのではないかと思います。

世界はこれから、いろいろな問題を解決していく必要があります。そういったことに人間とAIが一緒に取り組んでいくというところに一番、期待しています。

長谷:倫理委員会などでも、AIがインフラに組み込まれていくことが不可避であることは、共通認識になっています。 それならば、「AIがインフラになるのが当たり前になった後に何が起こるか?」ということをこれからは考えなければいけません。インフラになるということは、誰もが触れるということです。少なくともそこで処理することになるデータは膨大に増えます。生まれたビッグデータを処理することによって見えてくること、効率化できることは多くあるでしょう。

例えば、日本には生産年齢人口がまだ7500万人ぐらいある。その7500万人ぐらいのマンパワーは、一体どう配置されるのが最も適切なのか? 今ある社会からマンパワーがもっと効率化されて配置されたら、どのくらいの生産性が出るのか? AIが当たり前の社会になってくると、今と見え方が変わってくる可能性は大きいですよね。そうなったとき、どんな社会になっているのか? 先を見るのはすごく大変になるでしょう。

一番理解しやすいのが「仕事」です。20年後に何の仕事が安泰なのかは、専門家でも予測しきれません。今、大学の就職課に行って「30年安泰に過ごすにはどこに就職すればいいですか?」と聞いても誰も答えられないはずです(笑)。

――研究では、20年後は今の仕事の8割はなくなっているといいますからね。

長谷:8割の仕事がなくなって、また、今ない仕事が山のように増えたとき、仕事が増えることはひとつの希望ですが、では今ない仕事に就くためには、今どういうキャリアを積んでおけばいいのかという話になったとき、誰も答えられませんよね(笑)。

まあ、僕らSF作家はもめ事が起きるたびに、それをネタにして小説を書いているので、ネタが尽きることはないという気はします。ただ、それで喜んでいていいのかというと、それはそれでよろしくないわけです。AIが社会に実装されていくなかで、不幸になる人は少なくなればいい。不幸になる人はゼロであることが一番なんです。けれども、現実問題としてゼロは難しい。変化がドラスティックに起こっていくこと自体は、もう、どうしようもない。それはもう、誰かが止めようとしても、全く別のところで進めようとしている人たちが山のようにいる。その人たちがパワーを持つのは間違いないですからね。その流れに異を唱えたり、方向性を変えたりしたいのならば、自らもパワーを獲得して声をあげていかなければいけない。ユートピアかディストピアかは、その先です。そう思います。

――本日は非常に勉強になりました。ありがとうございました。

会場提供:d-labo ミッドタウン

LATEST POST