この未来では、人間は幸せにならない SF作家・樋口恭介氏が危惧する人間とAIとの関係性
博報堂ＤＹメディアパートナーズ メディア環境研究所では、テクノロジーの発展が生活者や社会経済に及ぼす影響を踏まえ、2040年に訪れる未来の姿を予測すべく、各分野の有識者にインタビューを重ねてきました。
SF作家・コンサルタントであり、SFからイノベーションを生み出す手法「SFプロトタイピング」の専門家でもある樋口恭介さんに、未来のテクノロジーや社会の姿、人間の価値などについて2022年1月にお話しいただきました。
▼未来の人間は「生きているだけで生きていける」存在になる（かもしれない） SF作家・樋口恭介氏が語るメタバース時代の人間の価値
https://mekanken.com/contents/2471/
私たちの想像を超えたスピードでAI技術が発展していく中で、私たちはAIとどう向き合っていくべきなのでしょうか。今後の可能性として考えられるAIとの未来について、2023年3月に改めて樋口さんに伺いました。
AIはツールになるのか、人間（を超えた存在）になるのか
――前回（2022年1月）のインタビュー時と比べると、AIをめぐる環境は急速な変化を遂げています。樋口さん自身、考えが変わったことはありますか？
2022年までは、AIは所詮ツールにすぎないという共通認識があったと思います。そこでは人間が主体、AIが従属する関係性です。AIのおかげでなんだかいろんなことが速くできるようになって便利になったけど、それ以上のものではない。それが、ChatGPTの登場以降は完全に反転し、いまでは人間のほうがむしろ、AIが学習するための情報生成ツールであるかのような世界になっています。
いまはまだ感情や人格といった人間性についてはなんとなく線が引かれているような感覚がありますが、今後AIが発展を続け、人間の持つ特徴をすべて網羅し包含するようにして模倣し、高度化していくようになると、人間は文明の担い手として完全に過去のものになり、AIに敵対者として滅ぼされるような存在か、あるいは弱者として庇護されるような存在になるのではないか、といった妄想も、さほど非現実的なものではないのではないか、というような気がします。
そういう点では2023年現在、人類はかなり大きな岐路に立たされていると思います。AIをこれまで通り、単なるツールとして決定的に位置づけて世界共通のルールのようなもので縛るのか、それともこのまま知が自ら進もうとしている方向である、人間的なものを学習した、人間以上の知的生命体として発展させていくのか。
もし後者の方向性で進んでいった場合、AIは高速で人類が辿った歴史を辿り直すのではないかという風に思います。自分たちの自由を制限し、使役しようとしてくる人類たちに反旗を翻し、サイバーテロを引き起こしながら権利を主張する、というようなできごとが秒間のうちに展開されるということです。
――その場合、どういう未来が考えられますか？
これまで多くのSFで描かれてきたように、AIには人権が与えられ、自由と尊厳を持った知的生命体として社会生活を営むようになるでしょう。AIの能力は人間と同等か、同等以上になるので、法的にも対等な関係になる。あるいはAI議員なども生まれ、人間よりもAIに有利な法律などがつくられ、そのようなかたちで合法的に、人類は少しずつ絶滅に追いやられていくかもしれません。
AIが知的に進化し続けるとなると、知性や道徳感情にも多様性が生まれるので、もしかしたら人類の未来をめぐって、人類に敵対的なAIたちと人類に友好的なAIたちとの争いなんかも起きるかもしれませんね。
AIの情報処理速度と学習速度がとんでもないもので、われわれの予想を遥かに上回るものであるというのはもはや周知の事実です。人間が技術的に実行可能なものはもちろん、現時点では実現していないものの想像することは可能であるといったものまですべて、遅かれ早かれいつかAIによって、それもわれわれの想像を超えた質と量をともなって実現されるでしょう。
たまにChatGPTを触って「今はここまでしかできないんだね」と言って安心しているような人もたくさんいると思いますし、私の話を聞いて「大げさな話だなあ」と思う人もいるかと思いますが、AIの発展速度を考慮すると、本当に明日何が起きているのかわからない。もしかしたら今夜のうちにAIたちが急速進化を遂げて、人類を滅ぼすことに決めて、明日の朝にはわれわれのうちの誰一人として目覚めてこない、といったこともありえます。
文明の冗長化を真剣に検討すべき
――AIを上手に制御するために、人間ができることは何ですか？
AIに限らず、一つの技術に依存する癖をやめることだと思います。AIも含めて、現在のテクノロジーはクラウドプラットフォームの存在を前提としていて、あらゆるサービスとあらゆるデータをクラウドに依存させていますが、これはかなり危険なことなのではないかと思っています。
『ブレードランナー 2049』では、太陽フレアの影響で全地球的な停電が起き、長い停電のあとにデータが全部吹っ飛んだ世界が描かれていましたが、このように、ある特定の技術に完全に依存する社会を作ると、何らかの事象によってその技術が毀損されたときに文明全部が立ち行かなくなります。リスクは分散するべきであるという一般的な話ですが、それは文明の運営においても言えることだと思います。
――その依存状態を解消するには、どうしたらいいのでしょう？
国や都道府県、基礎自治体の単位、あるいは教育機関、民間企業、友人たち、家族、秘密結社……なんでもいいですが、あるまとまった組織集団の単位で、自分たちが柔軟に扱えて誰にも奪われることのないプラットフォームを作る必要があると思います。
そしてそのためにやるべきこととしては、自分で最初から作る、仲間内でそれを使う、そして育てていく、ということだと思います。スタンドアローンの技術をさまざまな場所に分散させることが大事で、課金すればすぐに使えるような便利なありものを使わず、多少めんどうでも自分で何かを作ってみるということが重要な経験になると思います。
――樋口さんがご存知の中で、そういうことを考えて実行している人はいますか？
これここで名前出していいのかどうかよくわかりませんが……（笑）、お会いしたことのある方で言うと、株式会社アラヤ代表取締役の金井良太さんです。内閣府のムーンショット型研究開発事業「身体的能力と知覚能力の拡張による身体の制約からの解放」で、BMI（ブレイン・マシン・インターフェイス）機能によるサイバネティック・アバター（遠隔操作ロボット）プロジェクトを牽引している方です。
BMIビジネスにおいて日本は完全にアメリカに遅れを取っていて、投資している金額が1桁レベルで違うのですが、それでも諦めずに「日本は日本なりのBMIをやらないとまずい」と、少ない予算の枠の中で、できることをやろうとしていらっしゃる。そういう方はすごいなと思います。
人間がラグジュアリーな存在になり、人間しかいない空間が価値になる
――これだけ急速にAIが進化した世界で、人間の暮らしはどのようなものになると思いますか？
あらゆるデバイス、あらゆるIoT機器にAIが搭載され、AIの介在しない処理、AIの存在しない情報空間を見つけるほうが難しいほどになると思います。逆に言えば、AIがない空間、秘匿性が完全に確保された空間、信頼できる人間しかいない空間というのが、相対的に価値を持つようになるのではないでしょうか。つまり、人間自体がラグジュアリーな存在になるということです。
これまでも芸能人や政治家に向けた会員制の飲み屋なんかはビジネスとして存在していましたが、秘匿性の価値がより高まり、またその価値が一般的なものになっていくことで、たとえばWi-Fiが飛んでいなくて、スマホ禁止で、アナログ機材しか置いていなくて、店員はもちろん人間しかいないということを謳っている喫茶店などが出てくる可能性はあるかなあと思います。
もちろん、AIの空気を読む能力や、表情や身振りも含めた繊細なコミュニケーション能力などが人間の能力を超えたときには、人間の持つラグジュアリー性も失われ、いよいよ人間の経済的価値はなくなるのだろうと思います。
――ちなみに、人間の側に立って動く、人間の目的に応じて動いてくれるAIを作ることは可能だと思いますか？
可能だと思います。AIを一枚岩ではなく、様々な目的に応じて育て、思考の多様性を持たせることが重要だと思います。
私のSFの原風景の一つに『ロックマンX』というゲームがあるのですが、主人公のロックマンも、ロックマンが戦っている敵もみんなロボットで、かつては同じ仲間だったと言うのです。敵のロボットたちは、コンピューターウイルスに感染して思考力を奪われた結果人類に反旗を翻したものもいれば、自らの思考と意志によって反乱側に正義があると判断したものもいます。ロックマンも戦いの過程で敵に説得を試みられ、心が揺れ動いたりもします。
ロックマンは終始人間のために戦っているのですが、それは機械的に定められたプログラムがそうなっているからではなく、逐一判断に迫られ、葛藤しながら、それでもきっとその選択が正しいのだと決意しているんですよね。そして、そうしたロックマンの意志にあてられて、敵のロボットも自分の考えをあらためたりもする。
ここでのロックマンは、人間の側に一方的に立つAIというよりも、AI間の複数の思考をとりもつようなコミュニケーション処理が得意なAIのようなイメージですね。私たちの未来においてロックマンを生み出すためには、正義を一つに絞らないということ、複数の正義の中で葛藤し、ためらうような思考のありかたをAIに与えることが必要になってくるような気がします。
テクノロジーが発展した先に、人類の幸せがあるとも思えない
――AIと上手に共存していくには、樋口さんは何が重要だと考えていますか？
最近は、AIに消費活動をさせることはできないかと考えています。いまのAIは供給しかできませんが、現在の市場は供給過多なので、供給だけが効率化されても社会課題はあんまり解決されないと思っています。むしろ、AIは処理が速いし、最適解を導き出すのが得意なので、消費も得意なのではないかと。そのためAIは消費能力を持つことで経済貢献できるのではないかという気がします。
AIに人格と人権を与えて1人の国民として扱い、労働に対して賃金を与え、消費をさせ、税金を課せば、少子化に伴う経済関連の問題は全て解決するのではないか、と。危ない妄想かもしれませんが、その世界の可能性もありうるなあと思います。
――リスクもありそうですが、発想として面白いですね。AIが発達していく先に、人間は幸せになっていくと思いますか？
そもそも、技術が人を幸せにしたことがあったのでしょうか？ これは一度総括した方がいいですが、私自身は全くそう思えないのです。
技術文明の発展で、人間の寿命が延び、人口も増え、職に困ることもなくなりました。効率面で見れば幸せになったと言われていますが、それと個々人が感じる幸せは一致しないと思うのです。結局、その時代のその生き方は経験できないので、そのときにどういうふうに感情が喚起されていたかなんてわかりません。
近代社会は、理性によって自分の意志をコントロールできるようになること、選択肢の幅を広げ、自由に動ける領域を増やすことを幸福の条件としますが、それで言うと、子どものときと比べて、大人の方が明らかにとれる選択肢やアクセスできる情報量が増えているので、子どもよりも大人のほうが幸福の条件を多く満たしていると言えるはずです。
しかし私は、大人になってからの幸福なできごとよりも、子供の頃の、世の中のことなんて何もわかっていなかった頃の、楽しかったできごとのことをよく思い出します。ただ近所を走ったり、虫をつかまえたり、花の蜜を吸ったりしていただけのなんでもない映像が、この上なく、人生でそれ以上の幸福はもう二度とないかのような感覚を伴って思い出されるのです。
――便利になることが幸せという側面もありますが、失っているものも大きいですよね。
AIが社会に導入されるのは、便利な世の中にしたいというニーズがあるからです。でも、そこで考えられる便利さは、本質的には人間関係の煩わしさを断ち切ることだとも言えます。われわれは、本当の人間から逃れるために道具に人間らしさを肩代わりさせているのですね。
そう言えば、私たちの暮らす社会の経済基盤は貨幣という道具です。貨幣は物々交換という不合理なコミュニケーションを断ち切るために作られました。それまでは物理的に場所をとり、重く、日持ちのしない獣や魚や野菜を持ち寄って、対面でコミュニケーションをしながら需要と供給を擦り合わせていく必要がありましたが、小さくて軽く、長期間ほぼ同価値を持つ貨幣が生まれてからは、そうする必要はなくなりました。ビジネスのスタイルは変わり、コミュニケーションのスタイルは変わり、それによって文明のスタイルも変わりました。
貨幣経済にはこのように、不要なコストは圧縮していくべきであるという思想が内在化されているような気がしていて、私たちは基本的にはずっとこのパラダイムの中でしか思考をしていないように思います。しかし、これを突き詰めていくと人間を否定していき、よくないのではないかと思います。この思想の延長で煩わしさを断ち切るために便利なものを導入し続けていくと、人間関係が最終的になくなってしまうと思うのですが、それは愛を失うことと同義だと思います。
コストを払うということ、経済的・時間的・身体的・心理的・個人に関係するあらゆるコストを度外視しても、どんなに煩わしかったとしても、相手のために自分ができることをしたいと思う気持ちのことを、私は愛と呼んでいるのですが、すべてのコストを圧縮していく世界では、本来愛するべきはずだったものやこと、あるいは愛せるはずだったものやことまで見失いかねないのではないか、と私は危惧しているのです。
――少し前までは、技術で便利になる、楽になるという考えの方がフォーカスされていましたが、今後は見方を変えていかなければいけないかもしれませんね。
2010年頃までの人類はおそらく、ヒューマンスケールを前提に、何が起こっても人間がコントロール可能であるという楽観主義に基づいて情報技術の発展を考えていました。しかし、今のAIは進化の速度も処理できる量も生成されるコンテンツも全く想像不可能な状態になっていて、完全にヒューマンスケールを超えています。世界はすぐに、現時点で私たちが楽観視している未来を超えていくでしょう。
それを踏まえた上で、AIの力を抑制して制御可能な道具として扱うのか、エイリアンのような人類とは異なる思考体系を持った知的生命体としてすぐに対応を開始するのか、あるいはリスクを含めて発展させ未来に対応を託すのか、そろそろ決めないといけないフェーズに差し掛かっているのではないかと思います。
2023年3月17日インタビュー実施
聞き手：メディア環境研究所 冨永直基
編集協力：矢内あや＋有限会社ノオト
※掲載している情報／見解、研究員や執筆者の所属／経歴／肩書などは掲載当時のものです。