東浩紀×大澤正彦×木村昭仁
“幻想に踊らされない”ために。私たちの生成AIとの付き合い方

生成AIが急速に発展する中、日々アップデートされる技術革新や、それに伴った議論／価値観の更新、情報の横溢などから、“生成AIバブル”が巻き起こっています。「人の労働がAIに奪われる」「人の知能をAIが上回って社会を支配する」といった言説も日々取り沙汰され、社会はその多大な影響力に少なからず翻弄されている様相もうかがえます。

今回は、哲学の見地から社会動向や大衆文化を鋭く予見してきた人文学者／思想家の東浩紀氏と、「ドラえもんをつくる」プロジェクトに取り組む若手AI／ロボット研究者の大澤正彦氏を招き、NTTコミュニケーションズ（以下、NTT Com）ジェネレーティブAIタスクフォース担当部長の木村昭仁を交えた鼎談取材を実施。予測困難な生成AI時代に求められるビジネス／思考法のヒントを探っていきます。

---

シンギュラリティは起こらない？ 生成AIブームの幻想と現実

木村昭仁（以下、木村）：2022年11月のChat GPT公開が火付け役となって生成AIが爆発的に普及しており、ビジネスの分野でも多くの企業が生成AIを取り入れようとしています。ですが、「生成AIはビジネスの可能性を飛躍的に広げるはず」という期待の一方で、その真価を捉えきれず「どうビジネスに活かすべきかわからない、社内での利用率が上がらない」という所感を同時に抱えている企業も多いのではないでしょうか。

今日は“生成AIの幻想と現実”というテーマで、人文学と工学、異なる立場から先鋭的な論考／研究を進められているお二人をお招きしました。技術自体が日進月歩で進化していて、その可能性について議論が絶えない生成AIですが、人間社会にもたらす影響をさまざまな角度から見定められれば、ビジネス活用の精度もより向上するのではないかと考えています。

大澤正彦氏（以下、大澤氏）：初めにひとつ、お聞きしてもよいでしょうか。10年前にディープラーニングが流行ったとき、世の中みんな、いまの木村さんのお話とまったく同じことを言っていた気がします。つまり「ディープラーニングを企業で活用しないといけないけど難しくて……」「でも可能性は無限だから！」「すぐにシンギュラリティ（AIが人間の知性を超える転換点）が来るらしい。結局どうすればいいの？」みたいな話です。いまはディープラーニングの部分が生成AIに置き換わっただけ、と理解できなくもない。木村さんご自身は、10年前といまは何が違うと思いますか？

木村：Chat GPTがまさにそうであるように、いまは特別な技術や知見を持たなくとも、個人が直接生成AIにアプローチできます。そこは10年前のディープラーニング流行時と大きく違うところだと感じています。開発担当者以外の社員も生成AIと無関係ではいられないので、全社的かつ積極的な取り組みが企業に求められている風潮があります。

また、リアルタイムの動向でいうと、パブリックデータのみを学習させた状態でアイデア出しなどに活用しても実質的な利用価値を最大化することができず、そのために現段階では社内の利用率が上がっていない、と考えている企業が多い傾向です。今後は秘匿とされる自社内の構造化・非構造化データを融合して使うことで、ビジネスシーンにおける生成AI導入の利点が活かされるだろうという肯定的な認識も広まっています。

ちなみにNTT Comでは、そうした秘匿データの追加学習が可能で、自社独立環境での活用を得意とする当社版LLM「tsuzumi」の商用サービスを2024年3月から開始しました。すでに多くの企業から「活用法を探りたい」という声も届いており、こうしたtsuzumiや生成AIをビジネスに活用する社内の主体的な動きを取りまとめるべく、ジェネレーティブAIタスクフォースも立ち上げています。

まずは顧客接点や業務効率性向上などの領域で活用効果を見極めていますが、可能性を追求する上では、その先にある「幻想」についても向き合っていくべきかと考えています。先ほど大澤さんが述べられたシンギュラリティもそのひとつで、自分の仕事が取られるのではないか、どうしたらよいのか？という漠然とした不安を抱える方がいるのも事実ですね。

東浩紀氏（以下、東氏）：混同して議論されがちなのですが、そもそも生成AIとシンギュラリティは分けて考えるべきだと思います。

この数年の生成AIブームは、プロプライエタリ（独占的）な技術がオープン化されたことで起こったものですよね。 Google や Microsoft はすでに開発していた。それを OpenAI やStability AI（Stable Diffusionを提供する企業）が誰もが使えるものとして解放したことで、大衆が「こんなすごいものが開発されていたのか！」と気がついた。とくにStable Diffusionはオープンソースなので、開発のスピードも加速した。OpenAIもチャットUIがわかりやすかった。それが現在の熱狂の原因です。認知が広がってビジネスチャンスは拡大しているけれども、理論的なブレイクスルーや文明史的な転換があったわけではないと思います。

他方、レイ・カーツワイル（2045年シンギュラリティ説の提唱者）たちによるシンギュラリティの議論は、「AIの出現によって人類史が決定的に変わる」という類いの大きな話が特徴です。脳全体を忠実にスキャンする「全脳エミュレーション」ができるようになるとか、人間の人生全体がデジタル空間に移行するとか、そういう類いの話です。それができれば確かに社会は決定的に変わると思います。ただ僕は、それはまだまだ起きそうにないと、少なくとも2045年には無理だと思っています。

大澤氏：なぜ、2045年のシンギュラリティは起こらないと思うのですか？

東氏：それは単純にカーツワイルの予測が結構外れているからです。例えば、彼は2005年に出版した『シンギュラリティは近い』で、2020年代にはナノテクノロジーの医学分野への応用が最高潮に達し、老化もかなり克服されるはずだと予想しています。いまは2020年代半ばですが、そうなりそうにないですよね。「これから革命が起こり、社会がラジカルに変わる。乗り遅れるな」というタイプの議論が、コロナ前には盛んにされていました。しかし現実にその後何が起こったかというと、コロナ禍が来て、戦争が次々に起こっている。気候変動問題への対策も思うように進んでいません。

こうした現実を踏まえると、テクノロジーに過度な期待がかけられていた2010年代こそ特殊だったと、頭を冷やす必要があると思うのです。AIをめぐる議論もその流れの中にあったのではないか。そういう一歩引いたところから生成AIをめぐる状況も見ています。AIは確かに社会を変えると思いますが、それは「社会を“部分的に”変える」ことの積み重ねであって、「社会のあり方がまるごと変わる」といった幻想を語っても意味がないと思うのです。

大澤氏：確かに、わかりやすい例でいえば、現代のSF作品の世界観などは、20世紀に思い描かれていたものといまとでほとんど変わっていない。つまり技術は進化しているのに、想像した世界は実現していない、という見方もありますね。

半導体性能の指数関数的な向上を説いた「ムーアの法則」に代表されるような、技術の進化がさらなる進化の加速を生む「収穫加速の法則」はすでに自明なものとして織り込んだ上でさまざまな研究や技術開発が進んでいますが、では技術革新の速度が急速に上がっている現実と、いつまでも実現しない“近未来”の狭間には何があるのか。そのギャップをどうしたら埋められるか、という議論をせずに抱かれた期待は、ことごとく裏切られてきています。

いま人工知能学会では、今後実現するAI技術を仮想して5年ごとの未来社会を予見していくシナリオコンテストが盛り上がっています。どのように考えれば本当にあり得る未来を考えられるか、というのが学術界でもビジネスでも共通の課題で、みんなでそこに取り組み始めているのが現状なのでしょうね。

「新しい価値を生み出す」AIと「価値を失う」AIの違い

木村：それでは実際に、幻想と現実を区別していくにはどうすればいいのでしょうか？ 生成AIによって社会の何が変えられ、逆に変えられないものは何なのか。そこがわかると生成AIの効果的なビジネス活用にもつながってくると思うのですが。

東氏：労働についていえば、AIの出現で起こる問題は、本質的には産業革命以降起きてきた問題とあまり変わらないと思います。「機械ができたら人間は労働から解放されるはず」だったのに、結局人間は工場労働者になっただけだった。それまで充実感を持っていた手作業が、機械に働かされる“奴隷労働”に替わった。マルクス主義はそういう不満から生じたものですが、当時の労働者が感じたそういった不満や疎外感が、今後は頭脳労働の分野でも起きる。

だから、生成AIによって貧富の格差は拡大するだろうし、いままで頭脳労働者だと自負していた人たちが単純労働者の部類に入って誇りを失うことになる。しかし、それは人類史的には新しいことでもなんでもなく、過去2世紀に起こってきたことの繰り返しに過ぎません。プレゼン資料をつくる、メールを返す、ビジネスパートナーとの会合を手配する——そういうことはいままで人間にしかできないと思われていたけど、これからは全部AIでもできるようになる。そのとき多くの人たちは、AIを使いこなすというより、むしろAIに使われる存在になるでしょう。新たな労働運動が発生するかもしれませんね。

木村：「AIに使われる」と聞くとかなりセンセーショナルですが、国内で特に社会問題となっている少子高齢化・労働者不足へのサポートという観点で考えてみると、例えば匠の技や企業アセットの継承においては、製造・建築・運輸業界など多くの現場から要望が上がっています。また、研究・開発プロセスでは、企業の中で濃縮・熟成させてきた知識をファインチューニング技術で追加学習させることで、今まで思いつかなかったようなプロダクトが生み出される可能性にも期待がかけられています。

こうした、生成AI以後に生まれるであろう新しい価値には、どのようなものがあると思いますか？

東氏：ひとつには、育児や介護のように、単純に「いままで人間しかできなかったケアをAIができるようになる」分野があると思います。そこではAIの導入には大きな価値があります。でもそれは、いささか意地悪くいえば、人件費削減という価値であって、「いままで人間ができなかったケアをAIが可能にする」という価値ではないですよね。

他方、いま注目されているコンテンツビジネスについて考えると、「生成AIだからこそ生み出せる価値」について考えるよりも、「生成AIには生み出せない価値」について考えたほうが良いように思います。というのも、今後は大原則として「生成AIが生み出せるものには価値がなくなる」という流れが起きると思うからです。いま多くの消費者が「質が高い」と感じているような音楽や映像は、これからは生成AIによって誰でも簡単につくれるようになる。それはつまりは、そういうコンテンツの値段が限りなくタダに近づいていくということです。

ではそこでミュージシャンや映画監督はどうやって生き残っていくことになるのか。「生成AIには生み出せない価値」を生み出すことで生き残るしかないわけです。実は人は「質の高い」商品だけにお金を払うわけではない。むしろ、作家の固有性、ライブの一回性、希少なオリジナリティーやブランドといった、「代替不可能性」にこそお金を払うわけです。そういった傾向はいまもあるのですが、今後はそのような「差異化」が多くのコンテンツの分野で求められることになる。単に質の高いコンテンツをつくるだけだと、AIに負けてしまう時代が来るわけです。

そういう「差異化」自体をAIがつくれるかというと、僕は懐疑的です。AIはその本質において「代替可能」な答えしか出さないはずだから。ただ、無料の生成AIと優秀／専門性の高い有料の生成AIといった差異化は生まれるかもしれません。データビジネスではそちらが重要になるのかもしれません。

「皮肉を言って気遣いもできるAI」はつくれるか？

木村：なるほど。NTT Comでは、デジタルヒューマンのCONNの開発・導入など、アバター接客と生成AIチャットボットを掛け合わせた顧客サービスも進めていますが、「ライブの一回性」などは、こうした顧客接点に導入される生成AIの体験価値の設計においてもヒントになりそうなお話ですね。

実際、いま金融や医療などの分野でそのようなニーズが増えているのですが、そこでテーマになっている３H（Helpful：有益で役立つ応答を生成すること、Honest：誤情報や誤解を生む応答を生成しないこと、Harmless：差別や暴力といった有害な影響のある応答を生成しないこと）への注力もまた、「差異化」のひとつといえるかもしれません。

ちなみに、生成AIが顧客接点に導入されると、「人と生成AIとのコミュニケーション」が生まれます。「人間とAIが心を通わせるコミュニケーション」の研究をされている大澤さんは、AIが人間の信頼を勝ち取り、新しい価値を生んでいくためには何が必要だと思いますか？

大澤氏：これはHAI（Human-Agent Interaction）という研究領域で議論が進められている問題ですが、僕たち研究者は、まずAIを一くくりにはせず「擬人化されたAI」と「擬人化されていないAI」に分けて考えています。哲学者のダニエル・デネットがいうところの「意図スタンス」と「設計スタンス」の違いです。前者は人間がAIに心を感じて仲間のように思っている状態で、後者はルールにもとづいて動く道具だと思っている状態です。ただ、前者か後者かを決定する客観的な基準はなく、それを決めるのは人間なのですよね。

例えば、これは東さんの著作でも登場する例なのですが、AIと恋愛している人がいたとします。しかし、本人は恋愛対象がAIとは知らなかった。自分の恋愛対象がAIだと知った瞬間、彼は「裏切られた」と思うかもしれませんが、ここから先には2つのパターンがあります。1つは、もともと「意図スタンス」で付き合っていたものがAIだとわかった瞬間「設計スタンス」でしか捉えられなくなってしまい、「心」が感じられなくなってインタラクションを拒絶してしまうパターン。いわゆる「適応ギャップ」と呼ばれるものです。

もう1つは、恋愛対象がAIか人間かは問題にせず、どうして私をだましたのか？と「意図スタンス」のままインタラクションを続けるパターンです。要するに、人間とAIのインタラクションモデルは、その人の経験や感性によってさまざまなかたちがあり、それぞれに応じて価値のあり方も変わってくる、ということです。いずれにせよ、「擬人化されるようなAIとはどのようなインタラクションであるべきか、そもそも擬人化すべきなのか」という設計段階での議論が大事になってくると思います。

木村：LLMがインプットに対していかに最適なアウトプットができるか、というのはビジネスでの実用化の鍵になる部分ですが、それを考える上でとてもわかりやすい理論ですね。NTT Com としては特化型LLMの開発に力を入れていますが、その理由のひとつにも、現場での適応ギャップを最小限にしたい、という狙いがあります。

特にいま関心を持っているのは、日本独特の文化やコミュニケーション特性を理解できるAIでないと、日本社会において意図スタンスのインタラクションは成立しないのではないか、ということです。それすら可能な汎用型LLM があれば話は別ですが、まだ実現はしていません。私たちNTT Comが日本のインフラ企業としてまず取り組むべきは、日本に特化した、日本の精神的風土に合ったLLMをユーザーに届けることだと思っています。

大澤氏：「生成AIは言外の意味を読むのが苦手」とよくいわれますよね。皮肉や嫌味は理解できない。僕たちの研究チームは「言葉が伝わることと心が伝わることは別だ」という考えのもと研究を進めています。言葉が通じるけど心は通じないのがLLMだとしたら、言葉が通じないけど心は通じる、というのが僕たちの手掛けているロボットです。今後はこれらを組み合わせようとしていて、いまはLLMの研究を始めています。ただ、僕たちはこれが順当なやり方だと思っていたのですが、世界的に見るとそうでもないようです。

「言葉が通じる」と「心が通じる」を掛け合わせてAIをつくるという発想が海外にあまりないならば、日本人の意図をくみ取れるLLMには価値があるかもしれない。そう考えて僕たちのチームでは、この技術のビジネス運用に取り組んでいます。忖度、気遣い、おもてなしができるという意味において「日本の」LLMが開発されたら面白くなりますよね。

木村：おっしゃる通りですね。東さんも著作の中で「言語外のコミュニケーションにこそ人間の特徴がある」という旨のお話をされていたと思いますが、AIの意図推定レベルが向上して言語外のコミュニケーションができるようになれば、いよいよ人とAIが心を通わせるようになるかもしれませんね。

東氏：いや、まだまだそうはならないと思います。なぜなら、言語哲学の見地からいえば、LLMの出現が言語の謎を解いたとは決していえないからです。むしろ言語の謎は深まっている。人がこの「すっごくお勉強した心がない人」みたいなAIを本当にパートナーのように思うためには、まだ乗り越えるべき大きな問題が残されています。それは——（続）

——LLMによって「言語の謎が深まっている」とはどういうことなのか。生成AIの加速度的な進化をもってしてもまだ見越せていない「理論的ブレイクスルー」とは。後編では、AIテクノロジーの進むべき道について、哲学と工学の垣根を越えた生成AI最前線のディスカッションをお届けします。