お知らせ

サイトメンテナンスについて

Generative AI: The Game-Changer in Society

2024.07.03(Wed)

OPEN HUB Base 会員限定

東浩紀×大澤正彦×木村昭仁
「“訂正”するAI」が生むのはカオスか、安寧か。白熱する人文学者と工学者の激論

#イノベーション #AI #ロボティクス
VUCA時代をより一層予測困難なものにする、生成AIの加速度的な進化。ビジネスへの活用精度を高めていく上では、“生成AIバブル”を巻き起こしている「幻想と現実」の見極めをしていく必要があります。そこで、哲学の見地から社会動向や大衆文化を鋭く予見してきた人文学者/思想家の東浩紀氏と、「ドラえもんをつくる」プロジェクトに取り組む若手AI/ロボット研究者の大澤正彦氏を招いて行われた今回のトークセッション。

NTTコミュニケーションズ(以下、NTT Com)ジェネレーティブAIタスクフォース担当部長の木村昭仁によるファシリテートのもと、「価値を生み出せるAI」の分水嶺についてディスカッションした前編に引き続き、後編では、生成AIが「人間になる」ために不可欠な理論的ブレイクスルー「“訂正”するAI」が実現する未来社会像について、さらに議論を掘り下げます。

この記事の要約

AIの進化と社会への影響について、東浩紀氏と大澤正彦氏が議論しました。

東氏はLLM(大規模言語モデル)が言語とは異なるとし、人間の複雑なコミュニケーションを再現するには不十分だと指摘。一方、大澤氏はAI研究が言語や記号の理解を深め、シンボリック・アーキテクチャとの統合が重要だと述べました。

さらに、AIに善意を感じさせるデザインの重要性や、社会的承認を基準とする信頼の必要性を強調しました。東氏は人間の退屈や破壊衝動がイノベーションを生む可能性に言及し、最終的にはAIが社会の安寧を実現しながらも人間が新しい価値を創出する共存の形を提案しました。

議論は、生成AIがどのような未来社会を創造するかに多くの示唆を与えました。

※この要約は生成AIで作成しました。


LLMは「言語の謎を深めている」?

木村昭仁(以下、木村):ここまでのディスカッションの中で、東さんから「(2045年のシンギュラリティの実現を提唱した)カーツワイルの予想はほとんど外れている」「生成AIは人類史上のブレイクスルーとはいえない」といった指摘がありました。AIは加速度的に進化しているけれど、人々にもたらすのは産業革命以降に起きた社会変容の変奏に過ぎないと。

しかし一方で、大澤さんのAI研究でも進められているような、「言語外コミュニケーションの意味を理解する」進化も見越されてきていますよね。AIが人間のように考え、振る舞えるようになれば、それこそ人類史をゆるがす可能性が生まれてくるようにも感じられます。

大澤正彦氏(以下、大澤氏):そもそもAIの進化はまったく予測できないものです。近年AIが次々に可能にしたことは、そのほとんどが「AIには無理だ」と言われていたことばかりでした。そういう意味で今後の予測も難しいのですが、東さんが「AIには理論的なブレイクスルーがない」と明確に考えられているのはなぜなのでしょうか?

東浩紀氏(以下、東氏):LLMは「大規模言語モデル」と表現されますが、LLMは決して言語や心の謎を解くものではないのですね。LLMの出現はむしろ、「なぜ人間は言語を使ってコミュニケーションできているのか」という古い謎を深めてしまった。人文系の哲学者ならば同様の見解を持つ人は多いはずです。どんなに高性能のLLMでも、使ってみて抱く印象は「すっごくお勉強した心がない人」という感じですよね。生成AIは「インターネットに大量に投稿されたデータから“言語らしきもの”を再生成する技術」でしかないので当然なのですが、多くの人がそう感じるということは、裏返せば、「心がある」という感覚はそういう「再生成」とは別のところから生まれている、ということでもある。ではそれは何か。

東浩紀|批評家、小説家、思想家
1971年生まれ。東京大学大学院博士課程修了。株式会社ゲンロン創業者。1998年『存在論的、郵便的』でサントリー学芸賞。2001年に『動物化するポストモダン』を刊行し、「生産ではなく消費を中心としたポストモダン社会における、ファストフード化した消費財に囲まれ満たされた人間像」を“動物化”と形容。インターネット以降の社会動向を予見し話題に。2009年の小説『クォンタム・ファミリーズ』で三島由紀夫賞。2017年『観光客の哲学』で毎日出版文化賞。ルソーやウィトゲンシュタイン、ドストエフスキーといった近代思想家の現代的な意義を読み解き、AIがビッグデータから自動的に民意を抽出・判断する“AI民主主義”へのアンサーとなる実践的理性を説いた近著『訂正可能性の哲学』『訂正する力』は、テクノロジーへの過度な期待が扇動されるVUCA時代へ携行すべき新しいインサイトとして、ビジネスパーソンからの注目度も高まっている

僕の考えでは、そこで鍵になるのが「訂正」です。人は言葉を発するとき、実はほとんど無意識で話しています。文法を考えたりしません。特に気心知れた仲間の間などでは顕著ですよね。いうなれば「何も考えずに話している」。しかしそういった対話の中で、「あれ、違うな」と違和感を覚えることがある。自分の言いたいことが相手に思うように伝わらなかったり、怒らせてしまったりしたときなどです。そういったアラートが出て、「訂正の必要性」が生じたとき、初めて「意識して考える」。意識というものは、そういった“訂正”によって遡行的に生み出されるものなのですね。

これは組織論についてもいえます。20世紀を代表する言語哲学者であるソール・クリプキが、言語/ルールの不確定性を論証した「クワス算」という議論を行っています。そこで明らかにされていることなのですが、私たちは互いに言葉の意味を共有しているように見えて、そうではない。言葉の意味は確定しているようでしておらず、実は皆「言葉の意味がわからないまま」対話という一種のゲームを行っている。そしてあるとき突然、互いにまったく違った意味で言葉を使っていたことに気づいて、定義を明確にしたりするわけです。定義の明確化というのは、そういう “訂正”の局面なしにはありえない。“訂正”は“失敗”とも言い換えられますが、失敗こそが、新しい心の動きや価値観の創出などにつながります。

つまり対話とは、言葉を交わすというゲームを遊びながら、同時にその意味や価値を「失敗しながら一緒につくっていく行為」なのですね。そういった行為をどのようにLLMに「学習させる」ことができるのか。つまり、LLMが、単に「客観的に正確」な答えを返すだけでなく、「いや、それは違います、私が本当に言いたかったのは……」と主体的に人間に対して答えるようになるためには、何が必要なのか。そこらあたりのブレイクスルーがないと、人間と現実の複雑な関係をAIが完全に代替するのは難しいと感じています。

大澤氏:おっしゃる通り、言語/記号に対する理解はAI研究に不可欠だと思います。実際、近年の知能研究では、情報を文脈的に捉えようとする「シンボリックな認知システム」を再評価する傾向があります。

大澤正彦|日本大学文理学部情報科学科准教授、次世代社会研究センター(RINGS) センター長
2020年3月、慶應義塾大学大学院理工学研究科 開放環境科学専攻後期博士課程を修了。日本で初めて、AGI(汎用人工知能)をテーマに博士号を取得した。2023年4月より現職。IEEE Young Researcher Award(最年少記録)をはじめ受賞歴多数。著書に 『ドラえもんを本気でつくる』『じぶんの話をしよう。-成功を引き寄せる自己紹介の教科書-』。一貫して「ドラえもんの実現」を目標に掲げるロボット開発や、「人と心を通わせる」AIの研究、さらにプロジェクトベースではなくコミュニティーをベースにした「ウニ型」組織であるRINGSを運営するなど、研究内容に加えユニークな活動スタンスも注目を集める

AIには、大別すると「ニューラル・アーキテクチャ」と「シンボリック・アーキテクチャ」があります。わかりやすくいえば、前者はLLMやディープラーニングです。「入力と出力は見えるけど、内側(情報処理)で何が起こっているかわからない」というのが、ニューラルなアーキテクチャの特徴です。対して、後者の構造は内側のことがわかります。例えば「白い物体を検出した」「コップと皿だとわかった」「私は喉が渇いていた」「ゆえにコップの取っ手をつかんで持ち上げた」——という感じで、情報処理の過程を説明できるのがシンボリック・アーキテクチャの特徴です。

ここ10年の知能研究はニューラル・アーキテクチャに偏ったきらいがありましたが、現在は「シンボリック・アーキテクチャの研究も同じく必要だ」という流れを起こしている研究者たちもいます。重要なことは、この2つのアーキテクチャを統合することです。つまり、シンボリックな理解の手続きを言語化した知識をLLMに統合する。いま僕たちが研究しているのは、その統合の手法なのですが、こうした文脈的な情報処理が可能になれば、例えば「違和感のようなもの」を機能させることもできるかもしれない。そこにブレイクスルーの可能性があると思っています。

「そういう意味で言ったわけではない」とAIが語ったら? 人間ならではの“訂正する力”とは

この記事は OPEN HUB BASE 会員限定です。
会員登録すると、続きをご覧いただけます。
この記事の領域について当社に期待することをお聞かせください【必須】
必須項目です。
その他ご意見ご要望があればお聞かせください
この記事の評価をお聞かせください
低評価 高評価
【必須】
必須項目です。
【必須】
必須項目です。
セイ【必須】
必須項目です。
メイ【必須】
必須項目です。
メールアドレス【必須】
必須項目です。
会社名【必須】
必須項目です。
職種
役職
電話番号【必須】
必須項目です。
【必須】
必須項目です。

NTTコミュニケーションズのプライバシーポリシーに同意し、
記入内容が正しいことについて確認しました