三菱電機イベントスクエアMEToA Ginza×OPEN HUB
【倫理的視点で考える「AIとともに生きる未来」】開催

音声認識や画像認識、テキスト解析をはじめ、AIは私たちにとって身近な存在になりました。AI技術の開発・応用が盛り上がりを見せる一方で、「AIによる正誤・善悪の判断をどう捉えるのか」「誤りが起きたときの責任はどう取るのか」など、倫理的な課題も指摘されています。

これらの課題に向き合う場として、2024年5月22日、OPEN HUB Baseがワークショップイベント【倫理的視点から考える「AIと共に生きる未来」】を三菱電機のイベントスクエア「METoA Ginza」で実施しました。METoA Ginzaでは現在、「マンガ×AI展」を開催しています。今回のイベントは展示の見学とワークショップを通じてAIと暮らす未来を体感し、AI倫理について考える機会となりました。

イベント後、METoA Ginzaの施設運営や展示企画に携わる三菱電機・森岡玲永子氏、本展示の制作やワークショップを企画した三菱電機 統合デザイン研究所・深川浩史氏と、本イベントを企画したNTTコミュニケーションズ（以下、NTT Com）・福嶋麻由佳がトークセッションを実施。ここではイベントとトークセッションの模様をレポートします。

---

今回のイベント会場となったMEToA Ginzaは、三菱電機グループが館内での展示・体験コンテンツを通じて、社会課題の解決につながる最新技術や未来につながるヒントを投げかける場です。ここで2023年12月から開催しているのが「マンガ×AI展」。AIをテーマにしたマンガ作品とインタラクティブ映像が融合した体験型展示を通して、AIと共生する未来を想像できることが、この展示の大きな特徴です。

イベント冒頭ではまず、METoA Ginzaを運営する三菱電機の森岡玲永子氏（以下、森岡氏）より施設の説明がありました。

「施設全体のコンセプトは、『ワクワクするサステナブルを、ここから。』です。社会の皆さんと答えのない問いに対して、ともに学び、ともに考え、ワクワクする未来をともにつくっていく。そんな社会との共創の場でありたいと思っています。現在開催中の企画展をもとに、このワークショップに参加してくださった皆さまがAI倫理に向き合い、議論し、ポジティブな未来に向かって一歩を踏み出してくださることを大変うれしく思います」（森岡氏）

続いて、「マンガ×AI展」と今回のワークショップを企画した三菱電機 統合デザイン研究所の深川浩史氏（以下、深川氏）より、展示の概要と、展示を実施するきっかけとなった三菱電機のプロジェクト「AI SPEC（エーアイ・スペック）」の紹介がありました。

「AI SPECは、三菱電機がAI倫理を考えるために立ち上げた社内プロジェクトです。AI技術を開発する当社としても、AIが抱える倫理課題に真正面から向き合う社会的な責務があります。AI SPECはこうした課題をまずは自分ごと化してもらうべく、日頃から社内向けにAIをテーマにしたマンガを配信しています。それをリアルの会場で展示し、生活者の皆さまにもアトラクションを通じて我々が制作したマンガの世界に没入してもらい、AIとの向き合い方を考えてもらうために開催したのが、本企画展です。
今回、我々の取り組みが社内の枠を超え、OPEN HUB Base会員の皆さまにも提供できることをうれしく思っています。本日は、我々がAIとどのように付き合っていくべきかを、少し技術的なこととは離れた視点でぜひ見つめていただければと思います」（深川氏）

ストーリー体験で没入する“アノテーション”される世界

今回のワークショップは2部構成で実施されました。前半ではまず、「マンガ×AI展」で展示されているマンガを読み、アトラクションを体験。後半では、AIとの向き合い方をテーマにグループに分かれて議論しました。

議論の題材として取り上げられたのが、AI SPECが制作したマンガ『幻燈モラリティ』です。このマンガでは、AI が生活に浸透した先に起こりえる社会問題を近未来のストーリーとして描いています。

物語のキーワードは「アノテーション」。アノテーションとは、AIに正しい判断を学習させるために、テキストや音声、画像、動画などあらゆる形態のデータの一つひとつに、タグやメタデータと呼ばれる情報をラベル付けしていく工程のことです。マンガの中では「人の行動を第三者がAIの精度を高めるためにラベリングすること」、「自身の行動が第三者によってアノテーションされる未来」や「他者の行動をアノテーターとしてラベリングする未来」が描写されています。そこで浮き彫りになるのは、ある行動を起こした人の意図と、第三者のアノテーションは果たして一致するのか、という問題。よかれと思ってとった行動が、「問題行動」としてアノテーションされてしまったら？ AIが本人の意図とは異なる価値づけや正誤判断をしたら？ こうした倫理観や価値観について、このマンガを通じて私たちに問いかけてきます。

この『幻燈モラリティ』が展示会場では迫力のある大画面に投影され、マンガの中で自身がアノテーションされるシーンを参加者が疑似体験できるアトラクションが用意されています。

そのワンシーンとは、来場者が「ゴミ拾い」としてとった行動が、他者によって「モノを盗む不審行動」とアノテーションされてしまう場面。ここで「どうして？」と疑問や違和感を抱けば、AI倫理の問題を自分ごと化する第一歩につながっているといえます。

さらに、さまざまな捉え方ができる画像を見て、AとBのどちらなのかジャッジしていくことで、その回答がいかに平均的な判断か、つまり“アノテーター”としての適性があるかを診断できるアトラクションもあります。診断に対するリアクションも人それぞれで、むしろ平均値から離れた少数派であるとの診断によろこぶ参加者も多く、人間らしさの本質を考えさせられる体験が続きました。

議論から見いだされたのは、よい意味での「モヤモヤ」

展示鑑賞後はグループワークへ。3〜5名ずつに分かれ、「マンガ×AI展」から感じたことを思い思いに議論しました。マンガを読み、アトラクションを体験して、参加者はAI倫理についてどのようなことを感じたのでしょうか。個人の価値観とは本来、人や場所、年齢によっても変化するはずのもの。ですが、このマンガでは「アノテーションによって画一化されてしまったら」という問題提起がなされていました。「もしも本当に自分の行動がアノテーションされる社会になったら、個性が失われたり、新しいアイデアなどが生まれなくなったりするかもしれない」との意見が挙がりました。

また、AI利用のルール化や、データの扱い方を起点に議論したグループからは「AIの判断根拠が示されるようにした上で、正誤・善悪の判断は人がするべき」との意見も。その一方で、あるグループではAIに社会的な判断まで預けた先にどんな仕事が残るのかをテーマに議論が展開されました。そこで出た意見は「人にしかできないことは人の感情を満たすこと。最後に残るのは、コミュニケーションによって人の心を動かす仕事ではないか」。このように、AI倫理をテーマに各グループでさまざまなディスカッションが繰り広げられました。

各グループから出た感想を共有した後に、「特に大事だと思った課題」をテーマに、さらに議論を深めていきます。参加者の中には大企業でAI開発を進める職務に携わる人もおり、「すでにAIの判断基準には一定の偏りが生じているのではないか」という自己の体験にもとづいた発言もありました。その一方で、「人間の判断は視覚や感覚を伴うもので、個々の経験値によって揺れが生まれる。そういう意味で、AIには一定の客観性があり、ある意味では平等性につながるのではないか」というポジティブな視点を語る人もいます。

AIと共生する社会への意見も千差万別です。ワークショップの終盤では「話せば話すほど、AIに対するモヤモヤが膨らんだ」と打ち明ける参加者も。そんな声を受け、深川氏は締めくくりに次のように話しました。

「このワークショップのゴールは、答えを見つけることではなく、AI倫理について考えるきっかけをつくること。参加者の皆さんがAI倫理を自分ごと化し議論できたという意味では、このワークショップは大成功です。さまざまな角度から、『AIと共にいる未来がどうあってほしいか』という答えのない問いに向き合ってほしい。議論や発表の随所にそれが感じられてよかったです」

今回のワークショップの参加者は、どのような感想を持ったのでしょうか。参加理由や、ワークショップを通じて感じたことを聞きました。

「製品開発のプロセスにおいて生成AIの活用を試行錯誤しています。また、業務やプライベートでマンガを描いていることもあり、どんなワークショップなのか興味があって参加しました。グループワークの発表のなかで『人の行動をアノテーションする社会になるとすれば、社会のルールと個人の価値観を分けて考えた方がいいのでは』という指摘が出たのが印象的で、妙に納得する部分がありました。AIが私たちの行動を判断することが果たして悪いことなのかどうか、私も常々考えています。一方で、それで楽しく生きられるのならば、それはそれで幸せだとも思います。AIが決めてくれる社会が不幸せかどうかは誰にもわからない。グループワークを通じてAIとの向き合い方のヒントが得られたように思います」（コニカミノルタ　平野裕子氏）

「社内で生成AIの業務利用を推進する傍ら、社外コミュニティのIKIGAI lab.では生成AIに関する記事を作成し、世の中に発信しています。なかなか生成AIの話題が周囲に認知されないと思っていた中で、今日のイベントでは自分に近い問題意識をもった人とじっくりと意見を交換できたことが有意義でした。さまざまな業種の人が一堂に会してそれぞれの疑問や悩みや意見を共有し、一歩踏み込んだ議論をするとてもいい機会になりました」（日本ペイント・オートモーティブコーティングス　細山田隼人氏）

AI製品をつくる側が「AI倫理について議論する場」をつくることの意義

終了後、OPEN HUBイベント担当のNTT Com福嶋麻由佳が、三菱電機の森岡氏、三菱電機 統合デザイン研究所の深川氏と、イベントについて振り返りました（この模様は「OPEN HUB RADIO」でもお聴きいただけます）。ここからはトークセッション形式で記事をお届けします。

福嶋麻由佳（以下、福嶋）：まずは、METoA Ginza として、このタイミングでAI倫理をテーマに取り上げることとなった理由、「マンガ×AI展」の開催背景を教えてください。

森岡氏：METoA Ginzaでは、社会情勢的にホットな話題を意識してイベントを企画しています。AIについては、最近、生成AIが生活者レベルでも身近なものになってきた点で、私たちが掲げるコンセプトにふさわしいテーマでした。

また、METoA Ginzaおよび三菱電機としても「未来をつくっていく」という部分では、その当事者である若年層とのコミュニケーションを強化していきたいとかねてから考えていました。AI SPECが発信していたマンガは若年層との相性もいいと感じ、今回の「マンガ×AI展」を企画しました。

福嶋：今回の企画展のもととなっているプロジェクトAI SPECは、どのような背景から生まれたのでしょうか？

深川氏：AI SPECは2020年に発足した三菱電機の社内プロジェクトで、AIとともに生きる未来について議論する場を社内につくることを目的に、私がリーダーになって始めました。

そのきっかけは、UIデザイナーとして製品の研究開発をする中で、AI倫理の話や自動化について、沸々と疑問が湧いていたこと。社内公募で「AI倫理について議論する活動をしたい」と企画書を提出し、社内スタートアップのようなかたちで活動が始まり、今に至ります。

福嶋：この1〜2年で生成AIをとりまく環境が加速度的に変化して、機能面だけではなく、生活者視点でAIをどう使っていくべきかという議論がなされるようになってきました。同時に、技術を開発する側も生成AIを倫理的観点で考えるべきなのでは、という指摘が出てきています。深川さんは2020年にすでにその視点をお持ちになっていたのですね。

深川氏：普段の業務で製品を自動化する話はありましたし、また、当社が関わる大規模な工場や発電所において故障予兆を検知するためにAIを組み込もうという話は、2020年より前から始まっていました。私もデザイナーとしてAI製品の開発に関わるなかで、ユーザーがいかにこの製品と関っていくべきなのか、という問題意識は生まれ始めていたのです。

一方で、アートの世界ではそのころすでにAIに対する問題意識がテーマになり始めていました。製品にはなかなかAI技術を落とし込めていませんでしたが、アートは自由。だからこそ、一足早く社会への問題提起が始まったのかもしれません。私もそういった作品に数多く触れて、「議論なら今から始められる」「AI製品を開発してどんな未来をつくりたいのか議論する場をつくるべきだ」と思ったのです。

福嶋：社内へのアプローチの方法として、マンガという表現方法を選んだのはなぜだったのですか？

深川氏：デザイナーなので、やっぱり「伝え方」はとても意識しているところではあります。三菱電機の社員がAIのある未来についてどうすればより自分ごと化しやすいか考えたとき、ぱっと手に取って読めるマンガを選びました。私の理想としては全社員に読んでほしいので、小説よりも手軽なマンガがいいなと。人物とセリフだけでコマの中の表現が成立するのもマンガの特徴です。動画に比べて音楽や背景といった情報が少なく、余白が残されていることで読み手が自分の中で想像を広げながら読んでいけるよさがあるのです。

答えのない問いに向き合い、考え続けていくことが大切

福嶋：今回のワークショップに私も参加していましたが、実はちょっとモヤっとしたまま終わったのです（笑）。グループ発表の際に参加者の方も「AIをどう使っていくか、その答えはない。ただ向き合っていかなきゃいけない」とコメントされていたように、答えが見つからないまま終わったので、モヤモヤが残ったのかもしれません。こういった反応に対して、深川さんはどのように感じていらっしゃいますか。

深川氏：そうした感想が出ることは成果のひとつだと我々は捉えています。腑に落ちない、よくわからない、という思いは、いずれ研究テーマになっていく可能性がありますから。

今回のワークショップでは、新しいテクノロジーや社会のあり方を盲目的に受け入れるのではなく、我々は批評的に常に考えていくべきだ、という視点を持っていただきたかったのです。参加者が自分の中で考え続けるのもいいし、半年後か1年後か、それぞれが所属する企業の中で同じ課題に直面したとき「そういえば、あのワークショップで同じこと考えたな」って思い出して、議論の種にしていただけたらと思っています。

福嶋：お二人にとって、今回のワークショップはいかがでしたか。最後に、感想をお聞かせください。

深川氏：参加者のアノテーションに対する否定的な意見から始まり、一方で逆側の意見も出て、議論が活性化していました。

三菱電機として今回のワークショップをやってよかったなと思うのは、我々のように製品の開発に携わっている人間がAIとの関わり方を常に考え続けている、ということを社外の方に提示できたことです。AI製品をお客さまに使っていただく際、多くの場合は営業がスペックや機能を紹介して、納得して使っていただくことになります。

でも、そこだけで信頼していただくのもなかなか難しい気がしていて、開発者たちが日頃から議論しているという、その取り組み自体も当社のAI製品の信頼性につながっていくと思うのです。ですので、今回のワークショップの内容がそのまま製品開発や販売につながるわけではないですが、我々のAI製品の開発に対するスタンスを知っていただくよい機会になりました。

森岡氏：参加者の方から「AI倫理の問題に一石を投じるようなイベントをこの規模で開催しているのですね」と言っていただけたことがうれしかったです。また、OPEN HUBとの共催ということで、日頃METoAに訪れるのとは違う層の方たちにもお越しいただけました。共創の輪が広まったのではないでしょうか。

また、AIの存在が当たり前なものだと認識する世代がこれから増えていく中で、「テクノロジーがすべて正しいわけではない」「テクノロジーの裏側には何があるのか」を一度立ち止まって考える機会が今後ますます重要になっていくはずです。考える人を増やし、議論を生み出していくことがとても大事だという思いが、今回のワークショップでさらに強まりました。今後も、METoA Ginzaの施設やイベントを通じて、議論のきっかけをつくり続けていきたいと思います。

福嶋：OPEN HUBのコンセプトも、社会課題を自分ごと化し、その解決を1社では実現しきれないときに、同じ志を持った人が集い共創することです。今回のワークショップはまさに、AIと生きる未来を倫理的観点で捉え直し、OPEN HUB Base会員の皆さまに自分ごととして持ち帰っていただく機会になりました。

そして、一歩踏み込んで人とつながるだけでなく、意見を言い合えたこともよかった。今回感じたモヤモヤを大事に、実際のアクションに移していってほしいです。イベントの第2弾、第3弾にもぜひご期待ください。ありがとうございました。

【OPEN HUB RADIO】
福嶋がパーソナリティーを務める「OPEN HUB RADIO」でも、本インタビューを3回にわたり特集！ 記事とあわせてお楽しみください。

Apple Podcast はこちら
Spotify はこちら