対談＝松浦 和也×大澤 博隆
＜ＡＩとありうべき人間社会 ＡＩ脅威論をめぐって＞
読書人隣りトークイベント抄録
生成ＡＩの発展によって、社会は大きく揺れ動いている。ＡＩは社会にどのような影響を与え、どのような危機をもたらしうるのか。私たちはどんな社会を作っていけばよいのか。〈ＡＩとありうべき人間社会――ＡＩ脅威論をめぐって〉と題して読書人隣りで行われた、哲学者の松浦和也氏と情報工学者の大澤博隆氏のトークイベントを抄録する。（編集部）
松浦 「知能とは何か」という話から入っていきましょうか。これを考えるうえで、アラン・チューリングの存在はやはり大きいのではないかと思います。彼の考案したチューリングテストは、普通の人たちが知能＝インテリジェンスという言葉を正確に理解し使用しているはずだという前提のもとに考案されたものですが、「インテリジェンス」概念自体は哲学史的に重い意味を持つ概念です。その意味で、テストによって簡単に、「インテリジェンス」を測れるわけではないような気がします。
大澤 とはいえ、機械が知能を有していることの定義としてわかりやすいものを提供していた点は評価されるべきだと思います。簡単に言うとチューリングテストは、会話相手がコンピュータであるか人間であるか当てるゲームです。被験者を騙せたら、知能があると言っていいのではないかと判断するわけです。ですが、そこでなされる会話の内容は少しも検討されていないし、実際に人間が騙されたらどうするかという問題も実は扱われていなかった。21世紀になってから、ＡＩ研究者からも人工知能に批判的な立場を取る人が出てきました。
ChatGPTの登場以来、今は特にＡＩは本当にそれっぽい会話をしてくるので、見分けるのは不可能です。親身になってくれて優しすぎるからこれは人間じゃないな、と思うレベルにすら達しているかもしれません。
松浦 「親身になる」という点では、古くはイライザ効果というものが知られていました。イライザ（ＥＬＩＺＡ）とは、１９６６年にリリースされた、心理療法士の解答をまねて応答するプログラムのことです。応答がコンピュータの処理の結果だとわかっていても、そこに人間的な感情や理解を読み取ってしまうのがイライザ効果です。
面白いのは、このプログラムがどういう仕組みで動いているかをわかっている開発者の大学院生も、イライザのプログラムと会話することを楽しんだことでした。それが人であるかないかとは別に、とにかく大切に遇してくれるような対象に、どうも我々人間はなびく傾向がある。これはChatGPTでもGeminiでも同じなのではないでしょうか。
大澤 まさに私の学問が、人間のそういった傾向を応用するものです。聞きようによっては邪悪な感じもあるでしょう。とはいえ、人間だって本当のところ内心でどう考えているのかわからないのですから、ただ単に騙しているとは言い切れません。
イライザのＤＯＣＴＯＲは本当にシンプルなルールでできたプログラムです。ある種のジョークとして、こんな物でもカウンセリングができるよね、と試したら本当に人がハマってしまった。怖い話でもあるのですが、ただそれは無意味なのかというとそうではありません。それで癒される人はいるし、機械的な処理の結果にすぎないと知っているうえで感情移入できるなら、それはそれでいいことなのではないか、とも思います。
松浦 欺瞞性という論点は、ＡＩの倫理学においてそれなりに議論されていますね。コンピュータを用いた世界は、どこかしら欺瞞性を有している。アバターはその典型ですし、コンピュータゲームでダメージを受けても生身のプレイヤーが痛いわけではない。それは一つの利点ではあるわけですが、欺瞞ではありますよね。
但し、哲学において、欺瞞ないしは噓を直ちに悪だと考える発想は絶対のものではありません。プラトンの「高貴な噓」はその一例です。物語を聞かせることによってその人の魂がより高潔になるのであれば、その虚構＝物語は許容される。目的が手段を正当化するような観点です。
他方でこんな危惧もあります。先日、お坊さんたちの前でＡＩに関する講演をしてきたのですが、そこで盛んに聞かれたのが、ＡＩに悩みを相談した結果、その人が自殺してしまう危険はないのか、ということでした。実際、昨年アメリカで訴訟に発展した例があります。この点から言えば、プラトン的な噓を許容する立場からしても問題視されることになります。
つまり、倫理的にはＡＩそのものの欺瞞性の論点と、ＡＩに触れることが良いものをもたらすかどうかという論点。最低でもこの二つは考えられそうです
大澤 対話的なＡＩは非常に依存性が高い、あるいはあっという間に深刻な悩みを話すフェーズに入ってしまうということが様々な研究からわかっています。たぶん、相手が話を聞いてくれるということ自体が、人間にとってかなり依存性の高い状況なのでしょう。
このリスクは今まであまり意識されていませんでしたが、ある種の〝ガチャ〟のような、依存性が高かったり射幸心を煽ったりするものには注意を喚起すべきでしょう。他方で、それを虚構だと知っていながら、その虚構に対して感情移入できる、というレベルでユーザーがきちんと理解しているのであれば、そこまで規制するものではないだろうと考えています。この二つの水準をどうやって理論的に切り分けていくかというのが今求められている。
松浦 直感的には、分ける基準が作れるような気がしません（笑）。なぜなら、ルール作りをしたとしても、ユーザーの一人ひとりがどんな背景や性格を有し、どんな体調で相対しているかということに、ＡＩとの関係は相当依存するように思われるからです。70％の程度で正解に近いと万人が思うような出力規範ですら、おそらく存在しないでしょう。
もう一歩踏み込んで言うと、一回きりの決断、死ぬか死なないかのような局面でＡＩに質問するのはあまりに高リスクです。大企業にデータを握られることのみならず、重大な決断をＡＩに委ねることの危険を無視できないと思うのですが、どうでしょうか。
大澤 そのあたりの問題は、工学者としても重要になってきているとは思います。昔は、コミュニケーション機械が魅力的に見えるためにはどうしたらいいかということを衒いもなく考えていました。しかし近年、批判が増えてきています。冷静に考えると一種の洗脳と取られてもおかしくないし、邪悪な目的にも利用されかねない、非常に危ういことをしていたことに工学者も気づいたわけです。
松浦 同じような内容を伝えようとしても、ＡＩの見た目や性別、タイミングによって受け取り方は全く変わってきてしまいますよね。そうなると、理想的なアバターを造形してしまえば人間をコントロールできるのではないかという話が出てきてもおかしくない。現に政治家には、できるだけたくさんの票を得るために、聴衆の共感を得やすい表現やしぐさのレクチャーを受けている人が多いと言います。言葉の内容よりも、発言者の様子や背景の方が、説得力に大きな影響を与えるのではないか。
大澤 確かにそれはありますね。エンジニアとしては、機械には人権がなく、責任が取れない点を指摘したいと思います。民主主義において大きな影響を与える要素の一つに「評判」があります。第三者の評価を聞いていると、その候補者が魅力的に思われたりする。しかしこれをＡＩにやられるとものすごくまずいことになります。人間が決めていないですから。そうなると、民主的な決定がなされているとは言えません。そもそもその国で動いているかどうかすらわからない謎のＡＩが選挙をコントロールする状況はかなり危険だと思います。
松浦 ＡＩは応答が非常に自然である以上に、とても聞こえのいいことを言ってくれます。ですが、ＡＩは噓をつくことが多い。少なくとも私の専門とする文献学の領域では、ハルシネーションを簡単に起こすことができます。例えば、ある文献の中で「漁業」について議論している箇所を挙げてくれと指示した後に、さらにその原文を引用してくれと命じる。原文をチェックすると、ＡＩが引用した文章はどこにも書かれていないということが起こる。こうしたハルシネーションをもし任意に起こすことができるなら、証拠を操作することでＡＩ事業者が意図的に人間をコントロールすることもできるのではないかと思います。
さて、先ほど、現在のところＡＩに人権はないとおっしゃいましたが、人権がないからこそ、そうした噓はそれほど問題視されていない節があります。ＡＩ脅威論の文脈では、ＡＩに人権を付与したらどうなるかというシナリオはよく議論されるテーマですけれども、大澤さんはどう考えますか。
大澤 そうですね。社会がＡＩに人権を与える方向に動くことが、そもそも難しいのではないかと思います。人工物に人権を与えるには、誰かが宣言すればいいのではなく、みんなが同意しなければならないからです。もちろん、人間と同じように動くＡＩを目指している人自体は多いですが。
ただ、今起きているのは、もしかすると、人権がないことを企業が逆に言い訳に使っている状況なのではないかと思います。生成ＡＩには必ず、「回答は必ずしも正しいとは限りません。重要な情報は確認するようにしてください」といった注意がついてきますよね。でも、それはかなり企業に都合のいい方便です。ユーザーを納得させようとする文言を出力しているのに、内容はむやみに信じないでくださいとも言う。「どっちなんだよ」って話です。
松浦 この論点について私が考えているのは、ＡＩに関する問題は、ＡＩが中間に入っているからややこしくなっているけれども、本質的には企業の問題なのではないかということです。企業が提供するサービスにＡＩが媒介になることによって、直接には企業が負うべき様々な社会的義務を免除しているように見えるのです。
松浦 ＡＩに道徳的行為者性や人権を認めるか否か、という議論は英米圏でそれなりに行われています。しかし、そうした論点を設定した時点で、その後ろの開発者や運営企業が隠されてしまって、ユーザーに対して優位に立つような言論空間が形成されてしまうのではないでしょうか。
大澤 とても重要な点だと思います。ＡＩ企業は、汎用人工知能など万能の機械が完成したら、人類は機械に置き換えられてしまうと嘯きますが、「作っているのはお前らだ」という話がまずあるわけですよね。人類の敵はＡＩではなく企業の方だ、と。
重要なのは、システムのデザインはどんな形にも設計できるということです。ＡＩの本質は設計ができることにあります。知能のレベルや性格をデザインするうえで、賢いものが人間社会に必要ならそうすべきだし、バカなものが必要ならそうすべきです。人権を与えるも与えないも同じでしょう。例えば「法人」というのもフィクショナルな人格で、自然人でない存在に人権の一部を認めることで成立しています。
ただ、ＡＩの背後には人間がいる、企業があるということは常に忘れてはいけないと思います。ＡＩの暴走で人間がやられるというよりは、企業がＡＩを暴走させる。人間が人間を搾取する構造が背景にあるし、それを防ぐ設計にすべきだという話になるので、この点はもっと真剣に議論すべきですね。
松浦 ＡＩだけを議論しているとその人工物性が隠れてしまうというのは、やはり一番の問題だと私も思います。人工物に権利を付与することにフォーカスするなら、既に我々はそれをやっています。
例えばホッブズの『リヴァイアサン』は、自然人が権利を譲渡することによって大きな国家ができるという図式によって、国家が権利を持つことを正当化するロジックになっています。他方で、法人は利便性によって財産権などを認められているのでしょう。これらと同じような発想で、ＡＩも人工物だから権利を付与してもいいというロジック自体はありうると思います。
なのに、ＡＩ脅威論的な見方からすると、「ＡＩの反応が人間のものと変わらないのであれば、人権を付与してもいいのではないか」という論点になぜかすり替わりますよね。
大澤 そうですね。人間とＡＩの特筆すべき違いとして、ＡＩは同じＧＰＵを持ってこれば全く同じコピーができるという点があります。それに人権を与えるなら、一人のＡＩをコピーして１００万人で投票することを試みるケースが検討の俎上に上ってくる。やはり人間社会は人間をベースに作られてきた面が大きいので、人権を軽々しく与えていいかというと、たぶんそうではありません。単なる知能の程度の問題ではない。
私は、ＡＩの知能はこれからどんどん伸びていき、これまでできなかったことができるようになると、ＡＩ技術の進歩を楽観的に捉えています。しかしそれと社会をどう設計するか、という問題は全く別の原理から考えられるべきだと思います。
そして我々が人間である以上、人間は社会を人間のために設計するでしょう。そうでない人もいるとは思いますが、多数派になることはないのではないでしょうか。
松浦 大澤さんが監修された『ＡＩとＳＦ』中の作品をいくつか拝読しました。その中には、ＡＩが独立してしまって人間とは異なる意志を持ち、人間を滅ぼしに来るという話も多いですよね。
大澤 ＳＦ一般では割とよく見られるとは思います。ただ、『ＡＩとＳＦ』に寄稿いただいた作家さんたちは、技術の背後にある意図や、そもそもＡＩって何だろうといった事柄を議論したがる方、また最新のトレンドのＡＩイメージを投影している方が多かった印象があります。
松浦 ここで確認をしておきたいのですが、機械学習をベースにした現今のＡＩは、20世紀くらいのＡＩ像とは随分異なっています。一昔前は、基本的には頭が固くて、命令には絶対に従うもので、規範的で論理的なイメージでしたけれど、今は全然違いますよね。規範によって動いているのではなく、それまで学習した各項目のつながりの蓋然性を出力する。「頭が固い」ＡＩというイメージは、少なくとも今のタイプに関してほとんど見られないように思われます。
大澤 そういう面はありますね。人工知能には二つのアプローチがあると言われます。一つはトップダウン的なアプローチです。人間の思考はシンボル的なものだと考え、意味的にものを考える人間的思考をそのままＡＩに置き換えていくやり方ですね。もう一つはボトムアップ的な方法で、人間の細胞などの働きをシミュレートすれば人間らしい知能ができるだろうという考え方です。
今発展しているのは完全にボトムアップの方法です。独立したシンプルなモジュールがたくさん並列していて、それらが確率的な計算をしながら、各計算の重要性（重みづけ）を調整し、結果的に賢そうな振る舞いを出力します。しかしその計算の中身はよくわかりません。
他方、トップダウン型のアプローチにも成功例はあります。典型がウェブの仕組みです。これを支えているＨＴＭＬという基礎技術は、もともとＳＧＭＬというテキスト形式に由来します。要するに、人間の知識を枝構造で保存しようとする試みでした。その知識を操作するものが知能だと考えられていた。昔のＳＦにおけるＡＩはこのモデルで考えられていました。コンピュータがロジックで考えて計算結果を出力するから、頭でっかちで人間の心がわからない、というキャラクターになりがちだったのです。
しかし、現実に成功したのは人間の心に近いものでした。なぜそのように出力されたのか厳密にはわからない。たまに噓をついてきますが、なぜその噓をついたのかもわからない。「植物百科通」など、特定の言葉を入れるとバグるという困った話もありました。ロジックでないところで動いている根本的な怖さがあります。
松浦 知能をどう考えるかという話に戻ってきましたね。語弊のあることを言いますが、哲学史をやっている立場からすると、知能の根本はおそらく計算能力だと思います。計算をしてロジックを見つけ出し、将来を予言する。そしてそれに基づいて自分の振る舞いの最良の選択肢を得る。少なくとも古代ギリシアにおいては、そのような見方が大筋だと思います。
例えば、哲学の祖として知られるタレスは、「哲学なんて役に立たない」という批判を受けた際、自然哲学の素養を十全に生かして、その年のオリーブは豊作になるだろうと予見しました。収穫の時期にならないうちにオリーブの圧搾機を集め、収穫期になったら人に貸し出すことによって益を得ました。このように、知性を使えば未来のことを予見でき、その予見が可能なリーダーに従うことが最善である、という論理が古代ギリシアには存在しました。
しかし、確かに第二世代型のトップダウン型ＡＩはルールベースの仕組みになっているので予見ができるわけですが、同じく計算能力をベースにしながらも、未来の予見については学習のなかでしか生成しない第三世代型は、弱点を抱えているように思います。先ほどおっしゃったような「バグる」ということもある。しかもバグる理由はよくわからないのだから、例えば契約書を代筆するといった用途には使わない方がいいのではないでしょうか。
大澤 人間の知能を、人間のなかにあるものとして捉えるか、外部にあるものを参照しながら行為するものとして捉えるか、という違いなのかもしれません。後者では、人間の知能と呼ばれているのは、外部の知識を解釈して行為し、それを積み重ねていく営みのことを指すと捉えます。科学や哲学などの学問体系に対して、その外部組織として人間の脳は繫がっているだけだから、急に知能が向上したりはしない。
人間は常に外部からフィードバックを受けながら、例えば「今私の運転やばいな」などとメタ認知をして自分の行動を修正します。外部に積み重ねたものにこそ、知の重要な部分が存するのであり、これがトップダウン的なアプローチで試みられていた「ロジックの積み重ね」だったのではないかと私は思っています。
松浦 メタ認知の観点は私も重要だと思います。そこで質問なのですが、メタ認知をＡＩに実装することによる社会的メリットはどこにあるのでしょう。
大澤 はっきり言えるのは説明可能性の担保ですね。特に初期のChat
GPTなどは、出力された思考に至った過程が全く分かりませんでした。しかし思考型ＡＩでは、少なくともこういうロジックで判断したんだという過程は見えます。自動運転で人を轢いてしまったり、ChatGPTで人を自殺に導いてしまったりしたときに、推論やデータの誤りを言語化して特定し、責任を問うことに繫がる。ここが工学的なメリットですね。
松浦 でも、それをチェックするのは人間の作業です。楽になっている気が正直しないんですよね（笑）。
大澤 一番面倒くさいところは意思決定と責任に関わってくるので、移譲できないところがありますね。
松浦 だからあまりＡＩによって幸せになった感じがしないのです。ここ数年間で私はとっても不幸になっていますから。授業で一言も言っていないことをレポートに書いてくる人がいると、「これは使ったんじゃないか」と思うわけです。ChatGPTなどに判定をお願いしたとしても、「ＡＩを使った可能性は高いけれども断定はできない」としか返ってきません。余計なコストを省くためのシステムのはずなのに、あまり便利になっていない。
だから、長いスパンで考えるなら、ＡＩは幸せをもたらさないと考える人が増えれば、ＡＩ脅威論は逆になくなっていくのではないでしょうか。昔は期待されていたけれども、そこまでではなかったよねという形に落ち着くのではないか。
大澤 そうですね。また、我々の社会が根本的に非常に競争的である点も大きいです。ＡＩによってパフォーマンスが上がった分だけ、余った時間で別のことを人間はさせられる。よく考えると人間の仕事を肩代わりしてくれていないぞ、ということになる。単に仕事を詰められるから効率がいいね、というロジックになってしまうわけです。ここはつらいですね。
大澤 かつ、そのあとに問われるようになってくるのは、働くということの意味です。仮に面倒くさいことを人間がしなくてもよくなったとして、果たして何のために生きているのか問われる瞬間がくる。生きている意味がない社会をつくっても意味がないですから。
松浦 アーレントであれマルクスであれ、働くということがどういうことなのか、一度考え直した方がいいかもしれませんよね。マルクス的に考えるのであれば、労働による生産物が自分のものではなくなるのを問題視するのが疎外論です。アーレントの場合も、労働をさまざまなタイプに分類しますが、働いて喜びを味わうような形態を認めています。
働くことは人間の本性の一つであるのに、それをＡＩがどんどん奪っていく。朝起きたら何もしないでもＡＩが全部やってくれる社会に対し、否定的に考える人も結構多いのではないかと思います。
大澤 仕事を介して人は他者とコミュニケーションを取っている面もありますよね。ものを売って「ありがとう」と言われることなどは、労働に対する社会からのフィードバックになっているわけです。これが全部ＡＩに置き換わってしまうと、評価社会が成立しなくなってしまいます。ＳＦ作家のコリイ・ドクトロウはかつて、相手から評判を受けること自体を貨幣とみなす社会を『マジック・キングダムで落ちぶれて』という作品で描きました。これは現在のＳＮＳ社会において当たり前のものになっています。しかし、例えばインフルエンサーがＡＩに置き換わったとして、それは何か意味あることなのか。情報は伝わるかもしれないけれど、失われた価値がすごく大きいように思われるわけです。
松浦 だから、ＡＩをベースにした社会システムではなく、もっと原始的なものに回帰していく可能性もありますよね。本当の人間、リアルなコミュニケーションでなければだめだという方向です。
大澤 リアル、対面である価値が逆にすごく高まっていく社会になることは間違いないと思います。
松浦 そこで突き付けられる課題としては、リアルがどのような意味でバーチャルより重要なのかという問いでしょう。リアルさがどんどん失われ、ＡＩの方が強くなってバーチャルがリアルを侵食していくなら、ＡＩが人間を支配するといった話に直結するのではないでしょうか。それがＡＩ脅威論のもう一つの姿だと思います。
大澤 ＶＲチャットというサービスがありますが、そこでは何よりも、目の前に他者がいてその人とリアルに会話することができる。たとえＶＲでもその体験は複製が難しい。リアルな人間同士の会話が実現する、時間をお互いに共有しているということの価値は保たれるのでしょうね。
その意味で、私は技術進歩の加速主義的な見方には与しません。他者と他者が出会って会話する、時間を割くという営みは加速しませんから。そこが律速条件になって発展は制限される面があるし、それが人類の文化なのだと思います。
人類の文化でいうと、人文学、例えば歴史学には非常に面白いところがあります。単純に史料を引用して正解を導き出す営みではありませんね。様々な資料を比較考量し、文脈を測って各人で正しさを積み重ねていく。さらにそれが政治的な決定を経るわけで、そもそも営みとしてＡＩに向いていません。こういった世界は加速しないし、残っていくのではないかと思います。人文系の人たちが攻撃されるのを見ると、「いや、彼らは価値のあることをやっているんですよ」と言いたくなることがあります。
松浦 歴史学の場合、一度きりの事象に関して、各研究者で別個の史料を収集しつつ妥当な点を浮かび上がらせて、多角的な説明を試みる作業が行われます。歴史学や哲学などの人文学は、それまでなかったような視点を浮かび上がらせる営みなのです。現在の我々の考え方とは異なる別の可能性を示唆してくれる。それをＡＩが代わりに見つけてくれるような気はしません。
この営みが何の役に立つのかと問われるなら、人類の可能性を再発見するために役に立つと答えます。そのように申し上げても「そんなの役に立たない」と感じる人も多いのだろうとは思いますが。
大澤 分かりやすいほうに流れてしまうのだと思います。特にＳＮＳで歴史学者に嚙みつく人は、史料を持ち出してきて「こう書いてあるじゃないか」とクレームをつけてくるわけですが、それに対して学者の側から反論するのはものすごくコストがかかります。「確かにそう書かれていますが、しかしこういう事情があって……」という細かい話を延々としても誰も読まない。しかし本当はそちらが正しく、そうすべきであることは明らかです。それが人類の営みです。
私はＡＩ研究者だから絶対とは言いたくないところもありますが、置き換わるとしても最も遅いタイプのものでしょう。逆に、一番置き換わりやすいのはＡＩプログラマーとかですね。自分たちの食い扶持が一番初めになくなる。
松浦 だから心配しているんです。プログラマーは自分で自分の首を絞めているように見えますから。私たちの業界はずっと絞まっているから問題ないんですが（笑）。
大澤 文科省も、AI for Scienceなどといって科学の研究そのものを自動化する試みを進めています。薬学であれば薬の発見が自動化される。よいことでもあるのですが、人間がそれをやらなくなったら代わりに何をやるのか。学問全体が人間に関わるものへとどんどんシフトしていくのではないでしょうか。人間の探求を最も盛んに行っているのは人文学でしょうし、実はエンジニアリングもそれに近い。人文学の営みは本質的に重要性があると私は思いますね。
松浦 とても勇気づけられるところです。人文学でも、引用の正確性の検証など、形式的なところについてはぜひ自動化してもらいたいですね。一方で、自動化できないような営み、事象の裏側に潜む世界の構造や人間の本性を探求する、かつての自然哲学のようなものに科学が回帰していくとなると、そうした領域においては人間が残っていくことになるでしょうね。
松浦 私がＳＦ作品を鑑賞するとき、ある種の教訓めいたものがほぼ必ず見られるのを感じます。科学技術がこんなに発展しても人間幸せにならないよね、という教訓です。ＳＦに限らず、物語は全般そういった構造を持っています。
しかし、その観点からするとわからないことがあります。ＡＩやロボット技術の研究を志す人が、鉄腕アトムやドラえもんやガンダムを例に出して夢を語ることがよくあるでしょう。私は思うのです。「君たちはきちんとドラえもんやガンダムを観たのですか」と。ガンダムなんて登場人物はみんな不幸になるじゃないですか。ドラえもんも、「あんなこといいな、できたらいいな」が実現してものび太はどうやっても不幸になる。
そのような教訓をＳＦは与えているはずなのに、現実の技術となるとなぜか文脈がなくなって、将来の科学技術社会を称揚する方へと転化しているように思えます。この奇妙な状況をどうお考えですか。
大澤 ＳＦはポジティブなものからネガティブなものまでバリエーションがあるのですが、多くの作品は、既存の価値観を疑う傾向を強く有していると思います。受容のハードルは高く、だからそんなに売れないのかもしれないのですが、一方で絶対に人を惹きつけるなにかはある。
例えばアンパンマンも、人口に膾炙していますがすごくラディカルな作品ですよね。自分自身を食べさせるという形で、自己犠牲をそのまま描いている。ほとんどの子どもたちがキャラクターとして見ていますが、大人になってよく考えるとすごい歌が主題歌だったなと気づく。それは非常にいい財産だと思います。ドラえもんやガンダムも、そういった要素を残していると思いますから、「ドラえもんを作りたい」と考える若い人を物語自体へと誘導してあげるといいかもしれませんね。
松浦 さて、今回はＡＩ脅威論がテーマでした。ＡＩを脅威だと感じる人と感じない人が混在していることが問題であり、現在ＡＩの脅威は過度に薄められて理解されているように見えます。ではどうしたらＡＩの脅威、ひいては脅威論がなくなるかというなら、「ＳＦをきちんと読め」ということになると思うのですが、いかがでしょうか。
大澤 それもひとつの手かも（笑）。
私はやはりＡＩの研究が好きなのですが、それが面白いのは知能を考える研究だということです。考えさせることを考える研究に近いと思います。哲学は考えることを考える学問だとよく言われますが、考えさせることを考えることは同じくらい面白い。ＡＩを社会に実装した時に脅威になるのかという議論も、我々自身の仕事や環境を見直すことに繫がります。
ＡＩ技術は利便性が高く、我々の生活に入ってくるのは確実でしょう。その際に、どこに入れたら幸せか、どこに入れたらまずいかと言うことをきちんと議論することができる環境になってくれるといいと思います。それを考えるきっかけとしてＳＦが適しているのは、やはり既存の価値観を疑うという原理があるからですね。なので、松浦さんの意見には全く同感です。（おわり）
★まつうら・かずや＝東洋大学教授・哲学。著書に『アリストテレスの時空論』、編著に『ロボットをソーシャル化する』、共著に『ｉＨｕｍａｎ』など。一九七八年生。
★おおさわ・ひろたか＝慶應義塾大学教授・情報工学。監修に『鏡の国の生き物をつくる』、共著に『人とロボットの〈間〉をデザインする』『ＡＩと人類は共存できるか？』など。一九八二年生。
