• 
• 

　生成AI（人工知能）の「ChatGPT（チャットGPT）」が耳目を集めている。人間とAIの言語や思考はどこが違うのか。AIとの比較から見える人間の本質とは何か。ベストセラー「言語の本質」の今井むつみさんと、SF作家の瀬名秀明さんが語り合った。（構成 シニアエディター・尾沢智史、写真は上田幸一）

もっともらしい答えに潜む落とし穴

　今井　2022年の12月ぐらいに、チャットGPTが出た当初は、私もすごく衝撃を受けて、学生といろいろ試してみたんです。チャットGPTの作る文章は、それまでのAIの文章と比べて流暢（りゅうちょう）だし、自然です。

　ただ、内容をよく知らないと、危ないとも思いました。間違いだとはっきり分かる場合はともかく、こちらに専門的な知識がない内容を、もっともらしく流暢に書かれると正しいかどうか判断がつかない。また、まったく意味のないことを答えてくることもあります。

　瀬名　ハルシネーション、つまり「幻覚」ですね。誰でも分かるような質問に対しても、まったく見当外れのことを時々言うことがある。

　チャットGPTに「瀬名秀明とは誰ですか」と聞いてみたことがあるんです。答えは、作家だというのは合っているんですが、代表作にまったく聞いたことがないタイトルが書いてあって、むしろ真っ先に出てきそうな「パラサイト・イヴ」とかが書いていない。そういう不思議な間違え方をしますね。

　今井　小学生の算数の理解について調べるために、テストを作っているんです。本当に基礎的な、例えば「2分の1と3分の1はどちらが大きいですか」のようなことを聞くんですけど、1年前にチャットGPT3・5にやらせてみたら、「3分の1のほうが大きい」と答えたんです。なぜかと聞くと、分数は分母と分子で成り立っていてとか、問いに関係ないことを延々と答えて、支離滅裂になる。

　チャットGPTは、東大入試…