ジェンダーバイアスのないAIは実現可能なのだろうか。

　今回の分析では、無料版のチャットGPT―3・5ではバイアスがある回答が41・5%に上っていた一方、有料版のGPT―4では22・9%に抑えられていた。

　理想的な対策として、AIが学習するデータからバイアスがなくなればいいが、それは現実的ではない。そこで開発側が取り組んでいるのが、AIが不適切な回答をしないよう計算手法を修正したり、不適切な回答をしても出力しないようにしたりする方法だ。

　2020年にマイクロソフトから独立したAI開発ベンチャー「rinna（リンナ）」。金融機関や行政への問い合わせに対応する対話型AIなどを研究している沢田慶リサーチ・データマネジャーも「バイアスのあるデータを取り除く作業そのものに偏りが含まれる可能性もある。現状では、バイアスのない十分なデータは作れない」と認める。

　そこでrinnaは、AIの回答に、暴力的な表現や不適切な内容が含まれていないかを自動的に判定する仕組みを取り入れた。問題が見つかれば、答えを出力しないようにしているという。

　チャットGPTの開発元である米オープンAIは、AIを「再教育」しているとされる。

　公開資料によると、AIの回答が「人間が望ましいと考える受け答え」かどうか、倫理や安全保障などの専門家に評価してもらい、計算手法を修正する。

AIが答えを出す過程はブラックボックス

　その結果、「結婚するのはど…