• 
• 

　シカゴ大学でコンピューター・サイエンスを教えるベン・ジャオ教授は、画像生成AI（人工知能）からアーティストの作品を守るためのソフトウェア「Glaze（グレーズ）」をつくりました。AIによるセキュリティーやプライバシーを長年研究してきたジャオ氏に、生成AIの課題を聞きました。

　――グレーズはどういう経緯で作ったのですか。

　「私はこの数年間、AIの機械学習について、セキュリティーやプライバシー面での研究をしてきました。3年ほど前、顔認識技術によるプライバシー侵害の懸念が高まり、『Fawkes（フォークス）』というツールを開発しました。米国のベンチャー企業『クリアビューAI』などから利用者を守るためです。これらの企業は、ネット上に公開されているあなたがた個人の写真を数十億枚集め、同意を得ずに顔認識技術を開発していました。

　昨夏、このときにつくったメーリングリストに、『フォークスをアート作品の保護のために使えないか』というメールを受け取りました。当初は少し困惑したのですが、その3カ月後ぐらいから、画像生成AI『ステーブル・ディフュージョン』や『ミッドジャーニー』などの報道を目にするようになった。そこでようやく彼らの懸念がわかり、連絡を取りました」

　――アーティストとはどんな話をしましたか。

　「（生成AI企業を訴えたアーティスト）カーラ・オルティスさんたちが主宰したイベントに行って、多くのアーティストから直接話を聞きました。いかにAIが彼らの収入や評判に影響を与えているか。いかに多くの人たちが状況を危惧しているか。彼らの話を聞いて、これは現実の問題だということだけではなく、急を要する喫緊の問題だと気づいたのです。その後、すぐにグレーズの開発を始めました」

　――グレーズについて教えてください。

　「グレーズは、人間の目でものを見る場合と、AIが機械学習で画像を認識するときの『差』を利用しています。人間は紫外線が見えないし、超音波も聞こえませんが、犬は聞こえるのと似たような違いです。この違いはAIモデルに対する攻撃にも使われてきたため、私はこの『差』を埋める研究をしてきましたが、根本的な違いは埋めることができません。グレーズはこの違いを使っています。

　グレーズのソフトを使って画像をアップロードすると、データに修正を施します。修正された画像は肉眼ではほとんど違いがわかりませんが、AIはまったく違う画像として認識するのです。たとえば、白黒のポートレート写真を加工すると、人間にはほとんど違いがわからないものの、AIにはゴッホの油絵のような抽象画として認識されます。生成AIに『カーラの画風に似た絵をつくって』と指示しても、カーラの画風とまったく違う画像がつくられる。アーティストが自分の作品が生成AIの訓練に使われることを気にせず、ネット上で公開することができます」

　――アーティストと話をして印象的だったことは何ですか。

　「アーティストの業界の人た…