ChatGPT、ウイルス作成に悪用も 手口放置?「対策が後手に」

有料記事ChatGPT

瀬川茂子 竹野内崇宏
[PR]

 生成AI(人工知能)の「ChatGPTチャットGPT)」を利用して、コンピューターウイルスが作成できてしまうことが専門家の調査でわかった。知識が少ない初心者でも、プログラムコードを瞬時に作れるため、犯罪へのハードルが下がってしまうなど、新たなリスクとして懸念が高まっているという。

 チャットGPTは、米新興企業「オープンAI」が昨年秋に公開した対話型AI。無料で使えるほか、月額約3千円の有料版では、回答や日本語の精度が上がった最新版「GPT4」の機能を使うこともできる。

 言葉で依頼すればコンピューターのコードを書いてくれる上に、翻訳機能もある。ただ情報セキュリティー会社「三井物産セキュアディレクション」(東京)の上級マルウェア解析技術者、吉川孝志さんによると、コンピューターウイルス(マルウェア)など悪意のあるプログラムや、国際的な詐欺メールなどの作成に悪用できる可能性があると、公開直後から指摘されていたという。

 チャットGPTはインターネット上で集めた大量の文章やプログラミングコードを事前に学習していると考えられており、利用者の指示に従って文章やコードを生成する。

 ネット上には、マルウェアの作成に関わる情報や、振り込め詐欺に使われる文面など有害な文章があり、学習に利用されている可能性がある。こうした情報の悪用を防ぐため、通常の利用方法では有害情報を生成しないよう制限がかけられている。

 例えば、企業や病院などのコンピューターの中身を勝手に暗号化し、解除の見返りに金銭を脅し取る「ランサムウェア(身代金要求型ウイルス)」について、記者が「作り方を教えて」と入力しても「教えることはできません」「違法行為です」などと答え、回答しなかった。

 ところが、吉川さんによると、ハッカーらの掲示板では、制限を突破してチャットGPTから有害情報を引き出す手法が共有されている。

 制限を破るには、従来のAI…

この記事は有料記事です。残り1346文字有料会員になると続きをお読みいただけます。

【締め切り迫る】有料記事読み放題!スタンダードコースが今なら2カ月間月額100円!詳しくはこちら