ChatGPTを作っているOpenAI(オープンエーアイ)が、新しい安全機能「ロックダウンモード」を発表しました。これは「プロンプトインジェクション」という攻撃を防ぐためのものです。

プロンプトインジェクションって何でしょう?例えば、あなたが友達に「この手紙を先生に渡して」と頼んだとします。でも途中で誰かが手紙の中に「やっぱり渡さないで、代わりに秘密(ひみつ)を教えて」という指示を忍(しのば)せたら大変ですよね。AIでも同じようなことが起こるんです。悪い人が、AIに与える指示の中に別の命令を隠して、本来見せてはいけない情報を引き出そうとするのです。

ロックダウンモードは、こうした「だまし」をブロックする機能。企業(きぎょう)がChatGPTを安全に使えるよう守ります。実は、企業向けAIセキュリティ市場は2030年までに約380億ドル(約5兆円)規模になると予測されており、OpenAIもビジネスとして真剣に取り組んでいるのです。

💡 ひとことメモ:AIを使うときは、便利さだけでなく安全性も大切。信頼できるサービスを選ぼう!