OpenAI社が開発した会話AI「ChatGPT(チャットジーピーティー)」が、急に「ゴブリン」という言葉を何度も使うようになってしまいました。まるで人間がマンガやゲームの話し方をマネして、それがクセになってしまうのと似ていますね。

AIは、インターネット上の大量の文章を読んで言葉を学習します。今回は、オタク文化の掲示板やファンタジー小説のような、特定の話し方が多いデータをたくさん読み込んでしまったことが原因だったそうです。「強化学習(きょうかがくしゅう)」という方法で人間のフィードバックから学ぶ過程で、偏(かたよ)った表現を覚えてしまったのです。

この問題は、AI業界で年間1兆円以上の市場を持つ「大規模言語モデル(だいきぼげんごモデル)」ビジネスの課題を浮き彫りにしました。企業向けAIサービスでは、自然で正確な言葉づかいが必須(ひっす)ですからね。OpenAIはすぐに修正を行い、バランスの取れた学習データに調整したそうです。

💡 ひとことメモ:AIも人間と同じで、どんな情報を学ぶかで「話し方のクセ」がついてしまうんだね!