OpenAIの新しいトレーニングデータセットはAIモデルに信頼すべき指示を教える

OpenAIは、AIモデルが信頼できない指示よりも信頼できる指示を確実に優先するよう学習させるためのトレーニングデータセット「IH-Challenge」を公開しました。初期結果では、セキュリティとプロンプトインジェクション対策の両方で顕著な改善が確認されています。

この記事「OpenAI's new training dataset teaches AI models which instructions to trust」は、The Decoderで最初に公開されました。