#adversarial training のAIニュース

GPT-Red、安全性テスト向けに公開

TLDR AI が、AI の安全性を評価するための「GPT-Red」ツールを公開した。これはモデルの有害出力を検出・テストする目的で設計されたものである。