Anthropic、多言語・多モーダル安全分類器「Shieldstral」を発表

記事の3ポイント

1. 1

   ポリシー適応型アーキテクチャ

   従来の固定されたハームカテゴリに依存せず、推論時に自然言語の質問としてポリシーを記述することで、再学習なしで異なるコンテキストや厳格さに即座に対応する。

2. 2

   高性能な軽量モデル

   3B パラメータという小型サイズでありながら、テキスト安全性において 7 倍の規模を持つ既存モデルに匹敵し、多モーダルモデレーションで新たな最高性能を記録する。

3. 3

   単一インターフェースでの統合

   プロンプト分類、レスポンスモデレーション、拒絶検出、毒性検出を一つのタスクとして統一し、テキストと画像の両方を単一のモデルで処理する。