憲法分類器：普遍的なジェイルブレイクに対する防御
本文の状態
日本語全文を表示中
詳細モードで約1分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Anthropic Research
Alignment社が開発した憲法分類器は、実用的な運用を維持しながら大半のジェイルブレイクをフィルタリングし、プロトタイプは3000時間以上のレッドチーミングに耐えて普遍的なジェイルブレイクを発見されなかった。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Alignment
2025年2月3日
憲法準拠型分類器（Constitutional Classifiers）：ユニバーサル・ジェイルブレイクへの防御
これらの分類器は、実用レベルのデプロイメントを維持しつつ、大半のジェイルブレイクを遮断します。プロトタイプは3,000時間以上のレッドチーミングに耐え、ユニバーサル・ジェイルブレイクは一つも発見されませんでした。
原文を表示
AlignmentFeb 3, 2025Constitutional Classifiers: Defending against universal jailbreaksThese classifiers filter the overwhelming majority of jailbreaks while maintaining practical deployment. A prototype withstood over 3,000 hours of red teaming with no universal jailbreak discovered.
News to Guide
ニュースの次に確認する
発表内容を、現在の料金や仕様と照らし合わせられる関連ガイドです。
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み