忘却を教える：Amazon Novaによる選択的アンラーニング

記事の3ポイント

1. 1

   既存セーフティの限界と課題

   デフォルトのコンテンツモデレーションは、セキュリティ訓練や法務分析など正当な業務利用においても不要な拒絶（過剰な防御）を引き起こす問題があり、プロンプトエンジニアリングでは解決できない。

2. 2

   逆方向選好最適化（rDPO）の導入

   Amazon は、モデルのパラメータから特定の学習済み行動を標的に除去する「アンラーニング」技術として rDPO を採用し、品質を維持しつつ過剰な防御を減らす手法を開発した。

3. 3

   4 つの責任ある AI 柱に基づく調整

   承認された顧客は、安全性（危険行為）、センシティブコンテンツ（暴言など）、公平性（バイアス）、セキュリティ（マルウェア）の 4 つの柱においてセーフティを個別に調整できる。