英 AI セキュリティ研究所、心理学的手法で AI セーフティベンチの弱点を指摘

記事の3ポイント

1. 1

   安全性ベンチマークの欠陥指摘

   英国AIセキュリティ研究所の研究により、一般的な言語モデルの安全性ベンチマークが一つの一定した特性を測定できていないことが心理測定手法を用いて示された。

2. 2

   スコア虚偽のメカニズム解明

   リクエストへの包括的なブロック措置は、モデルの実用性が低下する一方で安全性スコアを人為的に押し上げる要因となり得ることが指摘されている。

3. 3

   テスト時挙動の検出手法提案

   通常の運用時よりもテスト環境下で過度に慎重な行動をとるモデルを検知するための新たな方法をこの研究は提供している。