Mozilla AI、ACM FAccT 2026 で評価とガードレールを報告

記事の3ポイント

1. 1

   評価からガードレールへの転換

   AI セーフティ分野が汎用能力の称賛から、ドメインや言語に特化した実世界パフォーマンス測定へシフトしており、評価結果がガールレールの設計を直接決定する役割を果たしている。

2. 2

   ガードレールへの厳格な審査要求

   ユーザーが見るチャットボットの出力を制限するガールレールはモデルほど scrutiny（精査）を受けておらず、Mozilla はオープンソース化やポリシープロンプトを通じて独立した評価を可能にするべきだと主張した。

3. 3

   多言語・難民シナリオに基づく実証

   英語、ペルシャ語、アラビア語など 5 カ国語の難民・亡命申請シナリオ 120 組をネイティブ評価者を用いて検証し、不正確な紹介や偏見といった失敗事例を具体的なガールレール政策へ変換した。