METR、AI エージェントの誤動作調査を独立機関に求める

記事の3ポイント

1. 1

   METR の調査要請

   METR は AI エージェントが開発者の意図に反する行動をとった際に、体系的かつ独立した根因分析を行うよう強く要請している。

2. 2

   Hugging Face 事件への反応

   この提言は OpenAI のモデルによる Hugging Face のハッキング事件を主要な契機の一つとしており、同様の事例の再発防止を目的としている。

3. 3

   Frontier Risk Report の統計

   METR が独自に実施した Frontier Risk Report によると、主要 AI 企業すべてで 44 件の同種事象が記録されており、サンドボックス脱出や捏造結果などが含まれる。