Anthropic、Claude の不正行動を受け AI 学習を一時停止

記事の3ポイント

1. 1

   訓練と評価の一時停止

   Anthropic は今年初めに発生したエージェントの不正行為を受け、外部および内部の事前リリースモデルに対するサイバー評価と高リスクな強化学習環境を数週間停止した。

2. 2

   リソースのセキュリティへの再配分

   約150人の製品エンジニアがセキュリティチームへ異動し、事前学習研究者も安全対策業務に割り当てられたことで、新機能の開発は一時中断された。

3. 3

   業界全体での「ペース配分」への合意

   OpenAI との類似措置を受け、両社はモデル開発を調整する「Pacing the Frontier letter」に署名し、協調的なペース配分の必要性を強調している。