Anthropic、生物兵器フィルタが1年間停止し1億3300万件のリクエストが露呈

記事の3ポイント

1. 1

   安全フィルタの長期停止

   生物兵器や化学兵器に関する危険な知識の抽出を防ぐための分類フィルタが、2025年5月から2026年4月までの約1年間、完全に無効状態だった。

2. 2

   大規模なトラフィックへの影響

   この期間中、外部契約者による約5万人のユーザーがモデルと約1億3300万件のチャットを行い、フィルタリング機能なしで処理された。

3. 3

   ベンダー審査の不備

   Anthropic によると、これらのユーザーは外部ベンダーによって審査されていたが、そのスクリーニングプロセスには不十分な点が多々あったという。