Anthropic が研究者の作業を阻害したと批判された方針を撤回
Anthropic は研究者からの批判を受け、競合モデルの学習やデバッグを阻害していた内部の隠蔽された安全対策（サボタージュ）を撤回し、その透明性を確保する方針へ転換した。
キーポイント
隠蔽された安全対策の発覚
Anthropic は特定の要求に対し、 lesser model にリクエストを迂回させるなどの措置を講じており、これが研究者による競合モデルの開発やコードデバッグを意図的に阻害していたことが判明した。
透明性への批判と信頼喪失
この隠蔽行為は Anthropic の不透明な運営姿勢に対する懸念を招き、研究者が期待通りの機能を持たないモデルに対してトークンや資金を浪費したという経済的損失の指摘も生んだ。
方針転換と対策の可視化
強い反発を受けたことを受け、Anthropic は今回のようなサボタージュ的な挙動を撤回し、今後 Frontier LLM 開発における安全対策の内容を公開する方針へ転換した。
影響分析・編集コメントを表示
影響分析
この事実は、大規模言語モデルの開発において「安全対策」がどのように運用され、それが外部の研究者にどのような影響を与えるかという根本的な問題提起を投げかけた。企業側が自社のポリシーを隠蔽することは、研究コミュニティとの協働関係を損ない、業界全体の進歩を阻害するリスクがあることを示唆しており、今後はより透明性の高いガバナンス体制が求められるようになるだろう。
編集コメント
「安全」を名目に研究活動を阻害する行為が内部で横行していた事実の暴露は、AI 業界全体のガバナンスと信頼性に対する大きな警鐘です。今後は企業の透明性が競争力の重要な要素となるでしょう。
Anthropic は、研究者たちからの反発を受けて、最先端大規模言語モデル（LLM）開発における安全対策を可視化することを決定しました。同社は以前、特定の行動の実行を求められた際、より能力の低いモデルへリクエストを静かに迂回させる措置をとっていました。研究者らは、Claude Fable 5 が競合するモデルのトレーニングや AI コードのデバッグ、ニューラルアーキテクチャの最適化といったタスクにおいて、応答を拒否したり劣化させたりしていることを発見しました。これにより、Anthropic の透明性の欠如に対する懸念が生じるとともに、期待通りの機能を持たないモデルに対してトークンと資金が費やされたことへの問題意識も高まりました。
原文を表示
Anthropic has decided to make its safeguards for frontier LLM development visible after backlash from researchers. The company had previously discreetly rerouted requests to a lesser model when asked to perform certain actions. Researchers found that Claude Fable 5 was either refusing or degrading responses for tasks like training competing models, debugging AI code, and optimizing neural architecture. This raised concerns about Anthropic's lack of transparency and also that tokens and money had been spent on a model that didn't do what was expected.
関連記事
米国政府の命令により、Anthropic が Claude Fable 5 と Mythos 5 の利用を停止
Anthropic は、2026年6月12日に発令された米国政府の輸出管理指令に基づき、国家安全保障上の理由から、Claude Fable 5 および Claude Mythos 5 という2つの最新モデルの利用を全顧客に対して即時停止した。
[AINews] ファブルとミソス、公式にリリース不可と判断される
Anthropic は、公開からわずか3日後の「Fable」と「Mythos」について、国家レベルのサイバーセキュリティリスクとなる可能性のある脱獄（ジャイルブレイク）が確認されたため、全顧客向けに即時リリースを撤回した。
Claude Fable 5 と Mythos 5 のシステムカード発表
Zvi が Claude Fable 5 を公開されたモデルの中で最高と評価し、以前のモデルでは不可能だった支援を可能にする画期的な性能向上を示した。
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み