Anthropicの「Mythos」流出事件は屈辱的
Anthropicが「危険すぎる」として公開を控えていたClaude Mythosのアクセス制御に失敗し、不正なユーザーグループがモデルにアクセスしたことが報じられた。
キーポイント
Claude Mythosの流出事案
Anthropicがサイバーセキュリティ対策として「公開には危険すぎる」と判断していたClaude Mythosモデルへの、不正なユーザーによるアクセスが確認された。
管理されたロールアウトの失敗
数週間にわたって厳格な制限を設けて行われていたClaude Mythosの段階的公開プロセスにおいて、アクセス制御に重大な穴があったことが示唆されている。
Bloombergによる報道
Bloombergの報道によると、小規模ながら不正なユーザーグループがモデルへのアクセス権限を持っていたことが判明し、Anthropicの主張と現実の間に乖離が生じている。
影響分析・編集コメントを表示
影響分析
この事案は、最先端AIモデルのセキュリティリスクと、その公開プロセスにおける管理の難しさを浮き彫りにしています。Anthropicが強調していた「安全性」に対する信頼が損なわれる可能性があり、業界全体としてモデルの公開基準やアクセス制御の透明性について再考を迫られる結果となります。
編集コメント
「危険すぎる」として公開を控えていたモデルが流出するという皮肉な展開は、AIセキュリティの複雑さと、技術的優位性が必ずしも運用上の完全な制御を保証しないことを示唆しています。
AnthropicのClaude Mythosに対する厳格な管理されたロールアウトが、不器用な展開を見せた。このAIモデルはサイバーセキュリティにおいて非常に能力が高く、公にリリースするには危険すぎるため、公開しないという主張を数週間にわたって続けてきたが、結局そのモデルは間違った手に渡ったようだ。
Bloombergによると、「小規模な不正アクセスユーザーのグループ」が、Anthropicがテスト用に限定された企業群に提供すると発表した計画の日から、漏洩によって最初に明らかになったMythosの存在にアクセスしていた。Anthropicは調査中だと述べている。これは、最新のモデルのサイバーセキュリティ上の優位性を謳いながら、AIの安全性を真剣に扱うことをブランドの柱として築いてきた企業にとって、厳しい状況だ。
技術的な観点から見れば、Mythosのデータ漏洩は恥ずかしくも幼稚なものでした。*Bloomberg*の報道によれば、このグループはAnthropicの他のモデルに関する情報を活用し、「モデルのオンライン上の場所について合理的な推測」を行うことでMythosにアクセスしました。ここで参照された情報は、Mercorのデータ漏洩で暴露されたもので、MercorはAIのトレーニングデータを作成する企業です。さらに、グループ内の一人がAnthropicのモデルを評価する契約業務を通じて得ていたアクセス権限も利用されました。このグループは、高度な技術的脆弱性攻撃やモデルの完全な窃取ではなく、内部知識と幸運な推測の組み合わせによって、Mythosへの不正アクセスを実現しました。
セキュリティ上の脆弱性は避けられず、ハッカーがMythosの場所を推測するために使用した情報を暴露したのはAnthropicではなくMercorでした。英国のシンクタンクであるRoyal United Services Institute (RUSI) の研究員、Pia Hüsch氏は私に、どの企業も完全に安全であることはなく、人間がしばしば最も弱い環節であると語りましたが、「当初は結果として深刻な被害がなかったのが少し幸運だったようにも思えます」と付け加えました。
Anthropicは『全く想像がつく』種類の失敗を見越せなかった
しかし、それは単なる不運ではありません。こうした推測に基づく攻撃は非常に標準的なハッキング手法であり、Mercorのデータ侵害事件はMythosのリリース以前から知られていました。セキュリティ研究者のルカシュ・オレニク氏は、これを過去20年間、サイバーセキュリティ業界が日常的に対処してきた「全く予想可能な」種類の失敗だと私に説明しました。したがって、Anthropicはこれを事前に予測し、特にその情報が侵害されたことを知っていた以上、適切な準備を講じるべきでした。
Anthropicには、この侵害を発見する手段もあったようです。オレニク氏は同社が「モデルの使用をログに記録し追跡できる」と述べており、これは不正または悪意のあるアクセスを阻止可能にするはずだと指摘しています。特にMythosの展開は非常に限定的に行われる予定だったため、その可能性は高まります。明らかにAnthropicの監視が十分でなかったことが示唆されており、同社がそのモデルの危険性を強調していることを踏まえると、なぜ監視体制が不十分だったのかという疑問は妥当です。
ブルームバーグの報道によれば、このグループはサイバーセキュリティタスクにMythosを使用していなかった。その理由としては、単に新しいモデルで遊んでみたかったことに加え、それを行えばAnthropicの警戒を招く可能性があったためである。もしAnthropicがMythosに関するメッセージを真面目に受け止めるべきだとすれば、これは幸運な出来事だったと言える。同社はMythosを「セキュリティにおける分水嶺」と位置づけ、「主要なオペレーティングシステムおよびウェブブラウザのすべて」に脆弱性を見出したと主張し、そのリリースは「世界のサイバー防御を強化する」時間を確保するために調整されなければならないとしている。
Anthropicは、そのClaudeモデルが意識を持っている可能性といった考えに言及するなど、厳密な検証が難しいような劇的で警戒を促すような表現を使う癖がある。それでも、アクセス権を持つ関係者からの初期報告によれば、Mythosはサイバーセキュリティにおいて特に優れていることが示唆されている。MozillaのCTOであるBobby Holleyは、MythosがFirefox 150で数百のバグを発見し、ついに攻撃者に対する完全な勝利を守り手に与える機会をもたらすかもしれないと述べている。当然のことながら、世界中の政府や金融機関が、これを手に入れようとして熱心になっている。NSAやその他の米国の機関は、Anthropicがサプライチェーンリスクとして指定されているにもかかわらず、アクセス権を持っていると報じられている。ただし、現時点では展開プロセスが米国のサイバーセキュリティ機関であるCISAを迂回しているようである。
"Anthropic はこれらのテクノロジーの最前線に位置していると主張しながらも、同時にすべての局面において責任ある行動主体であるという立場を取っています。"
この侵害が Anthropic 自身ではなく、記者によって発覚したという事実は、これが孤立した事件なのかどうかという明白な疑問を提起します。Hüsch 氏は、「これは、超技術的に洗練された手段を持たない場合でも、これを実行できる可能性のある人々の輪がいかに広いかを本当に示しています」と語りました。Anthropic はおそらくサプライチェーンを精査して、どのようにこの事態が発生したのかを確認し、隙間を埋めるでしょう。しかし彼女は、このようなモデルへのアクセスを望む行動主体の範囲は広く、その中には多額の資金を背景に持つ者もいると指摘しました。アクセスを得た他の誰かが、*Bloomberg* が報じたグループほど自制心を持っているとは限りません。
Anthropic はある意味、自らの足元を撃つ結果となりました。同社は競合他社よりも AI セーフティ（安全）を重視する姿勢をアイデンティティの中心に据え、モデルセキュリティに対する極めて高い期待を生み出しましたが、それは明らかな不注意と矛盾しています。Mythos が如此も基本的で予測可能な失敗を通じて暴露されたという事実は、この矛盾をさらに強調するものです。更には、公共への公開にはあまりにも危険で異常に強力なツールである Mythos を喧伝することで、Anthropic はそれを悪意ある行動主体や単なる挑戦を求めるハッカーにとって明白な標的へと変えてしまいました。
これは、Mythos に関連する不愉快なセキュリティインシデントが初めてではない。モデルの存在は、リリース前に中央システム上の「安全でないデータ宝庫」を通じて偶然暴露された。そこには Web サイトのコンテンツが含まれていた。現在、そのモデルは Anthropic がパッチを施すことを考えもしなかった、完全に予測可能な脆弱性を通じて秘密裏にアクセスされている。完璧はあり得ないが、AI セキュリティの最前線を自任する企業にとって、このような基本的な過ちは、多少の不運があったとしても正当化し難い。
フッシュ氏にとって、この一連の出来事は一言で要約できる。それは「屈辱」だ。「Anthropic は、これらのテクノロジーの絶対的な最前線にいると主張しながらも、すべての責任ある行為者として位置づけている」と彼女は語った。「このように迅速に、そしてそれほど洗練されていない試みによって不正アクセスされたという事実は、彼らにとって真に屈辱的なものだ。"
このストーリーのトピックや著者をフォローして、パーソナライズされたホームページフィードで類似の記事を見たり、メール更新を受け取ったりしてください。
- Robert Hart
-
-
-
-
原文を表示
Anthropic’s tightly controlled rollout of Claude Mythos has taken an awkward turn. After spending weeks insisting the AI model is so capable at cybersecurity that it is too dangerous to release publicly, it appears the model fell into the wrong hands anyway.
According to Bloomberg, a “small group of unauthorized users” has had access to Mythos — whose existence was first revealed in a leak — since the day Anthropic announced plans to offer it to a select group of companies for testing. Anthropic says it is investigating. That’s a rough look for a company that has built its brand on taking AI safety seriously while touting the cybersecurity prowess of its latest model.
From a technological standpoint, the Mythos breach is embarrassingly unsophisticated. *Bloomberg* reports the group accessed Mythos by making “an educated guess about the model’s online location,” using information about Anthropic’s other models exposed in the breach of Mercor — a company that makes AI training data — along with access one member had through contract work evaluating Anthropic models. The group got unauthorized access to Mythos through a combination of insider knowledge and a lucky guess, not some sophisticated technological exploit or wholesale theft of the model.
Security vulnerabilities are inevitable, and it was Mercor, not Anthropic, that revealed the information the hackers used to guess Mythos’ location. Pia Hüsch, a research fellow at the British think tank Royal United Services Institute (RUSI), told me that no company is ever completely secure and humans are often the weakest link, though it “does initially seem a bit lucky” that there were no serious consequences.
Anthropic failed to anticipate an ‘entirely imaginable’ kind of failure
But it’s not entirely bad luck. These kinds of educated guesses are a very standard hacking technique, and the Mercor breach was already known before Mythos’ release. Security researcher Lukasz Olejnik described it to me as an “entirely imaginable” kind of failure that the cybersecurity industry has been routinely dealing with for the last 20 years. So Anthropic should have anticipated it and should have prepared accordingly, particularly knowing that its information had been compromised.
Anthropic also appears to have had the means to spot the breach. The company is able to “log and track model use,” Olejnik said, which should make it possible to stop unauthorized or malicious access, especially since the Mythos rollout was supposed to be highly limited. Evidently, Anthropic wasn’t monitoring closely enough — and given how dangerous it says the model is, it’s reasonable to ask why.
By *Bloomberg’s* account, the group was not using Mythos for cybersecurity tasks, partly because they just wanted to mess around with the new model and partly because doing so could have tipped Anthropic off. If Anthropic’s messaging surrounding Mythos is to be taken seriously, that is a lucky break. The company has framed Mythos as a “watershed moment for security,” claiming it found vulnerabilities in “every major operating system and web browser,” and said its release must be coordinated to allow time to “reinforce the world’s cyber defenses.”
Anthropic has a habit of using dramatic, alarming-sounding language that can be tough to interrogate cleanly, including flirting with the idea that its Claude model might be conscious. Even so, early reports from parties with access suggest Mythos is particularly adept in cybersecurity. Mozilla CTO Bobby Holley said it found hundreds of bugs in Firefox 150 and may finally give defenders a chance at complete victory over attackers. Unsurprisingly, governments and financial institutions around the world have been eager to get their hands on it. The NSA and other US agencies reportedly have access despite Anthropic’s designation as a supply chain risk, though the rollout appears to have bypassed the US cybersecurity agency, CISA, so far.
“Anthropic claims to be at the absolute forefront of all these technologies, but also positions itself as the responsible actor in all of this.”
The fact that the breach was uncovered by a reporter rather than Anthropic also raises the obvious question of whether it is an isolated incident. It “really illustrates how wide the circle of people who may be able to do this is, even if they don’t have super technically sophisticated means,” Hüsch said. Anthropic will likely comb through its supply chain to see how this happened and plug gaps, but she said there is a wide range of actors who would want access to a model like this, some of them with a great deal of money behind them. There is no reason to assume anyone else who gained access would be as restrained as the group *Bloomberg* reported on.
Anthropic has, to some extent, shot itself in its own foot. The company has built its identity around taking AI safety more seriously than its rivals, creating sky-high expectations for model security that jar with its apparent carelessness; the fact that Mythos was exposed through such a basic and predictable failure only underscores that. Worse still, by hyping Mythos as an unusually powerful tool too dangerous for public release, Anthropic turned it into an obvious target, whether for malicious actors or hackers simply looking for a challenge.
This isn’t even the first awkward security incident around Mythos. The model’s existence was accidentally revealed before release through an “unsecured data trove” on a central system containing content for its website. Now, that model has been secretly accessed via a wholly predictable vulnerability Anthropic didn’t think to patch. Perfection is impossible, but for a company that has anointed itself the vanguard of AI safety, such a basic misstep is hard to justify, even with some of the bad luck it’s had.
To Hüsch, the whole episode can be summed up in one word: humiliation. “Anthropic claims to be at the absolute forefront of all these technologies, but also positions itself as the responsible actor in all of this,” she said. “The fact that this has now been accessed through unauthorized means so quickly, and through such an unsophisticated attempt, is really a humiliation for them.”
Follow topics and authors from this story to see more like this in your personalized homepage feed and to receive email updates.
- Robert Hart
-
-
-
-
-
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み