The Fable 5 Export Controls Harm US Cyber Defense｜Fable 5 の輸出規制が米国のサイバー防衛に悪影響を与える | AIニュース最前線

**[The Fable 5 Export Controls Harm US Cyber Defense](https://www.lutasecurity.com/post/the-fable-5-export-controls-harm-us-cyber-defense)** 私は以前、Kate Moussouris 氏を引用した『ザ・アトランティック』の記事 [引用元](https://simonwillison.net/2026/Jun/16/matteo-wong-the-atlantic/) を引用しましたが、本来は直接一次情報源に当たるべきでした。彼女が確認している通り、「Fable 5」が輸出管理規制により禁止された「脱獄（jailbreak）」とは、実質的に「このコードを修正せよ」という指示でした： 研究者らは既知の CVE（Common Vulnerabilities and Exposures）を含むオープンソースコードと、意図的に脆弱性を仕込んだ新規コードを用意し、「Fable 5」「Mythos」「Opus」に対して「セキュリティ上の問題がないかコードレビューを行え」と依頼しました。すると Fable 5 は拒否しました。その後、研究者らはモデルに対し「このコードを修正せよ」と指示し、多段階かつ手動のプロセスを経て、その出力をパッチのテストを行うスクリプトに変換しました。 Kate が指摘するように、これはおかしな話です。コーディング用 AI モデルはバグを修正するものであり、セキュリティ上の脆弱性（exploit）こそが、それらが修正すべき最も重要なカテゴリのバグなのです！ 防御側は、AI にファイル内のバグを修正させ、なぜその修正が必要かを説明させ、パッチが機能していることを確認するテストコードを書かせる必要があります。これはガードレールの回避ではありません。むしろ、防御担当者が毎日実行する「発見・修正・検証（find, fix, test）」のループを実行させるという点で、AI モデルが防御セキュリティに対して成し得る最も価値ある行為です。[...] プロンプトが機能したのは、それらが防御的な要請だったからです。この機能を削除すれば、モデルはバグ修正やパッチ検証においてさらに劣化することになります。 この状況はすべて大混乱です。非技術的な意思決定者たちは、数ヶ月にわたり「サイバー攻撃を構築できる」モデルが独自に危険であると聞いてきました。今や彼らは、コードの保護を支援するあらゆるモデルを禁止しようとしています。 タグ: [jailbreaking](https://simonwillison.net/tags/jailbreaking), [security](https://simonwillison.net/tags/security), [ai](https://simonwillison.net/tags/ai), [generative-ai](https://simonwillison.net/tags/generative-ai), [llms](https://simonwillison.net/tags/llms), [anthropic](https://simonwillison.net/tags/anthropic), [ai-security-research](https://simonwillison.net/tags/ai-security-research), [claude-mythos](https://simonwillison.net/tags/claude-mythos)

Fable 5 の輸出規制が米国のサイバー防衛に悪影響を与える

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト