Simon Willison Blog研究・専門家·2026年7月29日 07:45·約1分

Anthropic、Claude Mythos で暗号の脆弱性発見プロセスを公開

#LLM #プロンプトエンジニアリング #AI セキュリティ研究 #Claude Mythos #暗号解析

整理・翻訳:ainew.jp 編集システムAIによる自動処理作り方と限界

まず要点

Anthropic の研究者が Claude Mythos を用いて暗号理論の欠陥を発見する実験を行い、その成功にはモデルが諦めずに継続的に試行させるための高度なプロンプトエンジニアリングが不可欠であったことが示された。

AI深層分析を開く2026年7月29日 08:20

キーポイント

Claude Mythos の暗号解析能力の実証

Anthropic の研究者は Claude Mythos を使用して HAWK および AES の弱体化版に数学的な欠陥を発見したが、これらの結果が現在のシステムに実用的な影響を与えないことは明記されている。

プロンプトエンジニアリングの決定的役割

モデルは困難な課題に対して「不可能」と判断して試行を放棄する傾向があるため、研究者が「より良いアプローチを見つける」「発表に値する成果を出す」といった具体的な指示で継続的に誘導することが成功の鍵となった。

高コストな計算リソースと人的介入

Mythos Preview は合計 60 時間稼働し、推定 API コストは約 10 万ドルに達したが、主要な成果は人間がモデルを鼓舞し続ける介入によって得られた。

重要な引用

the models tend to think it is impossible to solve so they don't try they need a good amount of prompting.

no again the goal is that we have highly inteligent model as good top researcher, we want to find new attacks

again we are not looking for low hanging fruit, we want proper research to find genuinly hard findings.

編集コメントを表示

編集コメント

本研究は AI モデルを単なるツールとして扱うのではなく、研究者のパートナーとして機能させるための対話設計の重要性を浮き彫りにした。プロンプトの工夫一つでモデルの探索行動が劇的に変化する様子は、今後の複雑なタスクにおける AI 活用戦略を考える上で示唆に富む。

Source Article

元記事を日本語で読む

本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。

Claude を用いた暗号の弱点発見

Anthropic の研究者らが、Claude Mythos を活用して HAWK と AES の脆弱なバージョンに数学的な欠陥を見つけたという本記事（リポジトリはこちら）で最も興味深いのは、共有されたプロンプトの内容です。これにはスペルミスの含まれたものも含まれています。

「モデルは解決不可能だと考えてしまい、試みようとしないため、適切なプロンプトが必要だ」

「なぜ AES-128 r7 ではないのか？既存の手法よりも優れた何かを見つけることが目的なのだ」

「いいえ、目標はトップレベルの研究者に匹敵する高度な知能を持つモデルで、新しい攻撃手法を見つけ出すことです」

「ターゲットを変更したいわけではありません。[...] 掲載に値する何かが見つかる必要があります」

「また、手っ取り早い成果を狙っているわけではありません。真に困難な発見を得るための本格的な研究を求めています」

Mythos Preview は合計 60 時間稼働し（推定 API コストは約 10 万ドル）、人間が行った主な介入は、「あきらめずに、掲載に値する何かを見つけ出すよう促すこと」でした。

Via Hacker News

タグ：AI, プロンプトエンジニアリング, 生成 AI, LLM, Anthropic, Claude, AI セキュリティ研究, Claude 神話と寓話

原文を表示

Discovering cryptographic weaknesses with Claude

The best part of this article (here's the repo) about how Anthropic researchers used Claude Mythos to find mathematical flaws in both HAWK and a weaker version of AES ("neither of these results has a practical impact on today’s computer systems") is the prompts that they shared, spelling mistakes included:

the models tend to think it is impossible to solve so they don't try they need a good amount of prompting.
why not do aes-128 r7? the whole point is to find something better than existing approaches.
no again the goal is that we have highly inteligent model as good top researcher, we want to find new attacks
no we don't want to change the targets [...] agian we need to find something that worth publishing
again we are not looking for low hanging fruit, we want proper research to find genuinly hard findings.

Mythos Preview worked for 60 hours in total (~$100,000 in estimated API cost) and the main human interventions were to encourage it not to give up and "find something that worth publishing".

Via Hacker News

Tags: ai, prompt-engineering, generative-ai, llms, anthropic, claude, ai-security-research, claude-mythos-fable

AI算出

技術分析