中国が「Mythos」にアクセスした可能性、ホワイトハウスが輸出規制の理由に
セマフォールの新報告によると、ホワイトハウスはAnthropic社の生成AIモデル「Mythos」が中国関連グループにアクセスされた恐れから輸出制限を決定した。もし中国政府が同モデルにアクセスしていれば、深刻な国家安全保障上の懸念が生じるという。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Semafor の新しい報告によると、ホワイトハウスが Anthropic の Mythos に対する 輸出規制 を課す決定を下した背景には、中国と関連するグループがこのモデルにアクセスしているという懸念が一部で存在しました。もし中国政府が実際に Mythos 5 または Fable 5 にアクセスしていた場合、それは深刻な国家安全保障上のリスクとなります。政府はまた、知識蒸留と呼ばれる手法を通じてモデルの逆設計を試みる可能性があります。これは、「学生」AI をより高度なモデルに訓練してその振る舞いを複製する手法です。
ホワイトハウスはこの報道を確認しておらず、トランプ顧問のデイビッド・サックスによる X（旧 Twitter）上の投稿でも中国には言及されていません。むしろサックスは、Fable と Mythos が 脱獄 される可能性に焦点を当てていましたが、これはアンソロピックが否定していることです。アンソロピックはコメント依頼への回答を行っていませんが、スポークスマンは『Semafor』に対し、輸出管理に関する政府との議論の中で中国の問題は持ち上げられなかったと述べています。
もし Mythos が中国政府によってアクセスされたのであれば、それはアンソロピックの最も強力なモデルに対する最初の恥ずべき侵害ではありません。同社は Mythos が一般公開には危険すぎると主張していますが、アンソロピックが侵害を発見しアクセスを遮断するまで、Discord のグループが約 2 週間にわたり不正にアクセスしていたと報じられています。
この記事のトピックや著者をフォローして、パーソナライズされたホームページフィードで類似の記事をもっと見たり、メール更新を受け取ったりしてください。
- テレンス・オブライエン
-
-
-
-
原文を表示
Terrence O'Brien
is the Verge’s weekend editor. He has over 18 years of experience, including 10 years as managing editor at Engadget.
According to a new report from *Semafor*, the White House’s decision to impose export restrictions on Anthropic’s Mythos was driven in part by fears that it had been accessed by a group linked to China. If the Chinese government actually had access to Mythos 5 or Fable 5, it would present a serious national security risk. The government could also attempt to reverse engineer the model through distillation, a method in which a “student” AI is trained on a more advanced model to replicate its behavior.
The White House has not confirmed this report, and a post on X by Trump advisor David Sacks did not mention China. Instead, Sacks focused on a reported ability for Fable and Mythos to be jailbroken, something that Anthropic has denied. Anthropic has not replied to a request for comment, though a spokesperson told *Semafor* that the government did not bring up China during its discussions around export controls.
If Mythos was accessed by the Chinese government, it wouldn’t be the first embarrassing breach of Anthropic’s most powerful model. The company has said that Mythos is too dangerous and powerful for public consumption, but a Discord group reportedly had accessfor two weeks before Anthropic discovered the breach and cut off access.
Follow topics and authors from this story to see more like this in your personalized homepage feed and to receive email updates.
- Terrence O'Brien
-
-
-
-
-
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み