"危険"なAIモデルは規制に関係なく登場する
本文の状態
日本語全文を表示中
詳細モードで約1分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Ars Technica AI
米国政府の輸出管理指令により、アントロピック社は新モデル「Claude Fable 5」と「Mythos 5」の利用を停止した。同社はホワイトハウスと協議中だが、再稼働のための合意はまだ得られていない。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
先週後半、Anthropic は米国政府の輸出管理指令に従い、「すべての外国人」にサービス利用を禁止する措置を受け、新しい Claude Fable 5 および Mythos 5 AI モデルをオフラインとしました。同社は金曜日からホワイトハウスと協議を重ねていますが、提供再開を可能にする合意にはまだ至っていません。
Mythos は今年 4 月にデビューして以来、Anthropic はこのモデルが、セキュリティ専門家が脆弱性を発見してパッチを適用するのを支援するだけでなく、悪意のある行為者が悪用しうる攻撃手法を特定する能力も備えていると主張し、同時に警告を発してきました。Anthropic 自身も、Mythos 5 と Claude Fable 5 の発表において、この両刃の剣に言及しています。「AI モデルの高度な利用の多くは二重用途です。サイバーセキュリティ専門家や生物学研究者にとっては有益なクエリであっても、悪意のある行為者に提供されれば危険になり得る」と同社は先週のブログ記事で記述しました。
この点を踏まえ、同社は当初、Project Glasswing と呼ばれる作業グループの一部として、Mythos Preview というバージョンを特定のコンソーシアムに限定してリリースしました。Mythos 5 も先週、このグループに対して非公開で提供されました。一方、Mythos グレードのモデルである Claude Fable 5 は一般向けにリリースされましたが、生物学やサイバーセキュリティに関する質問への回答能力には特定のプロテクションが設けられています。
記事全文を読む
コメント
原文を表示
Late last week, Anthropic took its new Claude Fable 5 and Mythos 5 AI models offline following a United States government export-control directive barring “any foreign national” from using the services. The company has been in talks with the White House since Friday but has yet to secure an agreement that would allow it to reinstate the offerings.
Since Mythos debuted in April, Anthropic has claimed—and warned—that the model has advanced capabilities for not only finding software vulnerabilities to help defenders patch them, but also figuring out ways to exploit them that could be used by bad actors. Anthropic itself noted this double-edged sword in its launch of Mythos 5 and Claude Fable 5. “A great deal of advanced usage of AI models is dual use: the same queries that are beneficial in the hands of cybersecurity professionals and biology researchers could be dangerous if available to malicious actors,” the company wrote in a blog post last week.
With this in mind, the company initially released a version called Mythos Preview to a select consortium as part of a working group known as Project Glasswing. Mythos 5 was also privately released to this group last week, while Claude Fable 5, which is a Mythos-grade model, was released to the general public with specific blocks on its ability to give responses to questions about biology and cybersecurity.
Read full article
Comments
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み