Amazon CEO の米政府との会談がアンソロピックモデルへの規制強化の引き金に
本文の状態
日本語全文を表示中
詳細モードで約1分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
TLDR AI
アンソロピックの研究者らが同社製 AI モデルをサイバー攻撃支援に悪用する可能性を示すプロンプトを実行したことが発覚。これを受け、ホワイトハウスは対策を要求し、アンソロピックは対応のため主要モデルへのアクセスを停止した。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Amazon の最高経営責任者（CEO）であるアンディ・ジャシー氏と米国政府高官との会談をきっかけに、トランプ政権はAnthropic 社の最も高度な AI モデルのすべての海外利用を停止する措置をとりました。Amazon の研究者たちは一連のプロンプト（指示文）を用いて、Anthropic 社の Fable 5 モデルにサイバー攻撃を支援するための情報を提供させようとしたのです。ホワイトハウスの高官らは Anthropic に対し、脆弱性の修正またはモデルの削除を求めました。これに応じ Anthropic は Mythos および Fable モデルへのアクセスを停止しましたが、Amazon が指摘した脆弱性は比較的基礎的なものであり、他の一般公開されているモデルも同様にそれらを発見できる能力を持っていると述べています。
原文を表示
Conversations between Amazon chief executive Andy Jassy and US officials prompted the Trump administration to halt all foreign use of Anthropic's most capable AI models. Researchers at Amazon had used a series of prompts to get Anthropic's Fable 5 model to provide them with information that could be used to aid cyberattacks. White House officials asked Anthropic to fix the vulnerabilities or take down the model. Anthropic has shut down access to its Mythos and Fable models to comply, but says that the vulnerabilities flagged by Amazon are relatively basic and that other publicly available models are also capable of discovering them.
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み