ミソスに驚き、トランプ氏が突然 AI セーフティテストの重要性を認識
本文の状態
日本語全文を表示中
詳細モードで約1分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Ars Technica AI
ドナルド・トランプ政権は、Google DeepMind、Microsoft、xAI と合意し、最先端 AI モデルのリリース前後に政府による安全性検査を実施する方針へ転換した。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るSource Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
今週、トランプ政権は方針を転換し、Google DeepMind、Microsoft、xAI との間に合意に署名しました。これにより、これらの企業が最先端 AI モデルをリリースする前後に、政府による安全性チェックが実施されることになります。
以前、ドナルド・トランプはバイデン政権時代の政策を頑なに退け、自主的な安全チェックの必要性を「無制限なイノベーションを阻む過度な規制」として却下していました。就任直後にはさらに一歩進み、米国 AI セーフティ研究所（US AI Safety Institute）を「AI 基準と革新センター（Center for AI Standards and Innovation: CAISI）」へと名称変更し、「安全性（safety）」という単語を名前から削除することで、ジョー・バイデンに対する明確な牽制を行いました。
しかし、Anthropic が最新の Claude Mythos モデルのリリースはリスクが高すぎると発表し、悪意のある行為者がその高度なサイバーセキュリティ機能を悪用する恐れがあるとして懸念を示した直後、トランプ氏は突然 AI の安全性について関心を示すようになりました。ホワイトハウス国家経済会議（National Economic Council）のケビン・ハセット所長によると、トランプ氏はまもなく、先進的な AI システムをリリースする前に政府によるテストを義務付ける大統領令を発令する可能性があるとし、これは『フォーチュン』誌が報じています。
記事全文を読む
コメント
原文を表示
This week, the Trump administration backpedaled and signed agreements with Google DeepMind, Microsoft, and xAI to run government safety checks on the firms' frontier AI models before and after their release.
Previously, Donald Trump had stubbornly cast aside the Biden-era policy, dismissing the need for voluntary safety checks as overregulation blocking unbridled innovation. Soon after taking office, he took the extra step of rebranding the US AI Safety Institute to the Center for AI Standards and Innovation (CAISI), removing "safety" from the name in a pointed jab at Joe Biden.
But after Anthropic announced that it would be too risky to release its latest Claude Mythos model—fearing that bad actors might exploit its advanced cybersecurity capabilities—Trump's suddenly concerned about AI safety. According to White House National Economic Council Director Kevin Hassett, Trump may soon issue an executive order mandating government testing of advanced AI systems prior to release, Fortune reported.
Read full article
Comments
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み