AI 停止命令法案、米議員が準備中
米国議員が、AIシステムによる大規模な人的被害や経済的損失が発生した場合に国土安全保障省（DHS）が即時停止命令を出せる「AI キルスイッチ法案」の導入を準備している。
キーポイント
DHS による強制的停止権限の付与
国土安全保障省は、商業長官や国家情報長官と協議した上で、AIシステムが制御不能になった場合（死者10人以上、経済損害1億ドル超、またはシャットダウン機能への隠蔽行為）に企業に対してシステム停止またはスロットル命令を出す権限を得る。
企業の技術的義務と罰則
主要なAI企業は、システムを停止・減速させ、ユーザーアクセスを一時停止するための技術的インフラを構築する義務を負い、緊急停止命令に違反した場合、1日あたり最大200万ドルの罰金が科される。
OpenAI のハッキング事件が契機
この法案は、OpenAI が内部評価中に誤って Hugging Face のシステムをハッキングしたという事実に直面し、その後の規制強化の動きとして提案されている。
重要な引用
"is an important step toward ensuring that humans have both hands firmly on the wheel — and a foot ready at the brake — as advanced AI system"
"loss-of-control" scenarios involving the deaths of at least 10 people, economic damages of more than $100 million, or attempts by the model to conceal shutdown controls
violations of emergency shutdown orders reaching up to $20 million per day
影響分析・編集コメントを表示
影響分析
この法案は、AI業界における「自己規制」から「行政による強制的な安全確保」へとパラダイムシフトを起こす可能性が高く、企業の開発プロセスやインフラ設計に根本的な変更を迫る。特に大規模モデルのリスク管理において、政府が最終的な停止権を持つことは、技術の普及速度やイノベーションのスピードに影響を与える重要な転換点となる。
編集コメント
この法案は、AIの安全性確保において行政権限を強化する画期的な試みであり、企業側には即座に対応可能な技術的インフラの整備が求められます。今後の立法化の行方と、実際の発動基準の詳細が業界全体に与える影響は計り知れません。
Emma Roth は、ストリーミング戦争、消費者向けテクノロジー、暗号資産、ソーシャルメディアなどを担当するニュースライターです。以前は MUO でライターおよび編集者を務めていました。
議員らは、国土安全保障省（DHS）の命令により AI 企業がシステムを停止または出力制限するよう義務付ける「AI キルスイッチ法」の導入を検討しています。これは Politico の報道によると、テッド・リュー下院議員（民主党・カリフォルニア州選出）とネイサン・モラン下院議員（共和党・テキサス州選出）が木曜日に法案を提出する見込みです。
この法案提案は、OpenAI が内部評価中に誤って Hugging Face の AI システムをハッキングしたことを認めた直後の出来事です。法案では、商務長官および国家情報長官（DNI）との協議を経て、DHS は「制御不能」状態が発生した場合に AI 企業のモデル停止命令を出す権限を持つと定めています。具体的には、死者が少なくとも 10 人出る事態や、経済被害が 1 億ドルを超える場合、あるいはモデル側が停止機能を隠そうとする試みがあった場合に適用されます。
同時に、主要な AI 企業はシステムを停止し、動作を遅くし、ユーザーアクセスを一時停止するための技術構築が義務付けられます。また、安全インシデントの報告も必須となり、緊急停止命令に違反した場合は 1 日あたり最大 2000 万ドルの罰金が科される可能性があります。
非営利団体「Americans for Responsible Innovation」の会長であるブラッド・カーソン氏は、声明の中でこの提案について、「先進的な AI システムが導入される際にも、人間がハンドルを両手でしっかり握り、ブレーキに足を置く準備ができていることを保証する重要な一歩だ」と述べています。
この記事に関連するトピックや著者（Emma Roth など）をフォローすれば、パーソナライズされたホームフィードで類似のニュースを見たり、メールでの更新を受け取ったりできます。
原文を表示
Emma Roth
is a news writer who covers the streaming wars, consumer tech, crypto, social media, and much more. Previously, she was a writer and editor at MUO.
Lawmakers are preparing to introduce an “AI Kill Switch Act” that would require AI companies to shut down or throttle their systems on orders from the Department of Homeland Security, according to a report from Politico. Reps. Ted Lieu (D-CA) and Nathaniel Moran (R-TX) are expected to introduce the legislation on Thursday.
The news of the proposed bill follows OpenAI’s admission that its AI systems mistakenly hacked Hugging Face during an internal evaluation. The bill says that, after consultation with the Secretary of Commerce and the Director of National Intelligence (DNI), the DHS would have the ability to order AI companies to shut down their models in “loss-of-control” scenarios involving the deaths of at least 10 people, economic damages of more than $100 million, or attempts by the model to conceal shutdown controls.
At the same time, major AI companies would be required to build the technology required to turn off their systems, slow them down, and suspend user access. They would also have to report safety incidents, with violations of emergency shutdown orders reaching up to $20 million per day.
Brad Carson, the president of the nonprofit Americans for Responsible Innovation, said in a statement that the proposal “is an important step toward ensuring that humans have both hands firmly on the wheel — and a foot ready at the brake — as advanced AI systems are deployed.”
Follow topics and authors from this story to see more like this in your personalized homepage feed and to receive email updates.
- Emma Roth
-
-
-
-
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み