AIキルスイッチ法案、政府に停止権限付与
米政府が「AI キルスイッチ法」を提案し、大規模な被害をもたらす恐れのある AI システムに対し、国土安全保障長官の権限で即時停止や機能制限を命じる法的枠組みを整備する動きである。
キーポイント
政府による強制的停止権限の付与
国土安全保障省（DHS）長官に対し、AI システムが壊滅的な危害を及ぼす恐れがある場合、即時シャットダウンや機能制限を命じる法的権限を与える。
開発者への技術的実装義務と罰則
AI 開発企業に対し、政府の命令に応じてシステムを停止・制限するための技術的機能を組み込むことを義務付け、違反した場合は1日あたり最大200万ドルの制裁金を科す。
行政権限の拡大と法改正
2002年の国土安全保障法を改正し、次期トランプ政権および将来の政府が、AI 企業のユーザーアクセス停止や特定機能の無効化を指示できる体制を整える。
重要な引用
"that can cause catastrophic harm"
The bill would require AI makers to deploy technical capabilities allowing them to throttle or shut down the systems when ordered to do so by the government.
AI developers that refuse to shut systems down could face fines of up $20 million for each day on which a violation occurs.
影響分析・編集コメントを表示
影響分析
この法案は、AI の安全性確保において民間の自主規制から政府による強制的介入へとパラダイムシフトを起こす可能性があり、業界全体が「安全のための技術的インフラ」を即座に構築するよう迫られることになります。特に大規模言語モデル（LLM）や自律型システムを開発・運用する企業にとっては、コンプライアンスコストの増大と、政府との対立リスクという新たな経営課題が生じます。
編集コメント
AI の急速な進化に伴い、安全性と社会への影響を管理するための政府の介入が現実的な選択肢として浮上しています。この法案は、技術開発のスピードと社会的リスクのバランスを取るための重要な試金石となるでしょう。
「AI キルスイッチ法」と呼ばれる法案は、米国政府高官に「壊滅的な被害をもたらす可能性のある」AI システムの停止命令を出す権限を与える内容だ。法案の提案者が本日明らかにした。
この法案が議会で承認されれば、トランプ政権およびその後の政権に対し、AI 企業がユーザーアクセスをブロックしたり、特定の機能を無効化・制限したり、あるいは AI システム全体を完全に停止させたりするタイミングを決定する権限が付与される。また、政府から停止命令が出された際にシステムを制御または停止できる技術的機能の導入を、AI 開発事業者に義務付ける内容となる。
この法案は 2002 年の国土安全保障法を改正し、国土安全保障長官に AI システムの停止や稼働中止を命じる権限を与える。システム停止命令に従わない開発業者には、違反が継続する日ごとに最大 2,000 万ドルの罰金が科される可能性がある。
記事全文を読む
コメント
原文を表示
A proposed law called the AI Kill Switch Act would let US government officials order the shutdown of AI systems "that can cause catastrophic harm," the bill's sponsors said today.
If approved by Congress, the bill would let the Trump administration and future administrations decide when an AI company must block user access, disable or restrict a particular capability, or shut an entire AI system down completely. The bill would require AI makers to deploy technical capabilities allowing them to throttle or shut down the systems when ordered to do so by the government.
The bill would amend the Homeland Security Act of 2002 with authority for the Secretary of the Department of Homeland Security to order the suspension or shutdown of AI systems. AI developers that refuse to shut systems down could face fines of up $20 million for each day on which a violation occurs.
Read full article
Comments
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み