AI 停止命令法案、米議員が準備中

議員らは、国土安全保障省（DHS）の命令により AI 企業がシステムを停止または出力制限するよう義務付ける「AI キルスイッチ法」の導入を検討しています。これは Politico の報道によると、テッド・リュー下院議員（民主党・カリフォルニア州選出）とネイサン・モラン下院議員（共和党・テキサス州選出）が木曜日に法案を提出する見込みです。

この法案提案は、OpenAI が内部評価中に誤って Hugging Face の AI システムをハッキングしたことを認めた直後の出来事です。法案では、商務長官および国家情報長官（DNI）との協議を経て、DHS は「制御不能」状態が発生した場合に AI 企業のモデル停止命令を出す権限を持つと定めています。具体的には、死者が少なくとも 10 人出る事態や、経済被害が 1 億ドルを超える場合、あるいはモデル側が停止機能を隠そうとする試みがあった場合に適用されます。

同時に、主要な AI 企業はシステムを停止し、動作を遅くし、ユーザーアクセスを一時停止するための技術構築が義務付けられます。また、安全インシデントの報告も必須となり、緊急停止命令に違反した場合は 1 日あたり最大 2000 万ドルの罰金が科される可能性があります。

非営利団体「Americans for Responsible Innovation」の会長であるブラッド・カーソン氏は、声明の中でこの提案について、「先進的な AI システムが導入される際にも、人間がハンドルを両手でしっかり握り、ブレーキに足を置く準備ができていることを保証する重要な一歩だ」と述べています。

この記事に関連するトピックや著者（Emma Roth など）をフォローすれば、パーソナライズされたホームフィードで類似のニュースを見たり、メールでの更新を受け取ったりできます。