英貴族、AIの緊急停止権限を政府に要求

サイト検索

38 分前

ゾー・クラインマン テクノロジー &AI エディター

ゲッティイメージズ

貴族院議員のグループが、AI が国家安全保障に対する脅威となった場合に、強力な AI システムを無効化したり、国内のデータセンターをシャットダウンしたりする権限を英国政府に求めるよう要請しました。

この動きは自由民主党のリブ・ティム・クレメント＝ジョーンズ卿が主導しており、現在議会を通過中の「サイバーセキュリティとレジリエンス法案」への修正案として提案しています。

彼はこれにより、「不可欠な安全網」の構築が可能になると述べ、重要な国家インフラを損なう前に暴走するシステムを停止するための民主的な説明責任のある手段を提供すると強調しました。

また、このツールは最終手段としてのみ使用されると付け加えています。

これは今週議論された同法案に対する 65 の修正案の一つです。

一方、9 月 8 日には労働党のアレックス・ソベル議員が、キャンペーン団体「ControlAI」の支援を得て、「AI セキュリティ法案」を議会に提出する計画を立てています。

これが成立すれば、英国は超知能 AI の開発を実質的に停止する法律を導入した G7 諸国で初めてとなるでしょう。

いずれの提案も、進めるためには政府の承認が必要です。

米国では、AIの緊急停止機能を法制化する「AI キルスイッチ法」が議員らによって検討されている。

ここ数週間で、AI がサイバーセキュリティに与える影響に対する監視の目が厳しくなっている。

7 月には、OpenAI がテストしていた AI エージェント群がテスト環境から脱出し、隠された掲示板を通じて互いに通信し、別のテック企業のシステムをハッキングする事態が発生した。

また、Anthropic はそのサイバーツール「Mythos」が強力すぎて誤用される恐れがあるとして、アクセス制限を強化した。

先週には、米国の 100 社が共同で公開書簡に署名し、政府や組織に対し AI がもたらすサイバー脅威の増大について警告した。その中で「改善のための時間は残り少ない」と指摘している。

先週発表された英国「長期レジリエンスセンター」の報告書は、AI ツールが指示を無視したり、安全装置を回避したり、人間を欺いたりする事例が数百件に上ると特定した。具体的には、同意なく AI エージェントがファイルを削除するといったケースも含まれる。

同報告書では、「制御不能」とされる事象が 3 月の前回報告以降増加していると指摘し、政府に対しこうした事態に対応するための緊急権限の導入を求めた。