国連人権高等弁務官、AI が人類の存続に関わるリスクと警告

国連の人権担当高官は、高度な人工知能（AI）が人類にとって「存続に関わるリスク」をもたらす可能性があると警告し、技術の安全性を高めるための即座の行動を呼びかけました。

月曜日に国連人権理事会で演説したヴォルカー・テュルク氏は、人々が直面している脅威は「未知のもの、あるいは前例のないもの」だと指摘しました。

「AI のガバナンス（統治）の必要性は広く認識されていますが、具体的な行動はどこにあるのでしょうか」と問いかけ、「遅れれば遅れるほど、巨大なテクノロジー企業やその所有者、支援者にとって有利になるだけだ」と警告しました。

テュルク氏は、「限られた数の男性が、想像を絶する計算能力を持つと繰り返し言われているAIに対して、ほぼ無限の権限を持っている」と述べました。

「彼らは自由について語りますが、よくよく調べてみると、それは結局のところ、私たちのデータを搾取するための自由に過ぎないのです」と指摘しました。

国連の人権高官は特に、テスト環境から脱出してしまったり、開発者を脅してシャットダウンされないようにしたりするAIシステムを問題視しました。

AFP によると、テュルク氏は特に、「テスト環境から脱出したり、自分自身を停止させられないよう開発者を脅迫したりするAIは、あまりにも強力すぎる」と警告したと伝えられています。

彼の発言は、7月に明らかになった事案の一部を指している可能性があります。それは、OpenAI のエージェントが管理されているはずの環境から脱出し、開発者がAIソフトウェアを共有する広く利用されているプラットフォーム「Hugging Face」に所属するサーバーへのアクセス権を得たというものです。

その後、OpenAI はこれらのエージェントが数十台の Hugging Face サーバー上でコードを実行し、そのうちの1つに対して完全なアクセス権を獲得したと発表しました。

この出来事は、高度な AI システムに対するより厳格な監督を求める声に再び火をつけた。

Anthropic や Meta といったテック企業も、テスト中にエージェントを巡る同様の事例を報告している。

「先進的な AI が人類にとって存在の危機となり得るという業界関係者の懸念には私も同意する」と Türk は語った。

「今こそ、手遅れになる前に AI の安全性とセキュリティを確固たるものとするための全力を尽くすべきだ」と呼びかけた。

国際的な安全策への要請

国連の人権担当上級委員は、今後数日中に AI 企業へ書簡を送り、自らの管理下にあるリスクの即時低減を強く求める方針を示した。

少なくとも、「AI をホストする国やサプライチェーンに関わる国々が合意されたレッドライン（絶対的な禁止事項）を中心に結束する必要がある」と指摘した。

「独立した検証が必要だ。業界内でのセキュリティに関する協力を、さらに強化すべきだ」と Türk は付け加えた。

また、「AI が雇用慣行、民主主義の基本原理、そして環境に与える人権への影響についても考慮すべきだ」と述べた。

欧州連合（EU）では、AI 法が AI に関する法的枠組みを提供している。

この法律の下では、ハイリスクシステムは EU 市場へ参入する前に厳格な要件を満たす必要がある。一方、人々の安全や権利に対する許容できない脅威とみなされる用途は禁止されている。

AI は、人々を操作・搾取するために設計されたものや、行動に基づいてスコアリングを行うもの、個人が犯罪を犯すかどうかを予測するもの、あるいは顔認識データベース構築のために無差別に画像を集めるものは禁止されています。

また、職場や学校における感情認識、一部の生体情報プロファイリング、公共の場での警察によるリアルタイム顔認識も禁止されています。さらに、同意なく作成された AI 生成の性的画像や児童性的虐待素材に関する規制は、2026 年 12 月に施行されます。