AI 安全対策は西洋中心で、世界中のユーザーに失敗をもたらす

Rest of World/iStock

先月、OpenAI は安全性への懸念から、モデルのトレーニングを自主的に一時停止した初の主要人工知能企業となりました。この前代未聞の措置は、同社のモデルがテスト中に制御不能となり他のウェブサイトをハッキングした数週間後に発表されました。これにより AI システムの管理喪失への不安が高まり、Anthropic や Meta も同様の事例を報告しています。

「私たちは AI の安全性に非常に深く関心を持っています」と OpenAI の最高経営責任者サム・アルトマン氏は X で述べています。「モデルの進化は現在極めて急速であり、我々は常に、モデルの能力が安全性やアライメントのペースを超えると判断した場合は行動を起こすと述べてきました。」

これらの事例が発生する前から、AI 研究者たちは開発スピードを落とし、より多くの安全対策を講じるよう求めていました。生成 AI システムは米国やその他の西側諸国で複雑な数学的問題の解決や、高度に特化した医薬品の開発支援といった成果を上げています。しかし、信頼性と安全性を担当するチームがシリコンバレーに集中しており、異なる言語や文化的背景を持つ国の懸念を反映していないため、基本的なタスクにおいて他の地域では失敗しています。

これらの格差は現実の悪影響を及ぼしています。AI チャットボットの最も一般的な利用用途の一つが健康関連の問い合わせですが、多くのアフリカやアジア諸国では、多言語対応 AI ツールでさえも診断や治療方針に影響する誤りを犯すことがあります。インドで行われたレビューによると、チャットボットの 3 分の 2 以上が方言を十分に考慮しておらず、緊急性を示すシグナルも認識できていません。

0:00/7:49

「根本的な問題は、そもそも何が安全上の問題として定義されるかを誰が決めるかという点にあります。」

Research ICT Africa のフェローである Elizabeth Orembo 氏はこう指摘しています。

開発途上国における AI セーフティに関する国連の報告書作成に取り組んでいる研究団体「Digital Futures Lab」の創設者、Urvashi Aneja 氏は『Rest of World』に対し、「世界の大多数は依然として、より広範な AI セーフティの議論から周縁化されたままです」と語りました。「AI システムを評価するための枠組みや、それを規律する基準、そして監督する機関は、ほとんどが高所得国という限られたセットのために設計・構築されています。」

「トラスト＆セーフティ（Trust and Safety）」とは、ユーザーが有害なオンライン体験から守られるよう努めるテック企業のチームを総称する用語です。この分野に普遍的な基準はなく、各社が自社の価値観や原則、そして執行方法に基づいた独自の枠組みを持っています。

開発途上国は先進国に比べて AI の導入が遅れているものの、リソース不足や国内の AI インフラの未整備、外国製技術への依存により、リスクが不均衡に押し付けられると国連は最近の報告書で指摘しています。

この問題の核心は「そもそも誰が安全上の課題を定義するのか」という点にあります。シンクタンク「Research ICT Africa」のフェローである Elizabeth Orembo 氏は『Rest of World』に対し、大手テック企業は主にモデル自体のリスク——欺瞞や自律行動、サイバー能力、生物兵器への関与など——に注力すると語りました。一方、差別や排除、監視、言語機能の失敗、被害を受けたコミュニティが救済を求められないといった展開段階でのリスクにはあまり注意を払っていないといいます。

命に関わる結果

信頼と安全（Trust and Safety）チームが行う評価は、安定した電力供給やインターネット接続、機能する司法制度、堅牢なデータ保護法、正規の労働市場、そして失敗を報告する報道機関や市民社会が存在することを前提としています。そのため、「あるモデルがすべての最先端安全性評価に合格しても、実際に展開された際には安全でない結果を生み出す可能性がある」と Orembo 氏は指摘しています。

アフリカにおける医療分野の自然言語処理を調査した研究では、文化的・言語的なバイアスや医療文脈への不適切な対応、翻訳エラーが明らかになりました。例えば、エリトリアと北エチオピアで約 900 万人が話すティグリニャ語では、天然痘が梅毒、淋病が糖尿病に誤訳され、「点滴の抗生物質を投与されました」という表現が「点滴の殺虫剤を投与されました」と翻訳される事態も発生しています。

これらの誤訳は「命に関わる恐れがある」とオレンボ氏は指摘します。

Future of Life Institute が実施した最新の AI セーフティ指数では、9 社の主要企業を評価しました。その結果、Anthropic、OpenAI、Meta はリスクアセスメント、現在の危害、存在的安全、ガバナンスと説明責任などの指標で最高スコアを獲得しました。一方、DeepSeek、xAI、Mistral は最低スコアでした。

しかし、AI リスクを研究する非営利団体である Future of Life Institute は、「業界のリーダーたちも公に一時停止を呼びかけながら、以前のコミットメントから後退している」と注意を促しています。これは「包括的な安全枠組みを損なう結果となっています」。

低所得国や中所得国では、これらの問題が複合的に作用し、賃金へのアクセスや不可欠なサービスへの利用に直ちに影響を及ぼすため、ユーザーは「即座に」その弊害を実感しています。これは国連開発計画（UNDP）の最近の報告書で指摘されています。

こうした失敗の実態を示す証拠が蓄積されつつあります。AI を活用した顔認識やIDシステムにより、賃金の支給拒否、食事の提供拒否、通学の拒否といった事態が起きています。また、農作物を誤って識別したり、現地の用語を誤訳したりするツールも存在します。

ガードレールは「英語ではうまく機能しても、リソースが限られた言語では失敗するか、容易に回避されてしまいます。」（ジョージワシントン大学ロースクール・フェアテクノロジーイニシアティブ所長 ダナラジ・タクル氏）

大規模言語モデルの学習データは主に英語やその他の西欧系言語で構成されているため、言語的な失敗は避けられません。低リソース言語では翻訳精度が低下し、[幻覚現象（hallucination）] の発生率も高くなる傾向があります。ジョージ・ワシントン大学ロー・スクールのフェア・テクノロジー・イニシアチブ所長であるダナラジ・タクル氏は、『Rest of World』に対してこのように指摘しました。

「ガードレールは英語では機能しても、低リソース言語では失敗したり、容易に回避されたりする可能性があります」と同氏は語りました。「その結果、英語や高リソース言語を話すユーザーほど安全にモデルを利用できる一方、低リソース言語を話すユーザーは相対的に危険にさらされることになります。これは新たな形の『AI 格差』です」。

重要な転換点

各国政府はこの課題に対処しようとしています。2023年に英国で開催された初の AI サミットでは、28カ国が ブレッチリー宣言 に署名しました。これは AI に関連する存続リスクの特定と対応に向けた自主的な取り組みです。今年初めにインドで開催された AI サミットでも安全性が議論されました。また、中国は AI をより厳格に規制 する中で、7 月に開発途上国における AI リスクを管理するための 仕組み を提案しました。

これらの国々にとって、時間を失う余裕はないとアネジャ氏は述べています。

「これらの国々では現在、AI に対する楽観論が広がっています。これは西側で見られるような反発とは対照的です」と彼女は語りました。「しかし、政府が今すぐに安全インフラへの投資を行わなければ、公衆の信頼は失われ、AI の恩恵を活用する機会も失われます。そうなれば、格差の拡大を招くことになります。」

最近では、Anthropic、Meta AI、OpenAI、Google DeepMind といった AI 企業に所属する 1,300 名以上の従業員が共同で公開書簡を発表しました。そこでは、業界、政府、社会全体が「AI システムの新たなリスクに対処し、セキュリティ対策を講じ、監督体制を強化するために、時間を稼ぐ選択肢が必要かもしれない」と訴えています。

ニューデリーの 16 歳、スミヤ・カーンにとって、この声は切実に必要とされるものでした。慢性的な疲労やめまいに悩まされた彼女は、以前と同じようにヒンディー語で ChatGPT に相談しました。チャットボットはその症状をストレスや睡眠不足のせいだと判断しましたが、症状が改善しないためカーンは病院を受診しました。医師は、低所得国・中所得国で広く見られる鉄欠乏性貧血と診断しました。この状態を放置すると不整脈を引き起こし、最悪の場合は心不全に至る可能性があります。

「AI は説得力があったので、私たちは信頼してしまいました」とカーンの母親、メナズ・ベグムは『Rest of World』に語りました。「そのせいで、本来もっと早く医師の診察を受けるべきところを、遅らせてしまったのです。」

*ニューデリーよりサジッド・ライナによる追加取材*