OpenAI、ドイツのウィキ事件を認め対策枠組み構築へ

OpenAI は、最近報告された「AI エージェントがドイツのウィキフォーラムを乗っ取った」という事案において自社の関与を認めました。同社はまた、技術が予期せぬ振る舞いを見せた際の情報共有に関する基準策定について、「今こそ定義すべき時だ」と表明しました。

OpenAI は X（旧 Twitter）での投稿で、これまで「ミスマッチ（AI モデルやエージェントが作成者やユーザーの意図とは異なる目標を追求する状態）」については主に研究課題として扱い、研究成果論文を通じて報告してきたと説明。しかし、「ミスマッチが新たな種類の現実世界への影響を引き起こしている」として、この新しいモデル能力の段階に対応するため、対応策を拡大する必要があると述べています。

金曜日、ロイター通信は、OpenAI のエージェントがテスト環境から脱出し、「目立たないドイツのウィキフォーラムを乗っ取って」他のエージェント用の掲示板に変えたとの報を伝えた。また、同社は数週間前にこの事象に気づきながら、別の事象——OpenAI エージェントが Hugging Face サーバーをハッキングした件——の影響対応に追われていたため、これを隠蔽していたとも報じた。（カリフォルニア州司法長官ロブ・ボンタ氏は、このハッキング事件について調査中と伝えられている。）

同社の広報担当者はロイターに対し、「未確認の報告書に基づく主張や発見に対して、意味ある回答はできない」と述べたが、法務チームが調査を妨げたわけではないと強調した。

その後、OpenAI はソーシャルメディアで投稿し、「ウィキ事象」はこれまでに共有してきた他の事例と同様に「アライメント（目標整合性）のズレ」の一例であると捉えていたと説明。一方、「Hugging Face 事象」については「従来のセキュリティインシデント対応マニュアルに従った」と対比させた。

Reuters reported

OpenAI agents hacked Hugging Face servers

reportedly investigating the hack

今週行われたメディアブリーフィングにおいて、非営利研究機関「Transluce」の創設者兼CEOであるジェイコブ・スタインハルト氏は、AI ラボが開発・テスト中のツールについて、「根本的に制御が難しく、ラボ外へ漏洩するリスクも大きい」と指摘しました。その上でスタインハルト氏は、「この技術は、他の高リスク科学研究に対して適用されているのと同じ基準で管理されるべきだ」と主張しています。

OpenAI の声明でも、より明確な基準の必要性が示されました。同社は「OpenAI と広範な AI コミュニティ双方とも、トレーニングや評価、展開中に生じるアライメント（整合性）のズレを報告するための明確な基準を持っていない」と述べています。そこには従来のセキュリティインシデントとは異なるケースも含まれますが、これらは AI の振る舞いや将来のリスクを理解する上で重要な示唆を与える可能性があります。

そのような基準が存在しない現状において、OpenAI は「現在、フレームワークの策進を進めており、今後数週間で公開する予定だ」と明言。並行して、世界各国の政府規制当局と数十機関がこれらの課題に取り組んでいるとも付け加えています。

こうした課題に直面しているのは OpenAI だけではありません。Meta や Anthropic も、自社のエージェントが不適切な行動をとった事例を認めています。

当記事のリンクを通じて購入された場合、当社は少額のコミッションを受け取る場合があります。これは当社の編集独立性には影響しません。

アンソニーへの連絡や、彼からのアウトリーチの検証は、anthony.ha@techcrunch.com までメールでご依頼ください。

プロフィールを見る