PRC-linked influence operations are targeting AI debates in the US｜中国系影響力操作が米国の AI 議論を標的にしている | AIニュース最前線

OpenAI 私たちの使命は、汎用人工知能が人類全体に利益をもたらすことを保証することです。この使命を推進するために、私たちは民主的な AI を構築するイノベーションを展開します：民主主義の原則によって形作られ、常識的なルールによって統治され、人々が困難な問題を解決するのを支援しながら、実際の危害から彼らを守るために設計された AI です。この使命にはまた、権威主義体制とその代理人が、AI システムを利用して批判者を抑圧し、コミュニティを監視したり、民主主義社会に秘密裡に干渉しようと試みる企図を特定して妨害することも含まれます。 本報告書では、米国の AI および広範な技術政策に関する正当な議論を操作しようとする試みにおいて、隠れた影響力行使作戦を支援するために当社のモデルを使用した可能性が高い中国発の 2 つの ChatGPT アカウント群について記述します。これらは後に禁止措置の対象となりました。 最初のグループは、AI のためのデータセンター建設が一般家庭の電気料金を引き上げていると主張するソーシャルメディア上のコメントや画像を生成しました。私たちはこのグループを「データセンター・バカンス」キャンペーンと呼びました。 2 つ目のクラスタは、米国の関税を技術競争の支配を試みる試みとして批判するコメントと画像を生成し、プロンプトにおいて出力に中国指導者の習近平氏を含めず、代わりにドナルド・トランプ大統領のみを含めるよう指定していました。このクラスタは、ChatGPT のユーザーデータが侵害されたと主張して OpenAI を標的とした可能性の高い不実なソーシャルメディアアカウントのネットワークと関連付けられていました。これらの告発は完全に虚偽でした。私たちはこの 2 つ目のクラスタを「技術と関税」キャンペーンと呼びました。 OpenAI や米国のデータセンター建設への標的化が重要なのは、世論が操作されたように見えるからではなく、中国起源の影響力作業者が米国の技術的リーダーシップ、経済成長、そしてより広範な民主的な AI エコシステムの基盤である AI インフラストラクチャに対してナラティブ（物語・主張）をテストしていることを示しているからです。この作戦は、エネルギー価格やデータセンター開発の地域への影響に関する既存の公衆の懸念を利用し増幅しようとしたものですが、その活動自体を超えて意味ある拡散があったという証拠は見つかりませんでした。外国による影響力作戦は長年、既存のローカルな課題や真摯に信じられている信念に付着し、それらを利用して信頼性を築き、分断を増幅したり、公衆の不信任を悪化させたりしてきました。今回の場合、作業者たちは自らの正体と動機を隠しながら、米国の AI 能力の将来に関する進行中の議論に密かに割り込もうとしました。 これらの知見を公表することで、業界、政府、市民社会、そして一般大衆が、外国の脅威アクターによる正当な公的議論の操作、民主主義制度の弱体化、および監視・検閲・政治的・社会的・私的生活への統制という AI 特有の特徴を持つ全体主義の推進をよりよく特定し、阻止する手助けを行うことを目指しています。

中国系影響力操作が米国の AI 議論を標的にしている

背景や根拠まで確認しますか？

関連記事