OpenAI、ロシア発の誤情報キャンペーン利用アカウントを禁止

OpenAI は、ロシア発の ChatGPT アカウント群をBAN しました。同社はこれらのアカウントが、誤情報を拡散するための非公開のオンライン影響力行使キャンペーンを支えるために使用されていたと発表しています。

同社によると、この問題は AI が生成したソーシャルメディア投稿の調査を通じて発見され、「はるかに広範な影響力行使オペレーション」へとつながったといいます。これは火曜日に OpenAI が発表したブログ記事での内容です。

キャンペーンは「コピーされた学術成果物や誤った出典表示を含むウェブサイト」「ロシアを有利に描く『主権』インデックス、そして作業者のロシア出身性を隠すための試み」を中心に構築されていたと、同社は付け加えています。

これは親ロシア勢力が AI を活用して誤情報を拡散した事例の最新例です。OpenAI はロシア国内からのモデルアクセスを禁止していますが、VPN を使用して場所を偽装していたといいます。

2 月には OpenAI が、親ロシアメディア企業である Rybar と関連する ChatGPT アカウントを停止したと発表しました。イギリス政府は同社を「大統領府によって部分的に調整されている」と説明しており、ロシア国営企業のロステック（Rostec）から資金提供を受け、ロシア諜報機関の構成員とも連携しているとされています。

CNBC はコメントのためにロンドン駐在のロシア大使館およびロシア外務省へ問い合わせを行いました。

親ロシアの影響力行使キャンペーン

作業者はロシア語でプロンプトを入力し、Substack、Telegram、X、Facebook、LinkedIn に投稿されるソーシャルメディア用のコメントを生成させました。また、ChatGPT に対して、自分たちがロシア人であることを示す言語的な痕跡を一切残さないよう指示していたと OpenAI は説明しています。

生成されたコンテンツの多くは、国際バーク研究所（IBI）という団体を宣伝するものでした。同社のウェブサイトには、実際の学術論文から転載された記事が掲載されており、時には誤った出典表示がなされていました。

OpenAI によると、この影響力キャンペーンでは「主権指数」と呼ばれるものも作成され、ロシアを称賛し、西側諸国を貶める内容でした。

同社は、今回の作戦の即時的な影響は限定的だったと指摘しつつも、「その重要性は到達した聴衆よりも、構築されたインフラストラクチャにある」と付け加えました。

ChatGPT によって生成された投稿は、「信頼性がありそうな機関」を指向しており、そこには自称する専門家がおり、学術論文が再掲載され、独自のリスク指数も存在するとされていました。

同社はさらに、「これは影響力を持つアクターが、権威を捏造し、好ましいナラティブの源泉を隠蔽し、時間とともに拡張可能な資産を確立するための広範な取り組みの中で、AI を支援ツールとしてどのように利用できるかを示している」と述べています。「また、AI の支援的な使用が、より広範な作戦の暴露につながる可能性もあることを示しています」