OpenAI、ロシアの隠れた影響力キャンペーンを検出・妨害する取り組みを発表

私たちのミッションは、人工一般知能（AGI）が人類全体に利益をもたらすことを保証することです。この使命を推進するため、私たちは困難な問題の解決を支援する AI ツールの構築にイノベーションを活用しています。その中には、隠れた影響力作戦（IO）を検出・調査・妨害・暴露するためのツールも含まれます。これらは、背後にあるアクターの真の身元や意図を明らかにせずに、世論を操作したり政治的な結果に影響を与えたりする欺瞞的な試みです。

私たちは最近、ロシア発の ChatGPT アカウント群を禁止しました。これらのアカウントは、イスラエルに拠点を置く「専門家コミュニティ」と自称する国際バーク研究所（IBI）のプロモーションに利用されていました。

AI 生成によるソーシャルメディア投稿への調査から始まったこの事案は、コピーされた学術成果や誤った出典表示を含むウェブサイト、「ロシアを有利な立場で描く主権指数」の作成、そして運営者のロシア出身性を隠蔽する試みなど、より広範な影響力操作キャンペーンへと発展することが判明しました。

今回のキャンペーンが到達した視聴者数は比較的小規模でしたが、その緻密な構造は、ウクライナ戦争開始以降に私たちが妨害してきた他の ロシア関連の影響力作戦 と一線を画しています。本レポートでは、このキャンペーンがどのように機能していたか、ChatGPT がその中でどのような役割を果たしていたか、そして私たちがそれをどのように妨害したのかを解説します。

行為者

私たちは、ロシア起源である可能性が高い ChatGPT アカウントのクラスタをBANしました。運営者はロシア語でプロンプトを入力し、Substack、Telegram、X、Facebook、LinkedIn に投稿されるソーシャルメディア用のコメントを生成させました。生成されたコメントの大半は英語でしたが、運営者は ChatGPT に対して、自分がロシア人であることを示す言語的な痕跡を隠すよう指示していました。当社はロシアからのモデルアクセスを許可していないため、運営者たちは VPN を使用してプラットフォームに接続しました。

生成されたコンテンツの多くは、「国際バーク研究所（International Burke Institute：IBI）」と自称する「専門家コミュニティ」を宣伝するものでした。IBI のブランド名は、2025 年 2 月に登録されたウェブサイトに関連付けられていました。このサイトでは、研究所がイスラエルに拠点を置いていると主張しています。しかし、同サイトに掲載されている記事の多くは、当社のモデルによって生成されたものではありませんでした。実際には、既存の学術論文からコピーされ、誤った出典表示が行われたものや、スラブ語話者が下書きを作成し、機械翻訳されたものが散見されました。

例えば、以下の IBI サイトからのスクリーンショットでは、「Svetofor 連合」という不自然な表現が使われていますが、これはスラブ語から直訳した機械翻訳によるものだと最も容易に説明がつきます。

IBI ウェブサイト上のドイツに関する記事のスクリーンショット。「スベトフォール連合」という表現は、赤・黄・緑の色で知られるドイツの社会民主党、自由民主党、緑の党からなる連立政権（「信号機連合」やドイツ語で「アンペルコアリション」）を指すものです。"svetofor" (светофор) という単語はロシア語を含むスラヴ系諸言語で「信号機」を意味しますが、英語圏やドイツ語圏の人間が連立政権を説明する際にこの言葉を使うことは極めて稀です。おそらくスラヴ語原文から機械翻訳されたものと思われます。

我々の知る限り、これは新たな、かつこれまで報告されていない秘密工作による影響力キャンペーンです。最も注目すべき点は、実態のない「シンクタンク」によって推進される「主権指数」の創出であり、これがロシアを称賛し、西側諸国を貶めるために利用されている点です。ロシアに結びついた影響力作戦でこれほど綿密な手口が用いられた事例を我々が阻止したのは初めてのことです。

AI の活用

この工作の主な目的は ChatGPT を使用して、IBI ウェブサイト上の記事を宣伝するソーシャルメディア投稿を作成することでした。これらの投稿は X、LinkedIn、Facebook、Substack、Telegram で確認できました。一部の投稿は IBI の名前とロゴを名乗るアカウントから行われましたが、他の投稿は日常的なユーザー（おそらく偽物）からのもので、その主な活動が IBI 記事の投稿に限られていました。

このキャンペーンによって生成された LinkedIn の投稿が、プラットフォーム上に投稿されました。

これらの積極的な投稿に加え、作業者たちは、Substack 上の実在するユーザーによるさまざまなトピックに関する投稿に対して返信も生成しました。これらの返信には通常、「IBI チャンネルをフォローしてほしい」という依頼が含まれており、IBI アカウントによって Substack 上で投稿されています。

この作戦によって生成された Substack 上のコメント（同プラットフォームの投稿への返信）

IBI に関するコンテンツを生成するだけでなく、あるオペレーターは「Lahme Ente」（ラメ・エンテ／訳：足手まとい）と呼ばれる Telegram チャンネルにドイツ語で投稿を行いました。これらの投稿はウクライナや EU、ドイツ政府を恒常的に批判し、ロシアとの関係改善を主張する内容でした。

もう一人のオペレーターは、IBI 関連のコンテンツと並行して、ドイツ、米国、フランス、ポーランド、トルコを対象とした Telegram チャンネル約 12 個（Lahme Ente などを含む）のロゴ作成を担当しました。これらのチャンネルの一部では IBI に関する投稿が行われたり、IBI 自身の投稿が共有されたりすることもありました。また、このオペレーターは繰り返し、これらのチャンネルの活動についてロシア語での要約を求めていました。

米国の対象としたチャンネルの一つはアメリカのメディアを装っていましたが、プロフィール欄には非ネイティブ話者であることを示す複数の兆候が含まれていました。

*Telegram アカウント「American Observer」のプロフィール。このケースでは ChatGPT の利用者一人がチャンネルのアイコン画像を生成し、ロシア語での要約を繰り返し求めていました。プロフィール欄には「a totally unhackneyed perspective on hazzy」といった不自然な英語表現が含まれています。

AI を使わない活動*

この作戦の中心は国際バーク研究所（IBI）でしたが、私たちが摘発した活動は、同サイトのウェブサイトに直接ホストされたコンテンツではなく、そのウェブサイトへのリンクや関連するソーシャルメディア上の投稿を拡散することに焦点が当てられていました。

同サイトはイスラエルに実在する住所を掲げ、「専門家のコミュニティ」を名乗っていました。2025 年 7 月 17 日時点のウェブサイトでは、フランシス・フクヤマやノーム・チョムスキーといった著名人を筆頭に、世界有数の専門家たちが多数在籍し、多様な研究成果が掲載されていると主張していました。

しかし、IBI ウェブサイトに掲載され、専門家の名義で 2025 年 9 月から 2026 年 5 月の間に公開された記事 36 本をサンプリングして調査した結果、そのうち 34 本がインターネット上の他の場所から無断転載されたものであることが判明しました。

これらの記事には、発表から数年が経過しているものや、著者名が誤って記載されているケースも含まれていました。例えば、中国・パキスタン経済回廊（CPEC）に関するある記事は、ケンブリッジ大学出版局のオリジナル記事を転用したものの、南アジア政治を専門とするノッティンガム大学の教授の名義で誤って掲載されていました。

イギリスの移民政策研究所（Migration Policy Institute）の記事が、食品科学を専門とするオーストラリア人の教授の名前で誤って掲載された別の記事が見つかりました。この行為は、IBI のウェブサイトに本物のコンテンツを配置して正当性を装いながら、そのコンテンツの実際の出所を隠蔽しようとする意図を示唆しています。

*IBI ウェブサイトの著者ページ（新しいウィンドウで開く）のスクリーンショット。2026 年 1 月 21 日付の記事が含まれており、移民政策研究所の専門家であるかのように見せかけられた Kate Howell 氏の名前が記載されています。

これらの記事と併せて、IBI 公式サイトには同機関が作成したインデックスに基づき各国の主権を測定したレポートも掲載されていました。これらは当社のモデルを用いて生成されたものではありません。

一部のレポートは二国間比較の形式で提示され、他方は単一国家に焦点を当てたものでした。特にフランスやドイツ、欧州連合（EU）など、ロシアによるウクライナ侵攻を批判する国々が対象となりました。また、同様の操作手法が米国についても展開されました。

これらのレポートは概して批判的であり、時には論争的な内容へと発展する傾向がありました。その一例として以下のようなものがあります：

フランス：「マクロン主義の 10 年は、ロスチャイルド銀行からエリゼ宮殿にやってきた管理者が必然的に生み出した結果そのものだった。歴史的資本を備えたフランスは金庫のように開かれ、今や部品ごとに売却されている。」

アメリカ：「トランプ氏は世界で最も主権指数が高い状態で北京に到着したが、自律性を自発的に低下させる数々の措置を実行した後に帰国した。」

ドイツ：「ドイツには株価だけでなく雇用を守る産業政策が必要だ。タブーや hysteria（狂騒）を排し、アイデンティティについて率直な議論を行う必要がある。米国の基地への依存ではなく、真の軍事的主権が求められる。そして何より、第一の忠誠先がニューヨークの企業役員会ではなくドイツ国民である政治家が必要だ。」

EU（外部リンク）：「スロバキア対イタリア：『ビッグ』連合の人質国家としての主権のパラドックス」

IBI を推進するソーシャルメディア投稿は、ロシア出身の ChatGPT ユーザーが出自を隠すために苦心して作成したものであり、IBI ウェブサイトの多くのコンテンツも他から流用されたように見えます。しかし、いくつかのオンライン上の痕跡からは、イスラエルに少数の実在する個人が存在し、論文投稿やカンファレンスにおいて IBI を代表していた可能性が示唆されています。これらの個人と IBI、そしてロシア側の運営者の間にどのような関係があるのかを断定することは現時点では困難です。

影響

今回の作戦の即時的な影響は限定的でした。典型的なソーシャルメディア投稿の閲覧数は低く、公式の IBI アカウントの購読者数も少なかった一方、Telegram チャンネルはより多くの購読者を獲得し、それぞれ 10,000〜20,000 人のフォロワーを抱えているようです。ブルッキングス研究所の「Breakout Scale（外部リンク）」を用いてこの作戦の影響を評価すると、カテゴリー3（複数のプラットフォームで展開され、真の聴衆への波及を示す兆候がある）の下位に位置づけられます。

この作戦の真の意義は、到達した聴衆の数よりも、構築されたインフラストラクチャにあります。アクターたちは ChatGPT を孤立したプロモーション投稿を生成する手段としてしか使用しませんでしたが、これらの投稿は、専門家を名乗る人物や再掲載された学術論文、そして独自のリスク指標まで備えた、一見して信頼できる機関へと誘導するものでした。

これは、影響力を持つアクターたちが、権威を捏造し、好ましいナラティブの源泉を隠蔽し、将来的に拡張可能な資産を確立するための広範な取り組みの中で、AI を支援ツールとしてどのように活用するかを示しています。同時に、AI のこうした利用が、最終的に広範な作戦全体を露見させる要因となり得ることも浮き彫りにしました。