メタ、AI を利用したイランによる米国政治工作を摘発

メタは、イランを拠点とするオペレーターが AI を活用してアメリカ人のふりをして米国向けに政治関連の投稿を行った一連のアカウントネットワークを削除しました。この事実は同社から Axios へ最初に報告されたものです。

なぜ重要なのか：このキャンペーンでは数千名のフォロワーを集め、より本物らしく見せるために一般市民を装ったアカウントも含まれていました。

ニュースの背景：今日発表された広範な脅威レポートの一環として、メタはイランに拠点を置くアクターに関連する Facebook 4 件と Instagram 31 件のアカウントを停止したと発表しました。

メタによると、これらのアカウントでは共和党批判を訴えるミームや、イスラエル・パレスチナ紛争、移民問題に関するメッセージが共有されていました。

またメタは、投稿されたコンテンツの一部、特にミームの作成に AI が利用されていたことも明らかにしています。

メタのスポークスマンは Axios に対し、同社がこのキャンペーンに関する情報を米国法執行機関へ提供したと述べています。

詳しく見ると：キャンペーン期間中、オペレーターたちはワシントン D.C.、サンディエゴ、アトランタなどの主要都市に住むと主張する活動家や学生、グラフィックデザイナーなど、アメリカ人の個人を装っていました。

投稿には実際のジャーナリストや政治家のタグ付けが含まれており、高名な政治指導者や報道機関へ直接メッセージを送ってコンテンツ協力の提案を行いました。しかし、メタのスポークスマンは Axios に対し、これらの協力試みはすべて失敗に終わったと明かしています。

メタの調査では、Instagram 上で不自然なミームアカウントをフォローしたアカウント数は約 79,400 件に上ることが判明しました。

AI 生成コンテンツは、オンラインでの影響力行使の常套手段となりつつあります。Meta は、自社が検知・排除した影響力ネットワークのほぼすべてで、この技術が利用されていると指摘しています。

今回のイラン支援キャンペーンで使用された戦術自体に目新しい要素はありませんが、その関与の広がりやフォロワー数には注目の価値があります。

Meta の推計では、このキャンペーンによる到達範囲は「中程度」でした。

Meta のスポークスマンは Axios に対し、「意味のあるものだが限定的な」エンゲージメントを生み出したと述べています。国家支援型のキャンペーンは通常、到達範囲やエンゲージメントが低い傾向にあります。

興味深い点として、Meta は、これらの活動家がトラフィックを米国およびカナダのプロキシ・ホスティングサービス経由のみでルーティングし、イラン由来であることを検知しにくくしていたと明らかにしています。

今後注目すべきは、Meta が不審なアカウントに関連する行動を検出し、より迅速に排除するために AI 技術への投資を強化している点です。

さらに詳しく：外国による偽情報工作が AI 時代へ突入