LinkedIn と X で AI スパムが氾濫、閲覧データが示唆

imageAI 文章を検出する企業のデータによると、人気のあるソーシャルメディアサイトでユーザーが遭遇するコンテンツの驚くべき量が AI によって生成されたものである可能性が高い。LinkedIn でユーザーが見る長文コンテンツの最大 41% が完全に AI 生成であり、X（旧 Twitter）ではより長い投稿のおよそ 3 分の 1 が AI 生成である。また、Reddit や Substack のより長い投稿においても、およそ 10 人に 1 人が AI によるものであることがデータから示されている。

このデータは、AI 生成文章を検出する企業 Pangram（パングラム）の Chrome 拡張機能を使用して収集された。Pangram の Chrome 拡張機能は、ユーザーが閲覧中に遭遇する文章をスキャンし、特定の投稿が AI によって生成された可能性が高いか、人間によるものであるかを判定する。Pangram はユーザーがインターネットを閲覧している間にバックグラウンドで受動的に動作するため、そのユーザーが実際に目にする投稿のみをスキャンする。これにより、「AI によるゴミ書き（AI slop）が、実際に人間が利用するインターネットを汚染しているのか、それともより広範なインターネットを汚染しているだけなのか」という問いに対する答えが得られる。結論は明白である。AI によるゴミ書きは、誰も読まない不人気な自動化された SEO ファームやスパムサイトに隔離されているのではなく、非常に人気のあるサイトでも人間が定期的に AI によるゴミに足を踏み入れているのである。

「これは以前、実際に研究されたことがないことです——人々が実際に見ている AI コンテンツの量についてです」と、Pangram の CEO である Max Spero は電話インタビューで私に語りました。「AI コンテンツは読者の時間の税なのです。」

image(Pangram はかつて 404 Media に広告を出していましたが、私はこのデータを報道しています。なぜなら、AI 生成コンテンツがソーシャルメディアを席巻し、ソーシャルメディアのアルゴリズム（algorithm）に対してブルートフォース攻撃を行っているという記事を書き続けてきたからです。また、実際に「スロップ」の普及度を測定しようとする他のデータを見たことがないからです。

今回の研究において、Pangram は自社の Chrome 拡張機能ユーザーに対し、閲覧結果を同社と共有することに同意するよう要請しました。同社は、2 ヶ月間にわたって LinkedIn、Medium、X、Reddit、Substack でユーザーが有機的にスクロールした約 100 万件の投稿を分析しました。Pangram の調査では、すべてのプラットフォームにおいて、長文の投稿ほど AI 生成である可能性が高く、短文の投稿ほど低いことが普遍的に明らかになりました。同社は分析対象のコンテンツを、「ショートフォーム」（50〜250 語）と「ロングフォーム」（250 語以上）に分類しました。

データは、おそらく驚くべきことではありませんが、LinkedIn および X の新しい記事形式における長文投稿の大部分が、完全に AI 生成または AI 支援（つまり、AI によって下書き・編集・再執筆され、一部に人間の要素が含まれている）であることを示唆しています。同社によると、分析された LinkedIn の長文投稿の 40% が完全に AI によって作成されており、X の記事の 25% も完全に AI 生成ですが、さらに X の記事の 23% は AI 支援によるものです。直感的に考えても、長文コンテンツの方が AI 生成である可能性が高いのは当然です。なぜなら、人々は通常、数語の返信や引用リツイートへの鋭いコメントなどを AI で生成する手間を惜しむからです。また、AI は famously verbose（冗長で長い）ことで有名であり、その結果、AI 生成コンテンツはより長い投稿に現れやすくなります。

image「当社のデータは、AI 生成コンテンツがすべてのプラットフォームで問題となっていることを示しており、特に長文コンテンツに大きな影響を与えている」と同社はブログ投稿で述べています。「予想とは逆ですが、人々は自分の実名と関連するプロフェッショナルな場面で、自分にかわって発言するために AI を使用することに圧倒的に寛容であり、カジュアルで匿名のプラットフォームではそれよりも使用しにくいと考えているようです。」

また、この調査では、LinkedIn および Reddit における上位レベルの投稿が、元の投稿の下にあるコメントよりもはるかに AI 生成である可能性が高いことも明らかになりました。

私は数ヶ月前から、私が「あなたの AI 利用は私の脳を壊している」というタイトルの記事のために Spero にインタビューした後に、Pangram Chrome 拡張機能を使い始めています。その記事では、インターネットを検索する際に、ある文章が AI によって生成されたものかどうかを判断するために私が常に行っている評価の認知的負担について書きました。その記事を書いた後、Pangram の拡張機能が、おそらく AI によって生成された文章に対する評価が、私の脳が行う評価と一致するかを試すことにしました。この拡張機能をほぼ 2 ヶ月間使用した結果、私の経験は Pangram のデータが示唆するものと概ね一致しています：X で目にする多くの長文記事は明らかに AI によって生成されており、Pangram もそれを検出しています。LinkedIn で目にする投稿の膨大な量が明らかに AI によって生成されています。

この研究は、人々が通常のブラウジングで目にしている AI 生成コンテンツを受動的に検出する方式で行われたため、インターネット上の AI 生成コンテンツの純粋な割合を推定しようとしたが、実際にそのコンテンツを目にする人がいたかどうかについては検証しなかった他の研究よりも、データはより有用である可能性があります。これらの先行研究では、新規サイトの最大 3 分の 1 が AI によって生成されていることが判明しましたが、AI 生成コンテンツがインターネットに溢れている一方で、その品質が低すぎて実際の人間がそれを見ていない可能性も残していました。

Pangram のデータは、各プラットフォームが AI による低品質コンテンツの拡散を促進しているのか、あるいは抑制しようとしているのかという疑問を投げかけています。例えば LinkedIn は長年にわたり、自社のプラットフォームに AI 作成ツールを組み込んでおり、その結果、AI 生成コンテンツを投稿することが極めて容易になり、同プラットフォーム上で AI 生成コンテンツが非常に一般的になりました。今年 5 月、同社は「会話をリアルなまま保つ」ことを名目に、AI 生成コンテンツを抑制する取り組みを開始し、投稿ボタンに組み込まれていた AI 作成アシスタントは削除されました。一方、Reddit は、AI 検索ツールが同サイトをスクレイピング（データ収集）することが多いため、企業が LLM ツールを操作しようとして製品を同サイトで宣伝する手段となっています。しかし、Reddit のモデレーターたちは圧倒的に AI に反対しており、同社は AI 生成投稿の削除やスパム行為を行うアカウントのBANに取り組んできました。今月、Reddit はブログ記事で「AI の時代において、スパム、ボット活動、そして不自然なコンテンツは、Reddit（および人間）を愛する人々にとって最優先の懸念事項である」と発表しました。ここ数週間で Reddit は、「people are best」と題された広告キャンペーンを開始し、そのユーザーが人間であることを強調しています。コメントを求められた際、Reddit の広報担当者はブログ記事を紹介しました。

これまで報告してきた通り、AI検出ツールは100%完璧ではなく、Pangramも誤検知（人間のコンテンツをAIと判定するケース）と見落とし（AIのコンテンツを人間と判定するケース）の両方を持っています。Spero氏は同社が常にこれらの数を最小化するために取り組んでおり、誤検知率は約1万分の1と推定していると述べました。また、Pangramのデータは実際には「下限値」に過ぎず、実際の問題はより深刻である可能性が高いとも指摘しました。その理由は、ブラウザにAI検出ツールをインストールする人々は、おそらく生成されたAIコンテンツを避けようとしている層だからです。

「このデータは非Pangramユーザーにも一般化できると考えていますが、これはAIコンテンツに対する下限値です。なぜなら、Pangramの拡張機能を使用している人は、平均的な人よりもAIコンテンツに敏感であり、AI投稿者をブロックまたはミュートする可能性が高いからです」と彼は話しました。

LinkedInの広報担当者は404 Mediaに対して声明で、「プロフェッショナルはLinkedInにおいて、実在する人物からの声や、彼らの独自の洞察・視点を聞くために訪れます。私たちは低品質な自動化されたコンテンツや一般的なコンテンツを減らすために積極的に取り組んでおり、AIが『空白のページ』の問題に対処するために使用されることはありますが、私たちの焦点は人々のキャリア向上に役立つプロフェッショナルな対話を前面に出すことにあります」と述べています。

SubstackとXはコメント依頼に対して回答しませんでした。