虚偽情報で炎上するインフルエンサーが急増
インフルエンサーのノア・オリオンが、自身のフォロワー数を増やすために Flock の法的措置を捏造し、AI 生成画像を用いた偽の証拠を拡散した事案は、監視技術への抗議活動における情報の真偽とインフルエンサー経済の倫理的問題を浮き彫りにしている。
キーポイント
捏造された法的脅威
インフルエンサーが Flock 社から送られたとされる「差止命令書」を完全に自作し、自身の逮捕リスクを誇張して拡散した。
AI 生成コンテンツの悪用
Flock カメラに似せた偽のステッカーや画像を AI で生成し、監視カメラへの抗議運動の一部として利用している。
フォロワー急増と動機
この捏造キャンペーンにより、1 ヶ月で 3 万人以上の新規フォロワーを獲得し、真のリスクなしに「アウトロー」な姿勢を演じている。
監視技術への抗議運動の歪み
本来はプライバシー保護のための正当な抗議活動が、インフルエンサーの自己プロモーションのために利用・歪曲されている。
Orion の虚偽情報と自己宣伝
Orion は Flock に関する事実を歪曲し、法的リスクを誇張して自身の知名度や音楽キャリアを向上させるために虚偽情報を流布している。
アルゴリズム操作によるエンゲージメント戦略
彼らは「Fuck Flock」とコメントするよう誘導し、ボットを使用して自動返信でグッズ販売や仮釈放基金への寄付を促すことで Instagram のアルゴリズムを操作している。
真摯な活動家との対比
多くの反監視運動家は正確な情報を発信し、時には誇張を含みつつも方向性は正しいが、Orion は実際のリスクに直面する活動家の影を薄め、虚偽の危機感を演出している。
重要な引用
"The cease-and-desist is not real; it is a wholesale fabrication created by the influencer for attention, likes, and clout."
"Cities are now covering Flock cameras with trash bags," Orion narrated over an Instagram post aggregating a 404 Media report.
"I could go to jail soon, and I am not afraid of that. I am pushing a movement against Flock cameras."
He's a bro spreading the word, and perhaps his heart is in the right place. But, basically, he is making shit up to make himself and his country music career more famous by creating and sowing disinformation
On every post, Orion tries to give away stickers and tells people to comment 'Fuck Flock' in order to get them. This is a tactic to game the Instagram algorithm with engagement
Flock went after Cris van Pelt... by claiming the site both violated the company's intellectual property rights and by saying that the site 'poses an immediate threat to public safety and exposes law enforcement officers to danger.'
影響分析・編集コメントを表示
影響分析
この事象は、監視技術やプライバシー問題に関する議論が、真実性よりもエンゲージメント（特に不条理なリスク）によって支配されるようになりつつあることを示唆しています。また、生成 AI の普及により、物理的な証拠を捏造するコストが劇的に低下し、社会的な信頼関係が損なわれる新たな脅威となっています。
編集コメント
監視カメラへの抗議という社会的文脈において、インフルエンサーが AI を駆使して虚偽の法的脅威を演出した点は極めて示唆に富んでいます。これは単なるスキャンダルではなく、生成 AI が社会運動や政治的議論を「エンターテインメント」として消費・歪曲する危険な前例となっています。
1 ヶ月ほど前、元アメリカン・アイドル出場者であり、カントリーミュージシャンで Instagram のインフルエンサーであるノア・オリオンが、監視カメラ会社「Flock」について知ったようです。彼は 404 Media の報道をまとめた Instagram の投稿で、「今や都市部では Flock のカメラにゴミ袋をかぶせている」と語り、さらにこう付け加えました。「『Fuck Flock』と書かれたステッカーを配布したのも面白いし、そのステッカーの外径が Flock カメラのレンズの平均サイズと同じという偶然も素晴らしいですね」と。彼は Flock 社製ではない監視カメラを描いた AI で生成されたステッカーのモックアップ画像を示しました。
オリオンはこれまで、Instagram で Flock について投稿したことはありませんでした。しかし、あの投稿以降、彼は Flock に関するリールを数十本も投稿しています。明らかに、それは彼自身にとって大きなリスクを伴う行為です。
7 月 8 日の投稿には、Flock の法務責任者であるダン・ヘイリーからオリオン宛てに送られたとされる「停止および禁止命令（CEASE AND DESIST）」の印刷物が掲載されています。その内容はこう述べています。「Flock Group Inc. は、貴殿が当社の写真、動画、ミーム、スクリーンショット、その他の視覚素材を無断で拡散し、ファンの皆様に対し、当社や当団体に対して不敬かつ異常な態度を示すよう促し、ステッカーを貼る行為を行うという行動に関与していることを認識いたしました。つきましては、貴殿に対し、当該素材のさらなる使用を直ちに停止するよう命令いたします。今後、さらに卑下する行為や投稿が行われた場合は、法的措置に踏み切る可能性があります。本要求に応じない場合、Flock Group Inc. は法律の許す限り最大限の範囲で、貴殿および貴殿の組織に対して訴追を行うことになります。」
この投稿は73,000件の「いいね」がつき、数百万回視聴されています。その投稿以降、オリオンはInstagramで同じ手紙を16回も投稿し、今ではFlock以外の話題をほとんど扱っていません。火曜日に彼はリールを投稿し、「まもなく逮捕されるかもしれないが、それを恐れてはいない。私はFockカメラに反対する運動を起こしている」と述べました。その動画の中で、彼は逮捕され投獄された場合に備えて「保釈金基金」を設立すると宣言しています。これら一連の投稿や動画は合わせて数十万回の「いいね」と数百万回の再生数を記録しています。
しかし、停止命令書は実在しません。これは注目を集め、「いいね」や影響力を得るためにインフルエンサーがでっち上げた完全な捏造です。Flockについて発言したことで彼が迫害されたり逮捕されたりするリスクはゼロです（ただし、偽の停止命令書を作成・使用している点についてはリスクがあるかもしれません）。その一方で、オリオンは先月だけでInstagramの分析サイト「NotJustAnalytics」によると3万人以上の新規フォロワーを獲得しました。この期間中、彼はFockに関する投稿、特に自身のステッカーや捏造された停止命令書についてのみをほぼ独占的に発信し続けています。
このように法的トラブルに執拗に焦点を当てる姿勢は、オリオンの比較的典型的なパターンです。Flock以前も、彼は大音量のスピーカーを搭載した改造バスが当局によって差し押さえられると延々と投稿していました。さらにその前には、バスを改造していた場所から立ち退きを迫られるという話題で溢れていました。
ここ数ヶ月、反「Flock」を掲げるインフルエンサーや活動家が増え、ジャーナリスト、YouTuber、独立系研究者による監視も強まっています。Flock に関するコンテンツは SNS で非常に人気を集めており、投稿の大半は善意の人々によってなされています。彼らは、国内で最も侵入性の高い大規模監視企業の一つについて、実際の報道や事実を拡散しています（ただし、時折誇張されていたり、少し誤解されたりしている情報も含まれます）。その一方で、Flock の活動内容や能力についてやや誤解していたり、過剰に宣伝したりするバイラル投稿も多数見られます。例えば、ICE が Flock データを取得する具体的な仕組みを間違えて伝えるケースもあります。
全体として、これらの投稿の多くは少なくとも方向性は正しいと言えます。大規模監視への反対運動には、誇張や風刺、コメディ、パフォーマンス、そして善意による誤解といった要素も許容される余地があります。特に、より大きな意義を持つ主張がある場合です。
View this post on Instagram
A post shared by Noah (@noahorion42)
しかし、オリオンやそのコピーキャットたちが行っているのは、決してそのようなことではありません。最も善意に解釈すれば、オリオンの活動は「Flock」という存在を世間に知らしめ、同社への調査を促したり、監視社会を防ぐための政治的・直接的な行動を呼びかけたりするものかもしれません。彼は情報を広めるブロガーであり、心は正しい方向に向いているのかもしれません。
しかし本質的には、オリオンは、透明性の向上のために必死に活動している数十人のジャーナリストやインフルエンサーが存在する分野で、デマを創作・拡散することで、自分自身とカントリーミュージシャンとしてのキャリアの知名度を上げようとしています。そして、実際に社会を変える動きに取り組んでいる人々が注目を集めるのが難しかったり、実際に脅迫を受けたりしている一方で、自分は法的または刑事上のリスクに直面していると自らを位置づけています。
オリオンは投稿のたびにステッカーを配布し、「Fuck Flock」とコメントした人にそれを贈ると案内しています。これはエンゲージメントを通じて Instagram のアルゴリズムを操作する戦術です。実際、オリオンはボットを設定しており、投稿にコメントしたユーザーに自動的にメッセージを送り、オンラインストアへのリンクを届けています。そこでは無料のステッカーや有料グッズが販売されており、「逮捕された場合のための保釈金基金」も用意されています。
Flock とその弁護士は、Flock カメラのマップ作成を目的としたオープンソースプロジェクト「DeFlock」や、全米各地の警察による Flock 検索記録をデータベース化した「HaveIBeenFlocked」の運営者に対し、法的な停止命令書を送付したり、訴訟などの脅しをかけたりしています。404 Media や地元記者らの報道と相まって、DeFlock の活動は小都市から大都市まで、住民が市議会に働きかけて Flock との契約を解消させる大規模で分散型の草の根運動へと直接つながりました。また、HaveIBeenFlocked を活用した活動家やジャーナリストらは、警察による虐待行為や ICE（移民税関摘発局）による監視の実態を次々と暴き出し、その結果として人員の解雇・逮捕、政策の変更、契約のキャンセルが相次いでいます。Flock がこれらのサイトに対して展開している戦略は、Orion によって捏造されたと明らかな停止命令書よりも、はるかに巧妙で恐ろしいものです。
Flock は、HaveIBeenFlocked の作成者であるクリス・ヴァン・ペルト氏を執拗に狙い、ウェブホスティングプロバイダーに対してサイトの運営停止を繰り返し要求しました。その際、Flock は「同サイトが当社の知的財産権を侵害している」と主張する一方で、「公衆の安全に対する差し迫った脅威であり、法執行機関員に危険をもたらす」とも訴えたのです。Flock は警察に対し直接警告を発し、これがきっかけで FBI の各部門が法執行関係者に対して同サイトへの警戒を呼びかける事態となりました。結果として、このサイトは明確な標的とされてしまいました。
また、Flock は第三者の法律事務所を通じて DeFlock にも別個に警告状を送付し、サイトの作成者であるウィル・フリーマン氏に対し業務停止を命じる内容でした。これに対抗するため、フリーマン氏は電子フロンティア財団（EFF）の法的支援を受ける必要がありました。
さらに Flock の CEO、ギャレット・ラングレー氏はフォーブス誌の取材に応じ、DeFlock を「テロ組織」と呼ぶ発言を行いました。このインタビューが何度もバズった後、ラングレー氏は今月初めに再びフォーブスと対談し、ようやく謝罪に回りました。これらは、実際に活動を行っている人々に対する本物の脅威です。
View this post on Instagram
A post shared by Noah (@noahorion42)
カメラに向かって意味不明なことを叫ぶオリアンの姿を、80 万人のフォロワーに向けて発信することが、彼自身以外に誰にとってメリットがあるのかは想像しにくいです。最初の数投稿がバズった後、Instagram の他のアカウントも次々とフェロックからの偽の差止請求書を投稿するようになりました。例えばカリフォルニア州オレンジカウンティで開催されるイベントシリーズ「ザ・サタデー・サロン」のプロモーションに利用されたケースがあります。同サロンは主に AI 生成のポスターでイベントを宣伝しており、今年 1 月にはパランティアからの偽の差止請求書も作成しました。
フェロックのセキュリティ上の欠陥を次々と暴き出し、同社に反対する最も重要な声の一つとなった研究者兼 YouTuber のベネット・ジョーダンは、オリアンの偽の差止請求書について動画を投稿し、「みんな、タイダーポッドでも食べて、この争いをこれ以上難しくしないようにしてくれませんか？」と述べています。
「もし私がこの行為で訴えられたら、同情は全くしない。なぜなら、誰かが私に成りすまして『停止と破棄』の偽書や訴訟状を作成し、私の名前を偽造してネット上に投稿し、私を悪者に仕立て上げて注目を得ようとした場合、私は彼らを徹底的に訴えるからだ」とジョーダン氏は語った。「それ以上に重要なのは、Flock 社が私をジェイク・ポールのように描き、魔法のトリックを行ったり、会社を貶めるためにでたらめな話をしたりする過剰な YouTuber として扱っている点だ。その手法によって、彼らはセキュリティ脆弱性に関する真実の報告や、修正第4条（プライバシー権）違反に関する議論を『危険』であるかのように見せかけ、封じ込めている。そして私は断言できるが、彼らはこれらの偽書を実在する、意味のある警察監視に対する批判的研究と同一視して利用するだろう。」
Flock 社の最高法務責任者であるヘイリー氏は LinkedIn のメッセージで「もちろん、あれは偽物だ」と述べた。また、広報を通じて「インターネット上で少なくとも2通の偽書が流通していることを把握しています。その中には今回のもの（オリオンの件を指す）も含まれますが、これらは当社の法務部門からの『停止と破棄』通知であるかのように装われています。明確にしておきますが、これらの文書は私や Flock 社の誰からも発せられたものではありません。Flock 社は、自社の技術に関する公的な議論を歓迎し、促進しています。私たちはそのような議論を阻害・防止・禁止しようとしたことはなく、今後もそうするつもりはありません。むしろ、今後当該グループが開催するあらゆる議論に喜んで参加する用意があります。」とコメントしている。
オリアンは、偽の差止請求書について問い合わせた私の Instagram のメッセージに対して返信しませんでした。
原文を表示
A little over a month ago, the former American Idol contestant, country musician, and Instagram influencer Noah Orion appears to have learned about the surveillance company Flock. “Cities are now covering Flock cameras with trash bags,” Orion narrated over an Instagram post aggregating a 404 Media report. “It’s also pretty wild that we’ve just dropped stickers that say ‘Fuck Flock’ on them and it’s pretty cool that it’s coincidental that the sticker’s outside diameter is the same size as the average camera lens on a Flock camera,” he adds, showing a mockup of an AI-generated sticker featuring a surveillance camera that is not a Flock camera.
Orion had never posted on Instagram about Flock before then. But, since that post, Orion has posted dozens of reels about Flock, apparently at great personal risk to himself. A July 8 post features an image of a printed out “CEASE AND DESIST” letter purportedly sent to Orion by Dan Haley, Flock’s head of legal affairs. “It has come to the attention of Flock Group Inc. that you have engaged in conduct involving the unauthorized dissemination of photographs, videos, memes, screenshots, or other visual materials in a manner that encourages your fans to claim and place stickers that constitute a rude and unusual manner towards our company and association. You are hereby instructed to immediately cease and desist from any further use of such materials […] any further demeaning actions or posts will result in legal action. Failure to comply with this demand may result in Flock Group inc. [sic] to persecute you and your organization to the fullest extent of the law.”
The post has 73,000 likes and has been viewed millions of times. Since that post, Orion has posted the same letter 16 separate times on Instagram, and is now posting about almost nothing besides Flock. On Tuesday, he posted a reel stating “I could go to jail soon, and I am not afraid of that. I am pushing a movement against Flock cameras.” In that video, he said he’s starting a “bail fund” in case he’s arrested and goes to jail. Collectively, these posts and videos have hundreds of thousands of likes and millions of views.
But the cease-and-desist is not real; it is a wholesale fabrication created by the influencer for attention, likes, and clout. He is at zero risk of persecution or arrest for speaking out about Flock (though he may be at risk for forging a fake cease-and-desist letter.) In the meantime, Orion has gotten more than 30,000 new followers in the last month according to the Instagram tracking website NotJustAnalytics, a period in which he has posted essentially only about Flock and, primarily, about his stickers and his cease-and-desist letter.
This constant focus on his apparent legal trouble is a relatively typical pattern for Orion; before Flock, he was posting endlessly about how his modified bus with massive speakers was going to be impounded by the authorities. Before that, he was talking about how he was going to be evicted from the space in which he modified the bus.
Over the last few months, we have seen the rise of various anti-Flock influencers and activists, and increased scrutiny from journalists, YouTubers, and independent researchers. Content about Flock has become quite popular on social media, and the vast majority of posts are from well-meaning people who are amplifying real reporting and real — if occasionally exaggerated or slightly misconstrued — information about one of the most invasive mass surveillance companies in the country. Alongside this has come lots of viral posts that either slightly misunderstand or oversell what Flock is doing or is capable of, or get, for example, the exact mechanics of how ICE may obtain Flock data wrong.
On balance, most of these posts are at least directionally correct. There is room in the movement against mass surveillance for hyperbole, satire, comedy, stunts, and misunderstandings done by well-meaning people, especially if there is a broader point.
View this post on Instagram
A post shared by Noah (@noahorion42)
That is not what Orion and some of his copycats are doing, however. Most charitably, Orion is making people aware of Flock and could be making people more likely to do more research into the company or is making them more likely to take political or direct action to prevent surveillance. He’s a bro spreading the word, and perhaps his heart is in the right place. But, basically, he is making shit up to make himself and his country music career more famous by creating and sowing disinformation in a space where there are dozens of journalists and influencers working hard for more transparency, and positioning himself as being somehow at legal or criminal risk when people who are doing actual needle-moving work struggle to stand out or are actually being threatened. On every post, Orion tries to give away stickers and tells people to comment “Fuck Flock” in order to get them. This is a tactic to game the Instagram algorithm with engagement; Orion has set up a bot to automatically message anyone who comments on his posts with links to his online store which has a variety of free stickers, paid merch, and a “bail fund in case I go to jail.”
Flock and its lawyers have sent real cease-and-desist letters or otherwise threatened the creators of both DeFlock, an open-source project to map Flock cameras, and HaveIBeenFlocked, a database of Flock searches done by cops around the country. Alongside reporting by 404 Media and local journalists, DeFlock has led directly to the massive, decentralized, grassroots movement of residents in small towns and big cities pressuring their city councils to end their Flock contracts. Activists and journalists using HaveIBeenFlocked have uncovered numerous cases of police abuse and ICE surveillance that has led directly to firings and arrests, policy changes, and canceled contracts. The strategies deployed by Flock against these sites are far more sophisticated and scary than the obviously bullshit cease-and-desist letter fabricated by Orion.
Flock went after Cris van Pelt, the creator of HaveIBeenFlocked, by repeatedly trying to get his web hosting revoked by its provider by claiming the site both violated the company’s intellectual property rights and by saying that the site “poses an immediate threat to public safety and exposes law enforcement officers to danger.” Flock directly warned police about this website, which led different divisions of the FBI to warn law enforcement about the site, squarely putting a target on the site. Through a third-party law firm, Flock separately threatened DeFlock by sending a cease-and-desist to Will Freeman, the creator of the site. To fend off that cease-and-desist, Freeman had to get representation from the Electronic Frontier Foundation. Flock’s CEO, Garrett Langley, called DeFlock a “terroristic organization” in an on-camera interview with Forbes. After that interview repeatedly went viral, Langley finally apologized in a second interview with Forbes earlier this month. These are actual threats, against people actually doing the work.
View this post on Instagram
A post shared by Noah (@noahorion42)
It is hard to see how Orion shouting nonsense into a camera to his 800,000 followers benefits anyone but himself; after his first few viral posts, various other Instagram accounts began posting fake Flock cease-and-desist letters to promote, for example, “The Saturday Salon,” an event series in Orange County, California that largely promotes its events via AI-generated posters (Saturday Salon also created a fake Palantir cease-and-desist in January).
Benn Jordan, a researcher and YouTuber who has uncovered various Flock security flaws and has become one of the most important voices speaking out against Flock, made a video about Orion’s fake cease-and-desists in which he said “Can y'all just eat Tide Pods or something and stop making this fight even harder than it already is?”
“If you get sued for doing this, I have absolutely no sympathy for you, because if somebody made a fake cease-and-desist or lawsuit letter from me and forged my name and posted it online for attention making me look bad, I would sue the fuck out of them,” Jordan said. “More importantly, Flock frames me like Jake Paul, like a hyperbolic YouTuber who’s just doing magic tricks and making things up to make the company look bad for my own personal gain, and by doing so, they’re able to squash and make it seem risky to read real reports about security vulnerabilities, or Fourth Amendment right violations. And I can guaran-fuckin-tee you that they will use these fake letters as an example to lump in with actual, meaningful critical research about police surveillance.”
Haley, Flock’s chief legal officer, told me in a LinkedIn message that “of course they are fake.” Haley added via a spokesperson that “We’re aware of at least two forged letters circulating on the internet, including this one [referring to Orion’s], that purport to be cease-and-desist letters from our legal department. To be clear: these letters did not come from me or from anyone at Flock. Flock welcomes and encourages public debate about our technology. We have not and would not seek to discourage, prevent, or prohibit such discussion and debate. In fact, we would be happy to participate in any such discussions the group in question might host in the future."
Orion did not respond to an Instagram message I sent him asking about the fake cease-and-desist letter.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み