SXSW、AI 活用商標ツールで批判を抑制か
SXSWがAI駆動の商標保護ツールを用いて批判的投稿を自動削除し、言論の自由とAIの誤用が衝突した。
キーポイント
AI商標ツールが批判的表現を誤検出
BrandShieldのAIツールがSXSWの名前を含む批判的投稿を自動で検出し、削除した。
非営利団体の表現が不当に制限
Vocal Texasが「Sweep the Billionaires」というアートインスタレーションを宣伝する投稿が、AIによる誤検出で削除された。
商標法における表現の自由の枠組み
EFFの法務担当者は、企業名を批判的に使用することは商標法で許容されると指摘した。
AIによる過剰規制のリスク
AIが文脈を理解せず、単語の類似性だけで削除を実行する仕組みが、言論の自由を脅かす。
過去の類似事例も存在
2024年にはAustin for Palestineが同様の商標侵害通告を受け、EFFが介入した。
AI駆動のトレードマーク監視が抗議表現を削除
SXSWがBrandShieldのAIツールを用いて、反戦をテーマにしたInstagram投稿を大量に削除。特に血の滲むSXSWロゴを再構成したコンテンツが標的となった。
去中心化された抗議ネットワークが影響を受けた
Smash By Smash Westという去中心化されたグループが主に抗議イベントを主導し、100件以上のイベントが開催されたが、その多くがAIによる自動削除の対象となった。
影響分析・編集コメントを表示
影響分析
この事例は、AIが言論の自由を制限するツールとして悪用される可能性を浮き彫りにし、企業のAI利用における倫理的責任の重要性を改めて問う。今後のAI規制やプラットフォームの責任において、重要な先例となる。
編集コメント
AIが『言論の自由』を守るのではなく、『権力』を守る道具に転用される危険性を示す、重要な警鐘記事。
AI を活用したツールが、テキサス州オースティンで開催される大規模な年次テック・音楽・映画カンファレンスである SXSW に対する批判を沈黙させるために使用されたことが明らかになりました。このツールは、ソーシャルメディア上の商標違反を対象に設計されています。
毎年3月、SXSW はオースティンを席巻します。今年は市内の老朽化したコンベンションセンターの解体により、イベントが通常よりも多くの場所、ホテルのボールルームから空き地まで広がりました。しかし、1987 年の比較的質素な起源以来、SXSW の性格は変化し、より企業志向になり、アクセスしにくくなっています。現在では多くの批判者も存在します。今年、そのうちの一部の異議を唱える声が、BrandShield という「デジタルリスク保護」サービスによって標的にされました。このサービスは、人工知能（AI）を活用して、商標を誤用するソーシャルメディア投稿の特定と削除プロセスを自動化すると主張しています。
ソーシャルメディアでの投稿削除通知を受け取った団体の中には、ホームレス問題、HIV、貧困、薬物戦争の終結に Dedicated した非営利団体である Vocal Texas も含まれていました。3月12日、同団体のメンバーは、警察や市当局がテントやその他の救命物資を撤去・破壊・没収する「掃討作戦」の際にホームレスの人々が失う所有物への注目を集めるため、オースティン市中心部に模擬のキャンプ地を設置しました。
imageインスタグラムによって削除された画像の一例。Vocal Texas の投稿には「SXSW は、ダウンタウンでホームレスとなったオースティン市民が収容所への強制退去、チケット購入、逮捕に直面する一方で、都市は億万長者や企業が利益を貪るためにスペースを空けている」と書かれていた。添付された画像では「Sweep the Billionaires（億万長者を掃討せよ）」と呼ばれるアートインスタレーションの紹介がなされており、SXSW のロゴは一切使用されていない。
にもかかわらず、単に SXSW と言及しただけで BrandShield の商標検出サービスによって警告され、結果として投稿は完全に自動削除された。電子フロンティア財団（Electronic Frontier Foundation）で商標法および知的財産法を専門とするシニアスタッフ弁護士のカラ・ガリアーノ氏は、このような投稿が SXSW の商標権に違反するものではないと指摘している。
「企業名を使ってその企業について語ることは許されているはずです、对吧？」とガリアーノ氏は 404 Media に語った。「他にどうやってそれを表現すればいいというのか？」
ガリアーノ氏は、商標法にはまさにこのような批判的言論に対する明確な例外規定（carveout）があると指摘した。「例えば、サウス・バイ・サウスウエストと似た名前のコンサートを宣伝しているわけではないような事例は、明らかに権利行使の過剰（over-enforcement）である」と彼女は述べた。
imageEFF（Electronic Frontier Foundation）は 2024 年 3 月、オースティン・フォー・パレスチナ連合が SXSW から差止請求書を受け取り、同カンファレンスの商標および著作権を侵害したと非難された際に介入しました。この連合は米軍による祭典のスポンサーシップに対する成功した抗議活動の組織に関与しており、SXSW の登録商標である矢印ロゴに血痕や戦闘機、その他の戦争を想起させるイメージを組み合わせたソーシャルメディア投稿を行っていました。EFF は連合の名代として書簡を送付し、その後 SXSW から連絡が来ることはありませんでした。
しかし、ガリアーノ氏はこの状況は BrandShield が送った取り下げ通知とは異なると説明しました。「差止請求が、 alleged 侵害行為を行った本人に対して行われた場合、その人が活動をやめることはクライアントにとって勝利となります。なぜなら、彼らに不利益が生じないからです。しかし、こうした取り下げが行われる場合……さらに進んで訴訟を起こされなかった点は良いことですが、苦情を撤回する動機も生じず、結果としてコンテンツは削除されたままになります。」
今年、多くの抗議活動や「対抗イベント」は、Vocal Texas を含む多数の団体から成る、非常に緩やかな連合体である Smash By Smash West によって組織されました。そこにはミュージシャンやインディペンデント映画監督、イベント会場運営者などが含まれていました。
404 Media は、Signal を通じて「Burnice」という名前で活動する Smash By Smash West の代表者に連絡を取りました。匿名性の保護に合意しましたが、Smash By イベントの組織化に関与していることは確認済みです。2024 年から運営を開始した Smash By にはリーダーがおらず、実質的には誰でも傘下のイベントを主催できます。Burnice によると、今年だけで 100 件以上のイベントが開催されました。「これは分散型の呼びかけであり、これらの異なるイベントすべてを促進し、結びつけるためのプラットフォームです。」
imageSmash By Smash West は、Instagram からの削除通知のスクリーンショットを数十枚、また削除された投稿の数々も提供しました。
BrandShield のソフトウェアは、潜在的な権利侵害コンテンツの一括報告を可能にし、その報告は Instagram の自動モデレーションシステムによって評価されます。明らかに自動化された仕組みであるにもかかわらず、BrandShield は「専任の知的財産権弁護士で構成される執行チーム」を活用することで、削除が「迅速かつ的を絞り、完全にコンプライアンスに準拠する」ことを保証すると主張しています。
BrandShield のウェブサイトには、「歪んだロゴ、偽造画像、あるいはクローンされた店舗であっても、当社の独自画像認識技術が市場、ソーシャルメディア、有料広告、モバイル環境をスキャンし、脅威を発生源で捉えます」と記載されています。
しかし、これらの保証にもかかわらず、BrandShield の商標ターゲットは非常に広範な範囲を網羅しており、商標違反と保護された表現の自由との区別ができていないように見えます。BrandShield は当初、広報部門につなぎましたが、メールで送付した問い合わせリストを含む繰り返しによるコメント依頼には一切応じませんでした。
Instagram が自動生成する取り下げ通知には、「このコンテンツが Instagram から削除されるべきではないとお考えの場合は、苦情を申し立てた当事者に直接連絡して問題を解決してください」という文言が含まれています。ただし、取り下げに対する異議申立を行うためのリンクも用意されており、その後の対応は Instagram のモデレーターによる裁量に委ねられています。
ガリアーノ氏は、この点が著作権法と商標法の決定的な違いであると説明しました。デジタルミレニアム著作権法（DMCA）のおかげで、誤った著作権侵害の主張に対抗し、コンテンツクリエイターが投稿を復元するための明確な（ただししばしば困難な）道筋が存在します。しかし、同様の必須の手続きは商標法には明記されていません。「『公平利用だと伝えられたので、再び公開する』という反通知のプロセスはありません。それが非常に苛立たしいことです」とガリアーノ氏は述べています。
無料の DIY ミュージックショーを開催し、ジン（小冊子）を発行する団体「Tiny Sounds Collective」の予約業務を主に担当しているマシュー・ズニガ氏は、同団体の「Smash By」コンサートを扱った投稿が削除された後、Instagram が提供する手続きに苦戦したと語りました。
「試みました」と彼は言いました。「しかし、うまくいきませんでした。」
彼が同じ画像とテキストを再投稿しましたが、「Smash By Smash West」の Instagram アカウントを共同作成者としてタグ付けしなかった場合、その投稿はオンライン上に残っていました。
「私はそれが馬鹿げていると思います。書店で行われるこれらの DIY ショーが誰かを『サウス・バイ・サウスウエスト』から引き離しているわけがない」とズニガ氏は述べました。「むしろ、これはオンライン上の『サウス・バイ・サウスウエスト』に反対する言説を意図的に削除しようとする試みだったと思います。」
コメントの依頼に対し、SXSW の広報チームは準備された声明を返送し、法律により商標権を執行するために「合理的な措置」をとる必要があると指摘しました。
「SXSW の取り組みは、コメントや批判、独立した報道を制限することを意図したものではなく、我々は表現の自由の重要性を尊重している」と、スポークスマンの声明は続いた。「規模の大きい潜在的な問題を特定するために、BrandShield を含むサードパーティ製サービスを利用しており、誤りが生じる可能性があることを認識している」。
一方、Burnice は、Smash By Smash West が SXSW の商標を盗もうとしているのではなく、参加者に対して自らのイベントを「無料」や「代替的な SXSW イベント」として記述することを条件として課していると説明した。「Smash By …は、DIY シーンを政治化し、『非公式』の South By 公演を明確に反-South By の立場へと導こうとする試みだった」。
Smash By は代替ロゴを提供しており、その中には完全に独自のものもあれば、2024年に Austin for Palestine コーリションが行ったような SXSW ロゴのパロディや「デトールヌマン（détournements）」に基づくものもある。Burnice は、今年 dissent が自動化されたシステムによって抑圧されることへの不満を表明した。
「すべてが実際には、ロボット同士がやり取りしているだけのことだ」と同氏は語った。「これらのアカウントを大量に報告する AI システムがあり、その後、おそらく Instagram 側にも AI システムが存在して、それらを処理し、承認または拒否しているのだ」
一方、ガリアーノ氏は、BrandShield などの企業において人工知能が単なる技術用語としての流行を超えて主要な役割や重要な役割を果たしているかどうかについて懐疑的な見解を示しました。「私たちが受け取る支援要請の件数に何らかの変化があったとは見ておらず、この点については実際に大きな違いをもたらしたのかという点で少し懐疑的です。なぜなら、彼らはすでに自動化されたツールを使用していたからです。また、どのような状況においても、これらのツールが実際の侵害を確実に判断できるものではないと考えます。」
原文を表示
imageAn AI-powered tool designed to target trademark violations on social media was used to silence critics of SXSW, the massive annual tech, music and film conference in Austin, Texas.
Each year in March, SXSW takes over Austin. This year, thanks to the demolition of the city’s aging convention center, events sprawled to more locations than usual, from hotel ballrooms to vacant lots. But the character of SXSW has changed, growing more corporate and less accessible since its relatively humble origins in 1987, and today it has numerous detractors. This year some of those dissenting voices found themselves targeted by BrandShield, a “digital risk protection” service that claims to use artificial intelligence to automate the process of identifying and removing social posts that misuse trademarks.
Among the groups to receive a social media takedown notice was Vocal Texas, a nonprofit dedicated to ending homelessness, HIV, poverty and the war on drugs. On March 12, members of the group set up a mock encampment in downtown Austin, to draw attention to the possessions that unhoused people can lose during “sweeps,” when police and city officials clear out and destroy or confiscate their tents and other lifesaving supplies.
imageAn example of an image deleted by InstagramAn Instagram post by Vocal Texas read, “SXSW means unhoused Austinites in downtown face encampment sweeps, tickets and arrests while the City makes room for billionaires and corporations to rake in profits.” The accompanying image promised an art installation called “Sweep the Billionaires,” and does not use SXSW’s logos.
Even so, the mere mention of SXSW was apparently enough to flag BrandShield’s trademark detection service, resulting in the post’s fully automated removal from Instagram. Cara Gagliano, a senior staff attorney who specializes in trademark and intellectual property law at the Electronic Frontier Foundation said that posts like these do not violate SXSW’s trademark.
“You’re allowed to use a company’s name to talk about the company, right?” Gagliano told 404 Media. “How else are you going to do it?”
Gagliano noted that trademark law has specific carveouts for exactly this kind of critical speech. “Examples like that, where it's not (for example) advertising a concert with a name similar to South by Southwest ... are pretty clearly over-enforcement,” she said.
imageEFF interceded in March 2024 when the Austin for Palestine coalition received a cease and desist letter from SXSW, accusing them of infringing on the conference’s trademark and copyright. The coalition, which was involved with organizing successful protests against the festival’s sponsorship by the U.S. military, had made social media posts featuring SXSW’s trademarked arrow logo reimagined with bloodstains, fighter jets, and other warlike imagery. The EFF wrote a letter on the coalition’s behalf, and the group never heard from SXSW again.
But Gagliano explained that this situation is different from the takedown notices sent by BrandShield. “When it's a threat sent to ... the person who made the allegedly infringing use, them going away is a victory for the client because nothing bad happens to them, but when you have these takedowns ... [while] it's good that they didn't go even further and file a lawsuit, they also don't have any incentive to retract the complaint, and so the content stays down.”
This year, many of the protests and “counter events” were organized by a very loosely associated coalition of groups called Smash By Smash West, which included Vocal Texas along with many others, from musicians and independent movie directors to event venues.
404 Media reached a representative of Smash By Smash West via Signal who used the name “Burnice.” We agreed to protect their anonymity, but verified that they were involved with the organizing of Smash By events. Operating since 2024, Smash By has no leaders and essentially anyone can organize an event under its umbrella. This year, there were over 100 events, according to Burnice. “It is a decentralized call to action and a platform that enables promotion and connecting together all of these different events.”
imageSmash By Smash West provided us with dozens of screenshots of Instagram takedown notices as well as many of the posts which had been removed.
BrandShield’s software enables mass reporting of potentially infringing content, with reports in turn evaluated by Instagram’s automated moderation systems. Despite their obviously automated nature, BrandShield claims to use a “dedicated enforcement team of IP lawyers” to ensure that takedowns are “timely, targeted and fully compliant.”
The BrandShield website reads, “Whether it's a distorted logo, a counterfeit image, or a cloned storefront, our proprietary image recognition technology scans marketplaces, social media, paid media, and mobile environments to catch threats at the source.”
However, despite these assurances, it seems clear that BrandShield’s trademark targets with a very broad brush, and seems incapable of distinguishing between trademark violations and protected free speech. Although BrandShield initially connected us with their public relations department, they did not respond to repeated requests for comment including an emailed list of inquiries.
Instagram’s automatically generated takedown notices include the sentence, “If you think this content shouldn’t have been removed from Instagram, you can contact the complaining party directly to resolve your issue.” However, there is a link allowing the recipient to appeal the takedown, which then leaves it up to Instagram moderators’ discretion if it returns.
Gagliano explained that this is a crucial area where trademark differs from copyright law. Thanks to the Digital Millenium Copyright Act (DMCA), there’s a clear (though often arduous) path to contesting false claims of copyright violations which allows content creators to get their posts put back. There’s no similar, mandatory pathway written into trademark law. “There's no counter notice process where they say, ‘Okay, you told us this is fair use, so we'll put it back up.’ And that's a really frustrating thing,” Gagliano said.
Mathew Zuniga, who does most of the booking for Tiny Sounds Collective, an organization that throws free DIY music shows and publishes zines, said he struggled with the process offered by Instagram after a post about a Tiny Sounds’ Smash By concert was taken down.
“I tried to do it,” he said. “It didn't really go through.“
When he reposted the same image and text, but without tagging Smash By Smash West’s Instagram account as a collaborator, the post remained online.
“I think it’s silly, as if these DIY shows in a bookstore are pulling anyone away from South By,” Zuniga said. “I think it was more of a deliberate attempt to take down anti-South By Southwest rhetoric online.”
When reached for comment, SXSW’s PR team sent back a prepared statement, noting that the law requires them to “take reasonable steps” to enforce their trademarks.
“SXSW’s efforts are not intended to limit commentary, criticism, or independent reporting, and we respect the importance of free expression,” the spokesperson’s statement continued. “We use third-party services, including BrandShield, to help identify potential issues at scale, and we recognize that errors can occur."
By contrast, Burnice explained that, rather than trying to steal SXSW’s trademark, Smash By Smash West makes it a condition that participants can’t describe their events as free or alternative SXSW events. “Smash By ... was an attempt to politicize the DIY scene, the ‘unofficial’ South By shows, and make them explicitly anti-South By.”
Smash By provides alternative logos, some of which are wholly unique but others based on parodying or “detournements” of the SXSW logo, similar to what the Austin for Palestine coalition did in 2024. Burnice expressed their frustration with the automated nature of the quashing of dissent this year.
“All of that is actually just happening by robots talking to robots,” they said. “It's an AI system that mass reports these accounts, and then, you know, probably an AI system at Instagram that just sorts through, and approves or rejects.”
For her part, Gagliano expressed skepticism over whether artificial intelligence plays a major or important role at companies like BrandShield beyond just its current popularity as a tech buzzword. ”I haven't seen any kind of change in the volume of requests for help that we're getting, and this is one thing where I'm a little skeptical that it's really made much difference, because they were already using automated tools before, and I think in any instance, the tools are not going to be able to reliably determine what's actually infringement.”
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み