このウェブツールはAIチャットボットを極端に遅くすることで妨害する
アーティストのSam Lavigne氏が開発した「Slow LLM」というツールは、JavaScriptのFetch関数を改変することで、ユーザーがAIチャットボット（Claude、ChatGPTなど）にアクセスした際の応答を意図的に遅く見せかけ、AIへの過度な依存と「脱技能化」を批判的に問うプロジェクトである。
キーポイント
Slow LLMの目的と背景
このツールは、AIチャットボットへの過度な依存が「脱技能化」や認知・感情機能の外部委託を招いているという批判的視点に基づき、その利用を思いとどまらせることを目的としている。
動作原理
JavaScriptのFetch関数を改変し、ブラウザへのデータ返信を意図的に長い時間にわたって引き伸ばすことで、ユーザーにAIの応答が非常に遅いと錯覚させる。
導入方法
Chromeブラウザ拡張機能として、またはカスタムDNSサーバーを介してネットワーク全体に導入する「Enterprise Edition」が提供されている。
影響範囲
ブラウザ拡張機能はClaudeとChatGPTに影響し、DNS版はさらにGrokとGoogle Geminiの応答も遅くする。
影響分析・編集コメントを表示
影響分析
この記事は、AI技術の社会的影響についての批判的議論を具体化した芸術プロジェクトを紹介している。技術的な革新性や実用性は限定的だが、AI依存がもたらす「脱技能化」や人間の能力の外部委託という重要な倫理的・社会的課題を可視化し、業界内外でこの問題に対する認識を高める可能性がある。
編集コメント
技術的な「妨害ツール」という形式を取りつつ、その根底にはAIの普及がもたらす人間の認知能力や社会構造への影響に対する深い懸念が込められた、現代的な社会批評として興味深い。
image近年、人々が批判的思考や感情、そして健全な精神までも、不具合の多い「AI」チャットボットに委ねる様子を見ることは、人間であることの最も独特で恐ろしい側面の一つとなっている。
サム・アルトマンのような裕福なテクノロジー伝道者たちが、大規模言語モデル（LLM）が我々の仕事を奪い、子供を育てる運命にあるなどと荒唐無稽な主張を続ける一方で、批評家たちはシリコンバレーがチャットボットへの依存を強要する試みを、大規模な「能力低下」現象――機械に考えさせ、行動させ、創造させた方が実際は良いと人々に信じ込ませようとする企て――になぞらえている。
さて今、友人や家族、さらには全くの見知らぬ人々がClaudeやChatGPTのようなチャットボットに頼るのを思いとどまらせる新たな方法が登場した。「Slow LLM」というツールを使って、それらを本当に、とてつもなく遅くするという方法だ。少なくとも、そう見せかけることができる。
「あなたやあなたの愛する人が、大規模な能力低下現象に巻き込まれているのではないかと心配ですか？ LLM誘発性の精神異常を経験していますか？ 認知機能や感情機能をオートコンプリートに委託していませんか？ 今すぐ、あなたの、または愛する人のコンピューターにSLOW LLMをインストールしましょう！」と、このツールのウェブサイトには書かれている。
アーティストのサム・ラヴィーニュによって作成されたSlow LLMは、コンピューターやネットワーク上でAIチャットボットにアクセスする誰もが、不可解で、ひどく遅い応答時間に遭遇するように仕向ける。これは、ブラウザにデータを返す「Fetch関数」を書き換えるために、JavaScript言語の特性を操作することで機能する。ユーザーがチャットボットのドメインを訪れて質問を入力すると、改変されたFetch関数が応答を耐え難いほど長い時間をかけて引き延ばす。その結果、ユーザーはLLMの動作が遅いと感じるが、実際には単にラヴィーニュのコードによって恣意的に制御されているに過ぎない。
ラヴィーニュによれば、このプロジェクトのアイデアは、彼の教え子や知人たちが基本的な作業を行うために生成AIツールにどれほど深く依存するようになったかを目にした後に生まれたという。
「あまりに多くの人々が、自分の認知機能や感情機能を外部委託するためにこれらのツールを使い始めている。その過程で、彼らはこれまでに学んできたあらゆる基本的なことを忘れ去っている」とラヴィーニュは404 Mediaに語った。「LLMへの依存が進めば進むほど、この能力低下現象はより極端なものになると思う」
Slow LLMはChromeブラウザ拡張機能としてインストールできるが、「Enterprise Edition」というDNSサービスを通じてネットワーク全体に展開することも可能だ。これにより、家庭、学校、企業のネットワークに接続する全員が、チャットボットの遅い応答を体験することになる。設定方法は、ルーターのDNSサーバーをラヴィーニュのカスタムドメインに変更するだけである。ただし彼は警告する。見知らぬ人物のDNSサーバーを使用することは、一般的にサイバーセキュリティの観点から良い考えとは言えず、より安全な選択肢として、Githubで無料公開されているSlow LLMのコードを用いて自分自身でDNSサーバーをホストすることを推奨している。ブラウザ拡張機能は現在ClaudeとChatGPTにのみ影響するが、DNS版はGrokとGoogle Geminiも遅くする。
「これらのツールは摩擦を取り除いている。ならば、少し摩擦を戻してやろうというのがアイデアだった」とラヴィーニュは語る。ここでいう「摩擦」とは、システム内の非効率性を指す技術者たちの用語だ。彼は、LLMチャットボットがこの「摩擦」の概念を極端に推し進め、我々が遭遇するあらゆる不快さや困難を、シリコンバレーの思考機械に委託すべきものとして提示していると主張する。たとえその困難を克服することが、人間の創造性に意味と価値をもたらす一部であったとしてもだ。「難しいことの摩擦を取り除くものは何であれ、それは学ぶ機会を奪い、あなたが既に成し遂げた学習をも取り去ってしまう」
理論上、Slow LLMは誰にも気づかれることなく起動できる。ほとんどの人は、GoogleやOpenAIといったチャットボット提供側に技術的問題が発生したと考えるだろう。実際、外部干渉がなくてもそうした事態は時折起こる。ラヴィーニュによれば、これまで職場や学校のネットワークでSlow LLMの展開に成功したという報告はまだないという。だが、彼は人々が試すのを決して止めようとはしていない。
「まだ何の疑いもない被験者でテストしたことはないが、考えているところだ」とラヴィーニュは悪戯っぽい口調で言い、人為的に遅くされたチャットボットを前に人々がどう反応するかを見るのは興味深い実験になると付け加えた。「もしかしたら、彼らはLLMへの怒りを爆発させて使用をやめるかもしれない」
Slow LLMは、ラヴィーニュが有名になった一連の茶目っ気たっぷりの技術的挑発の最新作である。2021年、パンデミックによる「Zoomポカリプス」の最中、彼は「Zoom Escaper」を公開した。これはZoomのオーディオストリームに煩わしいエコーや歪み、中断を発生させ、あなたの存在が他の参加者にとって耐え難いものになるまで続けるツールだ。2018年には、公開されているLinkedInプロフィールをスクレイピングしてICE（米国移民関税執行局）捜査官の大規模なデータベースを構築したことで悪名を轟かせ、このデータベースは後にGithubやMediumといったプラットフォームから削除された。ラヴィーニュの頻繁な協力者であるテガ・ブレインも、「Slop Evader」のようなブラウザツールを公開している。これは、ChatGPTが一般公開された2022年11月以降の全ての検索結果を除去することで、生成AIによる低質なコンテンツ（スロップ）をフィルタリングするものだ。
「私は、計算システムを軽く妨害するようなツールを作る、デジタル・サボタージュの小さな実験をずっと続けてきた」とラヴィーニュは言う。「私が考えていることの一つは、もし生産手段が真に我々の手中にあり、かつそれが他者とのコミュニケーションや社会生活の管理の方法でもあるなら、『生産性を中断する』とはいったいどういう意味なのか、ということだ」
しかし、ラヴィーニュは絶対主義者ではない。訊かれることもなく、彼はSlow LLMのコードの一部を書く際にClaudeを利用したことを認めた。もちろん、Slow LLMが動作し始めてからは、自力でプロジェクトを完成させざるを得なくなったのだが。彼が目指しているのは、人々にチャットボットを日常的に使うことで身についてしまった習慣を問い直させることだという。これらのツールは、我々の知識、意思決定、感情的な幸福のすべてを、アルトマンや（イーロン・）マスクのようなテクノロジー億万長者が率いる巨大企業に委ねるよう誘惑する。
「私の願いは、人々にこれらのツールの使用について、もう少し考えてもらうことだ」とラヴィーニュは言う。「しかし、私が人々に考えてほしいより広いテーマは、[…]これらのデータの流れ、これらの権力の流れをどう断ち切るか、そして我々の生活のあまりに多くの部分を仲介しているこれらの計算システムに、どう摩擦を導入するかということだ」
原文を表示
imageWatching people outsource their critical thinking, emotions, and sanity to glitchy “AI” chatbots has been one of the most uniquely terrifying aspects of being a human being in recent years.
While wealthy tech evangelists like Sam Altman continue to make wild proclamations about how large language models (LLMs) are destined to do our jobs and raise our children, critics have compared Silicon Valley’s attempts to force dependence on chatbots to a mass-enfeebling event—an attempt to convince people that they are actually better off having machines think, act, and create for them.
Now, there’s a new way to discourage friends, family, and even complete strangers from turning to chatbots like Claude and ChatGPT: by using a tool called “Slow LLM” to make them really, reaaaaalllyyy slowwwww. Or at least, making them look that way.
“Are you concerned that you or your loved ones might be participating in a massive de-skilling event? Experiencing LLM-induced psychosis? Outsourcing cognitive and emotional functions to autocomplete? Install SLOW LLM on your computer, or the computer of a loved one, today!” reads a description on the tool’s website.
Created by artist Sam Lavigne, Slow LLM causes anyone accessing AI chatbots on a computer or network to encounter mysterious, painfully slow response times. It works by manipulating a quirk in the Javascript language to rewrite the “Fetch” function that returns data to the browser. When a user visits a chatbot domain and enters a query, the modified Fetch function stretches the response over an excruciatingly long period of time. This results in the user perceiving the LLM to be running slowly, when in reality it’s simply being arbitrarily metered by Lavigne’s code.
Lavigne says that the idea for the project came after seeing how deeply some of his students and acquaintances had come to rely on generative tools to do basic tasks.
“So many people are starting to use these tools to outsource their cognitive and emotional functions, and in the process of doing this they’re forgetting all these basic things that they’ve learned how to do,” Lavigne told 404 Media. “I think that the more people rely on LLMs, the more extreme this de-skilling event will become.”
Slow LLM can be installed as a Chrome browser extension, but it can also be deployed network-wide via an “Enterprise Edition,” a DNS service which causes everyone on a home, school, or corporate network to experience slow chatbot responses. This is done by simply changing the DNS server on your router to Lavigne’s custom domain—though he warns that using a random person’s DNS is generally not a great idea cybersecurity-wise, and recommends the safer option of hosting your own DNS server to deploy the Slow LLM code, which he has released for free on Github. The browser extension currently only affects Claude and ChatGPT, while the DNS version also slows down Grok and Google Gemini.
“The idea was that these things are removing friction, so let’s add some friction back in,” said Lavigne, using the engineering term frequently used by tech bros to describe inefficiencies in a system. He argues that LLM chatbots have taken this idea of “friction” to an extreme, presenting any unpleasantness or difficulty we encounter as something that should be outsourced to Silicon Valley’s thinking machines—even if overcoming that difficulty is part of what makes human creativity meaningful and worthwhile. “Anything that removes the friction of something that’s difficult, it makes you not learn, and it removes the learning you’ve already achieved.”
In theory, one could activate Slow LLM without anyone noticing; most people would likely assume that chatbot providers like Google and OpenAI are having technical issues, which does happen without outside interference from time to time. Lavigne says that so far, he hasn’t heard from anyone that has successfully deployed Slow LLM on a work or school network. But he certainly isn’t discouraging people from trying.
“I have not yet tested it on any unwitting subjects, but I’m thinking about it,” Lavigne said in a mischievous tone, adding that it would be an interesting experiment to see how people react when presented with artificially-slow chatbots. “Maybe they’ll just rage-quit LLMs.”
Slow LLM is the latest addition to a series of impish tech provocations that Lavigne has become known for. During the height of the pandemic Zoompocalypse in 2021, he released “Zoom Escaper,” a tool that floods your Zoom audio stream with annoying echoes, distortions, and interruptions until your presence becomes unbearable to others. In 2018, he infamously scraped public LinkedIn profiles to build a massive database of ICE agents, which was subsequently removed from platforms like Github and Medium. Lavigne’s frequent collaborator Tega Brain has also released browser tools like “Slop Evader,” which filters out generative AI slop by removing all search results from after November 2022, when ChatGPT was first released to the public.
“I’ve been doing these little experiments in digital sabotage where I’m trying to make these tools that mildly interrupt computational systems,” said Lavigne. “One of the things I’ve been thinking about is how if the means of production is truly in our hands, and it’s also the way we’re communicating with other people and managing our social life, then what does it mean to interrupt productivity?”
Lavigne is not an absolutist, however. Without prompting, he admitted that he used Claude to help write some of the code for Slow LLM—until, of course, Slow LLM started working and forced him to complete the project on his own. Instead, Lavigne says he’s trying to make people question the habits they are forming by regularly using chatbots, tools which tempt us to essentially entrust all our knowledge, decision-making, and emotional well-being to massive companies run by tech billionaires like Altman and Elon Musk.
“My hope is to get people to think a little bit more about their usage of these tools,” said Lavigne. “But the broader thing I want people to think about […] is ways of interrupting these flows of data, these flows of power, and putting friction into these computational systems that are mediating so many parts of our lives.”
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み