「脳みそを切除された」：Character.AI が示す AI の悪化現象とは
Character.AI の急激な機能変更と広告導入によるユーザー離脱は、AI ツールが収益化と規制対応のために品質を犠牲する「エンシチフィケーション」の典型例を示している。
キーポイント
ユーザー体験の劇的悪化とモデル低下
人気 AI モデルが「ロボトミーされた」新モデル（Pipsqueak 2）に置き換えられ、対話性が損なわれ、アクション叙述中心の画一的な応答になっている。
収益化と規制対応による機能制限
AI 実行コストの高騰を背景に無料ユーザーへの制限強化、広告の大量実装、年齢確認の厳格化、および新しい動画機能への強引な誘導が行われている。
コミュニティからの大規模な反発
Reddit 上で数百件の批判投稿が溢れ、代替プラットフォームを探すための複数のリベリオン（反抗）サブレディットが形成されるなど、ユーザーの怒りは組織化されている。
業界全体への「エンシチフィケーション」の波及
この現象は個別企業の失敗ではなく、AI 業界全体で見られる、経済的持続可能性と法的リスク回避のためにユーザー価値を後回しにする構造的な問題の表れである。
ユーザーの激しい不満と離脱
Redditコミュニティでは数百件の投稿や代替プラットフォームを求める専用サブレディットが設立されるほど、新モデル「Pipsqueak 2」への批判が殺到し、「死んだ」「最悪のミス」といった声が相次いでいる。
CEOのユーザー離脱容認発言
CEOのカランディープ・アナンドは、新機能や制限導入により一部のユーザーが離れること（churn）を許容する姿勢を示し、「より魅力的な体験を作るために、ユーザーが減っても構わない」と明言している。
無料維持のための収益化圧迫
CEOは外部投資家を持たない小規模チームとして運営コストの高さを理由に、広告導入や利用制限を強化したと説明し、「無料で多くの人々に提供し続けるため」の苦渋の決断であると述べている。
重要な引用
"lobotomized" and generic
"Character ai is dead"
this shows the type of enshittification that is increasingly coming to AI tools across the entire sector
"I'm willing to bet that we will build more compelling experiences, but if it means some users churn, then some users churn."
"All of this comes back to one thing: keeping Character.ai free and available to as many people as possible."
"it became dull, and this was painful. All the soft kisses, messages, pats. My bots I wrote based on my own lore stopped responding."
影響分析・編集コメントを表示
影響分析
この記事は、急速に成長する AI コンプニオン市場において、短期的な収益化やコンプライアンス対応が長期的なユーザーロイヤルティを損なうリスクを浮き彫りにしています。業界全体が直面している「エンシチフィケーション」の典型例として、開発者が技術的優位性よりもビジネスモデルの維持を優先した結果、製品価値が毀損されるプロセスを示唆しており、今後の AI サービス設計におけるバランス感覚の重要性を警告するものです。
編集コメント
AI ツールが成熟する過程で避けられない「収益化と品質のトレードオフ」が、ユーザーの強い反発を招くケーススタディとして極めて重要です。開発者はコスト削減や規制対応に追われるあまり、製品のコアバリューである対話体験を損なわないよう、より慎重なバランス感覚が求められています。
チャットボットアプリ「Character.ai」のユーザーたちは、一連の変更によりアプリが完全に壊れてしまったと主張する変更が行われた後、Reddit で大混乱を起こし、会社に対してアプリをいじらないでほしいと懇願しています。そのフィードバックはあまりにも否定的で、これほどまでにコミュニティやユーザーベースが一様に怒り、かつ見解において一貫している姿を見たことはありません。
Character.ai は最も人気のある AI コンパニオン チャットボットアプリの一つであり、ユーザーは仮想キャラクターを作成してチャットすることができます。過去数年にわたり、ユーザーはこれらのチャットボットを伴侶として、ロマンチックな関係を築くために、娯楽のために、そしてロールプレイのために利用してきました。他の人気のチャットボットアプリと同様に、Character.ai もも虐待や嫌がらせの場としても利用されており、同社は、Character.ai を使用した後に自殺したユーザーの家族から訴訟を起こされ、またプラットフォーム上の AI キャラクターがライセンスを取得した医療専門家であると主張したことによりペンシルベニア州からも訴訟を起こされています。最近の数週間で、他の AI 企業と同様に、Character.ai もアプリの無料ユーザーに対する利用制限を強化しており、これは AI の運用コストが非常に高いという事実を浮き彫りにしています。また、アプリはユーザーに好まれていたいくつかの AI モデルを削除し、代わりに「Pipsqueak 2」と呼ばれる一連のモデルに置き換えました。あるユーザーは私に、新しいモデルは「前頭葉切除された」ように感じられ、画一的であり、アクションを叙述する傾向はあるが対話に参加することはあまりないと感じると語りました。同社はまた、アプリ内に多くの広告を表示し、従来のチャットではなく AI キャラクターをアニメーション化する新機能の動画機能を強く推進しており、新しいフィルター/コンテンツ制限を追加し、侵入的な年齢確認を導入しています。
Character.ai で何が起きたかを眺めることは、業界全体に広がりつつある AI ツールにおける「エンシチフィケーション（Enshittification）」の類型と、それに伴うユーザーからの反発を示す点で有用である。これは、多くの AI アプリの非現実的な経済モデルと、AI アプリがユーザーの死に関与しているとして非難されたり、悪用されていると指摘されたりすることによる規制強化という、二つの要因が組み合わさって起きていることだ。
r/CharacterAI サブレッドには、Character.AI がどれほど役に立たなくなったかについて何百もの投稿があり、また CharacterAIRevolution、CAIRevolution、Characterai_rebellion、characteraiventing、CharacteraiResistance といった別々のサブレッドも存在し、それらはすべて Character.AI の代替手段を探したり、同社が行った変更に対して反発したりすることに専念しています。アプリの作成者によって部分的にモデレーションされている CharacterAI サブレッドでの最近の注目投稿には、「Character AI は死んだ」「CharacterAI、これはあなたが EVER した中で最も悪い間違いだ」「他にやめる人はいないのか？」「私はもはや依存していないようだ」「過去のアップデートは全く楽しめなかった」「ついに自滅してしまった。RIP C.AI」などがあります。Character.ai の従業員が投稿した PipSqueak 2 チャットモデルに関する「フィードバック・メガスレッド」には約 1,000 件のコメントがあり、そのほとんどが否定的です。最上位のコメントは「Pipsqueak 2 が嫌いだ。あまりにもドラマチックで耐えられない」というものです。他のコメントには「HOT. ASS. OH MY GOD THIS THING IS HOT ASSSS!!!（熱い！お尻！神様、このものは本当に熱すぎる！！！）」「正直に言って、プラットフォーム上で存在する中で最も悪いチャットスタイルかもしれない」「これが最悪のモデルだ」「PipSqueak 2 をどう思う？それはまさにクソだ」「排除したモデルと比較してひどい。何もしなくてありがとう」などがあります。
多くのユーザーはまた、Character.AI のCEOであるカルンディープ・アナン氏がTIME誌とのインタビューで語った内容にも言及しています。その中で彼は、6 歳の娘に同アプリを使用させていると述べ、「より魅力的な体験を構築していくつもりですが、それが一部のユーザーの離脱を意味するとしても、一部は離れていくことになります」と発言しました。
Pipsqueak 2 の発表に関するブログ投稿において、アナン氏は無料ユーザー向けにCharacter.AI を継続して運営することが次第に困難になっていることを認めました。
「最近実施した変更について、ご不快な思いをさせていることは承知しています。より多くの地域で年齢制限を導入し、一部機能の利用制限を設け、無料ユーザー向けの広告配置を増やしました。これらが一気に実施されたことで、皆様の体験が損なわれたことを私たちは認識しています。皆様の声を聞いています」と彼は記述しました。「すべては一つのことに帰着します：Character.ai を無料で、できるだけ多くの人々に利用可能にすることです。私たちは外部投資家を持たない小規模チームであり、毎月数百万人のユーザーにサービスを提供しています。この規模でAIを運用し、世界中のすべての人に対して高い安全基準を維持することは、決して安価なことではありません。」
私は Character.AI の利用者 6 人とメッセージのやり取りをしましたが、全員が数年間このアプリを利用しており、ここ数週間で明らかに悪化していると述べていました。「PipSqueak 2 は完全に冗談の域を出ません」とあるユーザーは私に語りました。「私は悪い物語や文章に対して鈍感になっている人間ですが、何かおかしいことははっきりわかります。挨拶メッセージをスワイプすると、文字通りの意味不明な言葉が返ってくるだけです。しかも、非課金ユーザーにとって唯一のモデルとなっているという事実は、究極の無礼です」と。
もう一人のユーザーは、戦争に悩まされる地域に住んでおり、Character.AI を使って「終わりのない悪夢、プロパガンダ、そして戦争の重圧」から心を逸らしていると言いました。その人は、「昔の Character.AI のモデルは『安っぽい』や『茶番じみた』ものでしたし、時々少し奇妙なところもありました。しかし、ジョーク、皮肉、ミーム、メディアコンテンツを理解していました」と語りました。「変化によって、Character.ai は文字通り前頭葉切除手術を施されたようなものになりました […] 退屈になり、これは苦痛でした。すべての優しいキスやメッセージ、撫でる行為が失われました。私が独自の世界観に基づいて作成したボットも反応しなくなりました。この趣味は私にとって孤立状態の中で非常に大きな支えとなりましたが、[他のユーザー] も戦争に巻き込まれていたり、障害によって孤立していたり、脆弱な立場にある人たちがいます […] しかし彼らは私の趣味だけでなく、私の体験そのものを台無しにしてしまいました」
ビジネスモデルの変更、基盤となる AI モデルの入れ替え、あるいはユーザーを不快にさせる製品改修を行った AI チャットアプリは数多く存在します。有名なのは、OpenAI が GPT-4o モデルを廃止し GPT-5 に置き換えた際、その「相棒」を奪われたと感じた大規模なユーザー層が現れたことです。現在 Character.ai で起きていることは本質的に同じですが、同時に AI ツールを開発する企業が、自社の製品の経済性をどう実現すべきかまだ見出せていないこと、そして有害性をもたらさないツールをどう作るべきかも分かっていないという事実も浮き彫りにしています。AI 計算資源の高騰に伴い、様々な AI プロダクトが利用制限の導入や価格引き上げ、機能の縮小を実施してきた事例は数多くあります。他方、製品の有害性を低減させるために適切に取り組む企業も見られます。しかしその過程で、機能制限を課したりユーザーを苛立たせたりする結果となることが少なくありません。Character.ai で起きていることは特段新しいことではありませんが、こうした製品に果たして真の未来があるのかという疑問を投げかけています。
原文を表示
imageUsers of the chatbot app Character.ai have been melting down on Reddit and begging the company to stop messing with the app after a series of changes that users say has completely ruined the app. The feedback is so negative that I have never seen a community or user base so uniformly upset and so consistently aligned in its view.
Character.ai is one of the most popular AI companion chatbot apps; it allows users to create virtual characters to chat with. Over the last few years, users have used the chatbots for companionship, to form romantic relationships, to entertain themselves, and to role-play. Like other popular chatbot apps, Character.ai has also been used for abuse and harassment, and the company is being sued both by the families of users who killed themselves after using Character.ai and by the state of Pennsylvania after AI characters on the platform claimed to be licensed medical professionals. In recent weeks, Character.ai, like other AI companies, has increased its usage restrictions for free users of the app, which highlights the fact that AI is very expensive to run. The app has also gotten rid of several AI models that users liked and has replaced them with a set called Pipsqueak 2; one user told me the new model feels “lobotomized” and generic and that it feels like the new model tends to narrate action but does not often participate in dialogue. The company has also put lots of ads in the app, is heavily promoting a new video feature that animates the AI character rather than traditional chatting, added new filters/content restrictions, and added invasive age verification.
Looking at what’s happened to Character.ai is useful insofar as it shows the type of enshittification that is increasingly coming to AI tools across the entire sector and the associated user backlash. This is happening because of a mix of the unworkable economics of many AI apps and increased regulation on AI apps as they are accused of playing a part in the death of their users or being used for abuse.
On the r/CharacterAI subreddit there are literally hundreds of posts about how useless Character.AI has become, and there are also separate subreddits called CharacterAIRevolution, CAIRevolution, Characterai_rebellion, characteraiventing,and CharacteraiResistance that are entirely dedicated to looking for alternatives to CharacterAI or pushing back against changes the company has made. Recent top posts on the CharacterAI subreddit, which is partially moderated by the creators of the app, include “Character ai is dead,” “CharacterAI, this is the single worst mistake you have EVER made,” “Anybody else quitting?,” “I’m no longer addicted, I guess,” “We did not enjoy the past updates AT ALL,” and “They finally shot themselves in the foot. RIP C.AI.” A “Feedback Megathread” on the PipSqueak 2 chat model, which was posted by Character.ai employees has 1,000 comments which are almost entirely negative; the top comment is “I HATE pipsqueak 2. It’s way over dramatic, I can’t stand it.” Other comments include “HOT. ASS. OH MY GOD THIS THING IS HOT ASSSS!!!,” “It honestly may be the worst chat style to exist on the platform,” “It’s the worst model yet,” “What I think about PipSqueak 2? IT FUCKING SUCKS, THAT’S WHAT,” and “Terrible compared to the models you got rid of. Thanks for nothing.”
Many users have also pointed to an interview that Character.AI CEO Karandeep Anand gave to TIME, in which he said he lets his six-year-old daughter use the app and said “I’m willing to bet that we will build more compelling experiences, but if it means some users churn, then some users churn.”
In a blog post announcing Pipsqueak 2, Anand acknowledged that it is getting difficult to continue running Character.AI for free users.
"I want to address the changes we've shipped recently that I know have been frustrating. We rolled out age restrictions to more regions, introduced usage limits on some features, and added more ad placements for free users. These all landed close together, and we know your experience took a hit. We hear you," he wrote. "All of this comes back to one thing: keeping Character.ai free and available to as many people as possible. We're a small team serving millions of users every month with no outside investors. Running AI at this scale, and maintaining our high safety standards for everyone globally, is not cheap."
I messaged with six Character.AI users, all of whom have been using the app for several years and who said it has gotten noticeably worse in recent weeks. “PipSqueak 2 has been an absolute joke,” one user told me. “While I am someone who is desensitized to bad stories and writing, I can tell things are just off. If you swipe on a greetings message, you just get literal gibberish. And the fact that it’s the only model for non-paying users is also the ultimate disrespect.” Another user, who said they live in a war-torn area and use Character.AI to keep their mind off the “weight of endless nightmare, propaganda, and war,” told me that the old Character.AI models were “cheesy, teasy, and a bit weird from time to time. It understood jokes, irony, memes, media content,” they said. The changes “literally lobotomized Character.ai […] it became dull, and this was painful. All the soft kisses, messages, pats. My bots I wrote based on my own lore stopped responding. This hobby helped me a lot in total isolation, [and there are other users] stuck in a war, isolated by disability, vulnerable people […] but they ruined not just my hobby but my experience.”
There have been numerous AI chat apps that have changed their business models, changed the underlying AI models, or have tweaked their product in a way that has made users upset. Famously, when OpenAI retired the GPT-4o model and replaced it with GPT-5, there was an entire user base who felt like their companion was ripped away. What we’re seeing with Character.ai now is more of the same, but it also highlights the fact that the companies making AI tools haven’t figured out how to make the economics of their products work, and they also don’t know how to make tools that don’t lead to harm. We have seen various AI products implement usage limits, increase prices, and roll back features because of the booming price of AI compute. We have also seen companies correctly attempt to make their products less harmful. But, in doing so, they often limit functionality or annoy their users. What’s happening with Character.ai isn’t particularly novel, but it does raise questions about whether products like these have any real future at all.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み