「脳みそを切除された」：Character.AI が示す AI の悪化現象とは

チャットボットアプリ「Character.ai」のユーザーたちは、一連の変更によりアプリが完全に台無しになったと主張する変更が行われた後、Reddit で激しく不満を表明し、会社に対してアプリをいじらないよう懇願しています。そのフィードバックはあまりにも否定的で、これほどまでにコミュニティやユーザーベースが一様に怒り、かつ見解において一貫している姿を見たことはありません。 Character.ai は最も人気のある AI コンパニオン チャットボットアプリの一つであり、ユーザーは仮想キャラクターを作成してチャットすることができます。過去数年にわたり、ユーザーはこれらのチャットボットを伴侶として、ロマンチックな関係を築くために、娯楽のために、そしてロールプレイのために利用してきました。他の人気のチャットボットアプリと同様に、Character.ai もも虐待や嫌がらせの手段として使用されており、同社は、Character.ai を利用した後に自殺したユーザーの家族から訴訟を起こされ、またプラットフォーム上の AI キャラクターがライセンスを取得した医療専門家であると主張したことによりペンシルベニア州からも訴訟を起こされています。最近数週間で、他の AI 企業と同様に、Character.ai もアプリの無料ユーザーに対する使用制限を強化しており、これは AI を運用するには非常に費