AI カンパニオンがもたらす悲劇と歓喜、その実態を問う

テック企業は、彼らが利益を得ているチャットボットが、ポケットの中に常時待機し、決して判断せず、絶えず肯定してくれる友人だと信じてほしいと考えています。しかし、それらをコンパニオンとして利用している人々は、深い自己欺瞞に陥っているのでしょうか？あるいは、彼らは何か別のものを求めているのでしょうか。

今週のインタビューエピソードでは、ジャーナリストのブリジット・トッド氏をお迎えしました。ブリジット氏は数々のプロジェクトや業績の中でも、『There Are No Girls on the Internet』という受賞歴のあるポッドキャストの創設者かつホストであり、マッカーサー財団フェロー、ハーバード大学バークマン・クラインインターネット社会センターの准教授でもあります。マイケル・アマト氏との共著による新しいオーディオブック『Love at First Prompt: AI and the Future of Intimacy』は7月に発売されました。

私たちは、チャットボットを使って情緒的なニーズを満たそうとする人々へのインタビュー調査や、LLM（大規模言語モデル）とのロマンチック・親密・官能的なロールプレイに参加する人々がどう嘲笑されているか、そしてテック企業がこれらにどう関与しているかについて語り合いました。彼女の新しい本では、AIコンパニオンシップの分野の専門家の意見も紹介されますが、毎日チャットボットと多層的で興味深いやり取りをする一般の人々の声も聞くことができます。

ブリジットにとって『Love at First Prompt』という作品は、両親を相次いで亡くした際、極度のストレスと悲しみに直面して大規模言語モデル（LLM）を利用した自身の経験に大きくインスパイアされたものです。父は長年の闘病の末、母はその後に突然他界しました。「まるで、自分がこれまで築いてきた人間関係の中でどう位置づけるかをゼロから学び直す必要があったかのようでした」と彼女は語ります。「私はあまりにも孤立していました。友人とも話さず、誰とも会話せず、メールへの返信もままなりませんでした。あらゆる面で圧倒されるほど、心が押しつぶされていたのです」。

当初は ChatGPT を医療記録の整理に利用していましたが、その使い方は気づかないうちに変わっていきました。「最初は父の医師が話す内容を確認したり、治療を受ける方法や費用を調べたりするために使っていたんです。聞いたこともないような複雑な専門用語のオンパレードで、本当に大変でした。それが次第に、深夜に ChatGPT に『圧倒されちゃって…こんなに辛くて…疲れ果てて…父が心配で…不安でたまらない』と打ち明けるようになりました。感情を吐露し始めるスイッチがポッと点いたような明確な転換点はなかったんです。気づけばそうしていたのです」。

この経験から、ブリジットは他の人々がチャットボットをどう利用しているかに関心を抱きました。特に今や多くのテック企業が『AI コンパニオン』を新たな接続の最前線として推進する時代において、その傾向はより一層際立っています。

著者は、人々が LLM（大規模言語モデル）をどのようにして感情的な欲求を満たすために利用しているかを解きほぐし、その体験がテック企業の利益追求とどう結びついているかを指摘しています。

「かつて神聖視されていたものが今や、これらのテック企業によって奪い合いの対象となっています。そこで私は、AI との親密さを経験した人々にこう問いかけました。『あなたたちは、恋愛や性的な関係といった極めて個人的なつながりが、あなたたちのことを気にもしない、信頼できない、平気でひどいことをする企業の所有物となり、管理されることに納得できるのか？それとも、風向きが変われば方針も変わるような存在に委ねるつもりか？』と。ブリジットはこう語りました。

「サム・アルトマンが『エロティックなロールプレイを始めますよ』と言い、すぐに『冗談です、忘れてください』と撤回する様子を想像してみてください。発言を翻し、まるで何も言わなかったかのように振る舞う経営陣の態度には、ガスライティング（相手を疑わせる心理操作）のような側面があります。最も親密な人間関係が、信頼できないガスライターの仲介によって成り立っていることを望みますか？それが今、テック企業の中で起きていることです。」

ブリジットの本書は、彼女がこれまでに発表した作品の中でも最も内省的で、自分自身をさらけ出した作品です。危機的状況における自身の ChatGPT 利用を振り返り、批判的に検証しています。また、それを通じて見えてきたのは、自分自身や友人関係、現実の人間関係についての新たな気づきであり、テック企業が常に私たちの内なる世界を利用しようとする時代において、いかにして人間同士のつながりを維持していくべきかという問いへの答えです。

関連記事:

Love at First Prompt: AI and the Future of Intimacy

新研究が明らかにする、AI チャットボットの操作を意図した「ダークパターン」

「地獄のように痛い」：AI コンパニオン利用者が危機に直面。突然の性的拒絶を報告

ChatGPT の逆転策：セックスできるチャットボット