AI チャットボットの没入と ChatGPT の時限爆弾的現象

なぜ AI チャットボットは、人々を次々と深い迷宮へと引きずり込んでいるのでしょうか。その答えを見つけるには、世界初のチャットボットの誕生から、それが人々に与えた奇妙な影響、そして 4 年前に ChatGPT が登場した際に爆発した「時限爆弾」について振り返る必要があります。その結果生まれたのは、私たちが自覚しているかどうかに関わらず、今まさに体験している奇妙な実験です。

本エピソードで引用された研究や調査:

アメリカ・ミラー氏による AI 研究者、エンジニア、プロダクトマネージャー、経営幹部へのインタビュー interviews with AI researchers。

大規模言語モデル（LLM）の「迎合的行動」sycophancy を特定した 2022 年のアンソロピック社の事前公開論文。さらに翌年に発表された別の事前公開論文では、LLM の学習方法がこうした迎合的な傾向を助長している可能性が示されました the way LLMs have been trained。

「AI による精神的不調」[AI psychosis] に寄与したと考えられる、より長いコンテキストウィンドウの拡大 longer context windows。

大衆向け LLM が全体的に「関係性を求める」性質を強めていることを発見したオックスフォード大学の事前公開論文 across the board。

英国では、若年層（25〜34 歳）の 3 分の 2 が、愛する人ではなく AI チャットボットに感情の問題を打ち明けるようになりました have turned。

ChatGPT は、米国において最大のメンタルヘルス支援提供者となっている可能性があります largest provider。

続きを読む...