言語モデルにおけるグローバル・ワークスペース（26 分読）

記事の3ポイント

1. 1

   J-space の発見と定義

   Anthropic は言語モデルの内部に「J-space」と呼ばれる独自の神経パターンが存在することを明らかにし、これが明示的な設計なしにトレーニング中に出現したことを発表した。

2. 2

   推論と自動処理の区別

   同社によると、この J-space は Claude が内部的に推論を行い、思考を調整し、多段階の問題を解決する役割を果たし、単なる自動的なプロセスとは明確に区別されるという。

3. 3

   AI 安全性と意識への示唆

   これらのパターンは AI の誤動作に対する内部思考の監視を可能にし、意図的な決定と自動的な決定の間に実質的な違いがあることを示唆することで、AI 意識に関する洞察を提供する。