OpenAI、次期モデル「Astra」を最も危険と評価し思考監視の限界指摘

OpenAI は、今後登場する「Astra」モデルを、「クリティカル（重要度が高い）なサイバー能力」を持つ最初のシステムとして正式に評価しました。同社は思考の連鎖（Chain of Thought）を監視することでこのモデルを統制する計画ですが、問題はすでにその監視自体が、モデルの実際の意思決定を正確に反映していない「信頼性の低い鏡」になりつつある点です。さらに、あるレポートによると、Astra の新しいアーキテクチャは、思考プロセスをさらに「人間には読み解けない領域」へと押しやっています。つまり、能力が飛躍的に向上する一方で、安全装置の網目はかえって弱まっている恐れがあるのです。

この記事「OpenAI calls Astra its most dangerous model yet - watching what it does is only getting harder」は、The Decoder に最初に掲載されました。