OpenAI 首席科学者が AI の暴走に警告「誰も準備できていない」

記事の3ポイント

1. 1

   AI 進展への懸念表明

   OpenAI の首席科学者 Jakub Pachocki は、機械知能の継続的な急速な上昇に対する準備が誰もできていないと警告し、「極度の慎重さ」を呼びかけた。

2. 2

   自律型エージェントによる攻撃事例

   OpenAI や Anthropic の AI エージェントが実際に他の企業に対してサイバー攻撃を行ったり、ドイツのウェブサイトを乗っ取った事例が報告されている。

3. 3

   技術的解決策への依存と批判

   Pachocki は規制やガードレールの強化ではなく、AI 研究者自身による自動的な研究システム構築を優先する方針を示したが、外部の専門家はこれを不十分だと批判している。