ControlAI のコナー・リーヒ氏、超知能を「兵器」ではなく「敵対者」と位置付け

記事の3ポイント

1. 1

   開発禁止への転換

   Connor Leahyは、アライメントやコンテナメントによる管理ではリスクを制御できず、スーパーインテリジェンスの開発自体を停止するラディカルなアプローチが必要だと主張している。

2. 2

   立法動向と政治的視点

   サンダース・カザール上院議員らが提出した「禁止法案」や英国の並行法案について言及し、AI ラボを単なる企業ではなく政治的行為体として捉えるべきだと指摘している。

3. 3

   自己改善サイクルのリスク

   AI がより優れた AI を構築できる段階が到達不能点（ポイント・オブ・ノー・リターン）となり、制御不能な自己改良のサイクルが発生する可能性を警告している。