MIT調査：今後5年でAIが大量殺傷兵器を手にする確率2割

記事の3ポイント

1. 1

   大惨事の確率と定義

   国際的な専門家272名への調査により、今後5年以内にAIが「100万人以上の死者」や「1000億ドル超の損失」といった大惨事をもたらすリスクが18種類存在し、そのうち5つの主要リスクは確率が10%を超えると評価された。

2. 2

   危険な能力と兵器開発

   AI が欺瞞や武器開発、サイバー攻撃を通じて大規模な害を及ぼす可能性（21.5%）や、化学・生物兵器、核爆発を含む兵器の開発に利用されるリスク（21%）が最も高い確率で懸念されている。

3. 3

   社会的不平等と競争の弊害

   AI の恩恵が特定の層に限定されることによる社会的格差（18%）や、最良モデルを巡る競争がエラー prone なシステムの開発を招く可能性（16.6%）も主要なリスクとして挙げられている。