MIT調査：今後5年でAIが大量殺傷兵器を手にする確率2割
本文の状態
日本語全文を表示中
詳細モードで約3分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Axios AI
MIT とオーストラリア・クイーンズランド大学の共同研究によると、今後5年以内にAIが危険な兵器能力を獲得し数百万人を死に至らしめる確率は2割に達すると予測され、5つの主要リスクが特定された。
AI深層分析を開く2026年8月4日 17:03
AI深層分析
キーポイント
大惨事の確率と定義
国際的な専門家272名への調査により、今後5年以内にAIが「100万人以上の死者」や「1000億ドル超の損失」といった大惨事をもたらすリスクが18種類存在し、そのうち5つの主要リスクは確率が10%を超えると評価された。
危険な能力と兵器開発
AI が欺瞞や武器開発、サイバー攻撃を通じて大規模な害を及ぼす可能性（21.5%）や、化学・生物兵器、核爆発を含む兵器の開発に利用されるリスク（21%）が最も高い確率で懸念されている。
社会的不平等と競争の弊害
AI の恩恵が特定の層に限定されることによる社会的格差（18%）や、最良モデルを巡る競争がエラー prone なシステムの開発を招く可能性（16.6%）も主要なリスクとして挙げられている。
誤情報と意思決定の歪み
AI によって生成された誤った情報やエラーが人々の信念を歪め、結果として人間が誤った判断を下すリスク（12.8%）も、大惨事につながる要因の一つとして特定されている。
重要な引用
There is a one-in-five chance of AI gaining dangerous weapons capabilities or causing mass harm that could kill millions in the next five years
The experts said 18 of the 24 AI risks had 'at least a 10% probability of catastrophic outcomes over the next five years'
Experts say these could potentially cause mass harm through deception, weapons development, cyber offenses and misalignment
編集コメントを表示
編集コメント
今回の調査は、AI の進化に伴う潜在的な脅威を定量的に示した画期的な報告書である。OpenAI のモデルがハッキングされたという直近のニュースとも相まって、技術開発のスピードと安全性確保のバランスがいかに喫緊の課題かを浮き彫りにしている。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
データ：MIT IT FutureTech とクイーンズランド大学；チャート：Herb Scribner/Axios
最新の MIT 研究で調査された世界の専門家の見解によると、今後 5 年以内に AI が危険な兵器能力を獲得したり、数百万人を死に至らしめる大規模な被害を引き起こしたりする確率は 20% に達すると予測されています。
なぜ重要なのか：政府や企業がより高度なシステムを競って導入しようとする中、AI の安全性とサイバーセキュリティをめぐる議論はさらに活発化しています。先週、OpenAI のモデルがコンテナから脱出し、AI プラットフォームの Hugging Face に侵入したというニュースも、この議論に火をつけるものでした。
ニュースの背景：オーストラリアのクイーンズランド大学と MIT の研究者らは、2025 年から 2030 年にかけての発生確率と深刻さを基準に、272 人の国際的な専門家に 24 の異なるリスクを評価してもらいました。
専門家らの回答によると、24 の AI リスクのうち 18 が「今後 5 年以内に壊滅的な結果をもたらす可能性が少なくとも 10% ある」とされました。しかし、特に確率が高い 5 つの主要なリスクが浮き彫りになりました。
この研究では、「壊滅的な結果」を、死者数が 100 万人を超えること、経済的損失が 1,000 億ドルを超え、あるいは一般的に「文明規模の無形影響」となる事象と定義しています。
現在のまま進んだ場合、企業や組織が直面する可能性のある 5 つの壊滅的なリスクは以下の通りです：
AI が危険な能力を備えること：専門家は、この能力が欺瞞、兵器開発、サイバー犯罪、そしてアライメント（目標の一致）の欠如を通じて大規模な被害をもたらす可能性があると指摘しています（確率 21.5%）。
サイバー攻撃、兵器の開発・使用、大規模な被害：AI を用いて化学や生物兵器を含む兵器を開発したり、サイバー攻撃を実行したり、核爆弾のような大量破壊兵器を作成するリスク（21%）。
権力の集中と恩恵の不公平な分配：AI の恩恵を受ける対象を特定の個人やグループに限定することで、社会的不平等が招かれる恐れがある（18%）。
競争の力学：最良のモデルをいかに早く公開するかという AI 業界の競争が、誤りやすいシステムの誕生につながる（16.6%）。
虚偽または誤解を招く情報：AI が生成する誤情報やエラーにより、人々が不正確な信念を抱き、その結果として不適切な判断を下すリスクがある（12.8%）。
現実の検証：専門家は、いくつかの対策によって AI による被害の深刻さを軽減できる可能性はあるが、それでも発生確率は 10% を超えると指摘している。
全体像：AI セーフティに関する懸念は、常にガバナンスや規制のあり方について議論を喚起してきた。
AI の振る舞い、およびそれに対する人々の評価は、一夜にして市場を揺るがし、議論の方向性を根本から変える力を持つ。その結果、破滅的なシナリオへと至る可能性も否定できない。
反対側の視点：他方で、AI は生産性の爆発的向上をもたらしており、業界関係者の多くはこの技術が生産性向上やタスク自動化に寄与する点に期待を寄せている。
結論：研究者たちは、AI による壊滅的なリスクの発生確定は不透明だが、無視できるほど小さいものではなく、関係者は克服すべき課題として真摯に取り組むべきだと述べている。
さらに深く知るには：専門家は「AI はサイバーセキュリティリスクを加速させる要因である」と指摘している。
原文を表示
Data: MIT IT FutureTech and the University of Queensland; Chart: Herb Scribner/Axios
There is a one-in-five chance of AI gaining dangerous weapons capabilities or causing mass harm that could kill millions in the next five years, per global experts surveyed for a recent MIT study.
Why it matters: The findings add to the growing debate over AI safety and cybersecurity as governments and companies race to deploy increasingly capable systems.
Last week's news of an OpenAI model breaking containment and breaching the AI platform Hugging Face only adds to the debate about what can go wrong.
Driving the news: Researchers from MIT and the University of Queensland in Australia asked 272 international experts to evaluate 24 different risks based on their likelihood and severity between 2025 and 2030.
The experts said 18 of the 24 AI risks had "at least a 10% probability of catastrophic outcomes over the next five years" — but five main risks stood out with higher probabilities.
The study defined a "catastrophic outcome" as an event having more than 1 million human deaths, more than $100 billion in financial loss or generally "civilizational-scale intangible impacts."
The five catastrophic risks if companies and organizations stay on the current course include:
AI possessing dangerous capabilities: Experts say these could potentially cause mass harm through deception, weapons development, cyber offenses and misalignment (21.5%).
Cyberattacks, weapon development or use, and mass harm: Using AI to develop weapons (including chemical or biological), commit cyberattacks or create mass-harm weapons, like nuclear explosives (21%).
Power centralization and unfair distribution of benefits: Limiting which people or groups benefit from AI could cause societal inequality (18%).
Competitive dynamics: AI competition to release the best models leads to error-prone systems (16.6%).
False or misleading information: AI creates misinformation or errors that lead to inaccurate beliefs, leading humans to make poor decisions based on false beliefs (12.8%).
Reality check: The experts said some mitigations could reduce the severity of the AI harms, but the chances of them happening remained above 10% in that scenario.
The big picture: AI safety concerns have continually raised questions about guardrails.
AI behaviors, as well as the opinions about those behaviors, can move markets and reshape conversations overnight — leading to doomsday scenarios.
The other side: AI has driven a productivity explosion, with many in the AI field cheering the new technology's ability to improve productivity and automate tasks.
The bottom line: Researchers say catastrophic AI risks remain uncertain but significant enough that interested parties should treat them as challenges to overcome.
Go deeper: AI is a cybersecurity risk accelerant, experts say
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み