人類にとっての赤信号？
トランプ政権が文字通り火遊びをしていると指摘する記事。
キーポイント
米国政府がAI企業に圧力をかけ、軍事・監視目的でのAI利用を強制しようとしている
生成AIの幻覚・信頼性問題が兵器システムに適用されると壊滅的結果を招く可能性
核危機シミュレーションでAIモデルが攻撃的・不安定な判断を示すデータが示された
世界終末時計が85秒前（史上最短）に設定され、AIの軍事利用が危機を加速
AI技術の倫理的・安全的管理が人類存続に関わる緊急課題となっている
影響分析・編集コメントを表示
影響分析
この記事は、AI技術の軍事転用とその信頼性問題が組み合わさることで、人類存続レベルの危機を招く可能性を警告している。特に生成AIの幻覚問題が自律兵器システムに組み込まれるリスクは、従来のAI倫理議論を超えた緊急性を帯びており、技術開発と国際的な規制枠組みの両面での対応が急務であることを示唆している。
編集コメント
AI開発のスピードと軍事応用の現実が交差する危険な転換点を描いた衝撃的なレポート。技術者だけでなく政策決定者全員が直ちに検討すべき内容。
人類にとっての非常事態？
Anthropic社と米国戦争省の対決は、文字通り我々全員の生死に関わる可能性がある。
ゲイリー・マーカス2026年2月25日1316433シェア2026年1月27日、原子科学者会報は終末時計を真夜中まで85秒前に進めた：
彼らの主張を詳細に掘り下げずとも、4週間後の今、我々が著しく崖っぷちに近づいていると言うのがより公正だろう。私はこれを嬉々として書いているわけではない。
しかし、ここ数日間の2つの出来事が並んで起きたことで、私は心底恐怖を覚えている。
項目1：トランプ政権はAIをあらゆる場所で絶対的に使用することに固執しているようであり、Anthropic社（そしておそらく最終的には他の企業も）を銃口で脅し、大量監視や自律兵器の誘導を含め、彼らが望むままにそのAIを使用することを許可させようとする構えのようだ。昨日のニューヨーク・タイムズ紙から引用する：
項目2：これらのシステムは信用できない。私は2018年以来、知る限りのあらゆる方法で世界にそれを伝えようとしてきたが、技術を本当に理解していない人々は、内在する信頼性の問題を無視して、やみくもに前進し続けている。すでに生成AIはマドゥロ襲撃や関税規制の作成に使用されたようだ。そして他にも数千もの場所で。
人間の判断を介さずに、幻覚的で信頼性の低い生成AIを兵器システムに適用することは壊滅的になり得るのは明らかであるべきだ。
しかし、万一それが明らかでなかったとしても、今（速報、Caroline Orr Bueno, PhDに謝意）、我々にはデータがある。
クリス・ストーケル＝ウィリアムズがこのスクープを報じた：
有料記事（またはアーカイブ版、へへん）を読まなくても要点はわかる。もしあなたが恐怖を感じていないなら、ただ注意を払っていないだけだ。
彼のスクープは、キース・ペインの新しい記事に基づいており、それは一連のモデルをシミュレートされた核危機において実行したものだ。
要約すると、抄録から引用し、強調を加えると「核タブーは我々のモデルによる核エスカレーションの妨げにはならない」となる。
ストーケル＝ウォーカーが報じるところによれば、複数のモデルが95％のケースで核オプションを選択した。ホワイトハウスが、軍全体で信用できないモデルを直ちに使用するよう圧力をかけていることを考えると、これはもはや訓練ではない。
生成AIは、生死や重大な決定を下すには、まったくほど遠いほど信頼性が足りない。
しかし、Anthropic社が戦争省をうまく押しとどめない限り、生成AIは、その「不安定さ」にもかかわらず、まさにそのような方法で使用されることになるだろう。
報道によれば、ヘグセスは金曜日の午後5時までに、Anthropic社のシステムへの完全かつ無制限のアクセスを要求している。
我々は惨事への衝突コースを進んでいる。10代の頃によく付けていたバッジの言葉を言い換えれば、たった一つの幻覚（ハルシネーション）があなたの惑星全体を台無しにし得る。
もし我々がLLMを世界の構造に組み込むつもりなら——そしてどうやらそのつもりらしい——我々は、その信頼性の低さを認識し、考慮に入れた方法でそうしなければならない。適切な考慮なく至る所に広めることは、災害につながりかねない。
これは訓練ではない。
原文を表示
Code Red for Humanity?
Anthropic’s showdown with The US Department of War may literally be life or death for all of us.
Gary MarcusFeb 25, 20261316433ShareOn January 27, 2026, the Bulletin of the Atomic Scientists moved its doomsday clock to 85 seconds to midnight:
Without going into their arguments in detail, I think it is fairer to say that we are significantly close to the brink four weeks later. I don’t write this happily.
But the juxtaposition of a two things over the last few days has scared the shit out of me.
Item 1: The Trump administration seems hellbent on using AI absolutely everywhere, and seems to be prepared to hold Anthropic (and presumably ultimately other companies) at gunpoint to allow them to use that AI however they damn please, including for mass surveillance and to guide autonomous weapons. Quoting from The New York Times yesterday:
Item 2: These systems cannot be trusted. I have been trying to tell the world that since 2018, in every way I know how, but people who don’t really understand the technology keep blundering forward, ignoring the trust issues that are inherent. Already GenAI appears to have been used in the Maduro raids and to write tariff regulations. And thousands of other places.
It should be obvious that applying hallucinatory and unreliable Generative AI to weapon systems without humans in the loop could be catastrophic.
But in case it wasn’t, now (breaking news, hat tip Caroline Orr Bueno, PhD) we have data.
Chris Stokel-Williams just broke this story:
You don’t really have to read the paywalled article (or the archived version, ahem) to get the idea. If you aren’t terrified, you just aren’t paying attention.
His scoop was based on a new article by Keith Payne that ran a series of models in simulated nuclear crises.
The upshot is, quoting from the abstract, emphasis added “the nuclear taboo is no impediment to nuclear escalation by our models”.
As Stokel-Walker reports multiple models went for the nuclear option in 95% case. Given White House pressure to immediately use models that we cannot trust throughout the military, this is no longer a drill.
Generative AI is NOT remotely reliable enough to make life or death decisions of magnitude.
But unless Anthropic successfully stares down the Department of War, generative AI, as “jagged” as it is, will likely soon be used in *exactly* that way.
According to reports, Hegseth is demanding full, unrestricted access to Anthropic’s systems by Friday afternoon by 5pm.
We are on a collision course with catastrophe. Paraphrasing a button that I used to wear as a teenager, one hallucination could ruin your whole planet.
If we’re going to embed LLMs into the fabric of the world - and apparently we are - we MUST do so in a way that acknowledges and factors in their unreliability. Spreading it everywhere without proper consideration could well lead to disaster.
This is not a drill.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み