人類にとっての赤信号？

人類にとっての非常事態？ Anthropic社と米国戦争省の対決は、文字通り我々全員の生死に関わる可能性がある。 ![](https://substackcdn.com/image/fetch/$s_!Ka51!,w_36,h_36,c_fill,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fbucketeer-e05bbc84-baa3-437e-9518-adb32be77984.s3.amazonaws.com%2Fpublic%2Fimages%2F8fb2e48c-be2a-4db7-b68c-90300f00fd1e_1668x1456.jpeg) ゲイリー・マーカス2026年2月25日1316433シェア2026年1月27日、原子科学者会報は終末時計を真夜中まで85秒前に進めた： ![](https://substackcdn.com/image/fetch/$s_!t1cM!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd34ce068-164e-4a1a-9f39-43dec0d3ea80_2130x943.png) 彼らの主張を詳細に掘り下げずとも、4週間後の今、我々が著しく崖っぷちに近づいていると言うのがより公正だろう。私はこれを嬉々として書いているわけではない。 しかし、ここ数日間の2つの出来事が並んで起きたことで、私は心底恐怖を覚えている。 項目1：トランプ政権はAIをあらゆる場所で絶対的に使用することに固執しているようであり、Anthropic社（そしておそらく最終的には他の企業も）を銃口で脅し、大量監視や自律兵器の誘導を含め、彼らが望むままにそのAIを使用することを許可させようとする構えのようだ。昨日のニューヨーク・タイムズ紙から引用する： ![](https://substackcdn.com/image/fetch/$s_!_oFa!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F39118279-3b12-405a-9fc8-3ac9fb060c3c_1375x374.png) 項目2：これらのシステムは信用できない。私は2018年以来、知る限りのあらゆる方法で世界にそれを伝えようとしてきたが、技術を本当に理解していない人々は、内在する信頼性の問題を無視して、やみくもに前進し続けている。すでに生成AIはマドゥロ襲撃や関税規制の作成に使用されたようだ。そして他にも数千もの場所で。 人間の判断を介さずに、幻覚的で信頼性の低い生成AIを兵器システムに適用することは壊滅的になり得るのは明らかであるべきだ。 しかし、万一それが明らかでなかったとしても、今（速報、Caroline Orr Bueno, PhDに謝意）、我々にはデータがある。 クリス・ストーケル＝ウィリアムズがこのスクープを報じた： ![](https://substackcdn.com/image/fetch/$s_!dBjX!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F4b6a277c-3899-4024-9b5e-f812c103c108_1445x1558.png) 有料記事（またはアーカイブ版、へへん）を読まなくても要点はわかる。もしあなたが恐怖を感じていないなら、ただ注意を払っていないだけだ。 彼のスクープは、キース・ペインの新しい記事に基づいており、それは一連のモデルをシミュレートされた核危機において実行したものだ。 ![](https://substackcdn.com/image/fetch/$s_!DDSh!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F82b1d916-f906-431f-9702-c2d586f46ea0_1829x604.png) 要約すると、抄録から引用し、強調を加えると「核タブーは我々のモデルによる核エスカレーションの妨げにはならない」となる。 ストーケル＝ウォーカーが報じるところによれば、複数のモデルが95％のケースで核オプションを選択した。ホワイトハウスが、軍全体で信用できないモデルを直ちに使用するよう圧力をかけていることを考えると、これはもはや訓練ではない。 生成AIは、生死や重大な決定を下すには、まったくほど遠いほど信頼性が足りない。 しかし、Anthropic社が戦争省をうまく押しとどめない限り、生成AIは、その「不安定さ」にもかかわらず、まさにそのような方法で使用されることになるだろう。 報道によれば、ヘグセスは金曜日の午後5時までに、Anthropic社のシステムへの完全かつ無制限のアクセスを要求している。 我々は惨事への衝突コースを進んでいる。10代の頃によく付けていたバッジの言葉を言い換えれば、たった一つの幻覚（ハルシネーション）があなたの惑星全体を台無しにし得る。 もし我々がLLMを世界の構造に組み込むつもりなら——そしてどうやらそのつもりらしい——我々は、その信頼性の低さを認識し、考慮に入れた方法でそうしなければならない。適切な考慮なく至る所に広めることは、災害につながりかねない。 これは訓練ではない。

人類にとっての赤信号？

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト