Who decides when AI is too dangerous?｜AI が危険と判断される基準を誰が決定するのか？ | AIニュース最前線

今日の『Decoder』のエピソードでは、ゲストに『The Verge』のシニア AI レポーターであるヘイデン・フィールドさんをお迎えします。ヘイデンさんがこの番組に登場するのは、往々にして AI の世界で何かがうまくいっていない時です。先週末はそのような出来事として、Anthropic とトランプ政権、そして Anthropic の新しい AI モデル「Fable 5」が混在した非常に深刻な状況がありました。 金曜日には、Anthropic が Fable を一般公開してからわずか 1 週間未満の時点で、米国政府は新モデルに対して輸出規制を課すと発表しました。これは Fable の基盤となっている背後にある Mythos モデルにも適用されるものでした。これらの規制により、外国籍の個人、アメリカ国内で Anthropic に勤務している者さえもが、これらのモデルにアクセスできなくなりました。Anthropic はその後、同社がアクセス制限を適切に行い、命令に合理的に従うことができない恐れがあるとして、Fable と Mythos をすべてのユーザーに対してオフライン化しました。 ご想像の通り、これはすべて大混乱です。ヘイデンさんは実際、先週金曜日に何が起きたのか、そして両者が何が起こったのか、どう解決できるかを理解しようと週末を通じて駆け回った様子について、『The Verge』で素晴らしい逐次解説記事を公開しました。そこで私は彼女に番組に来ていただき、タイムラインをたどりながら、この一連の出来事が何を意味するのかを詳しく説明してもらいました。 *Verge*の購読者の方、広告なしの*Decoder*にいつでもアクセスできる特典をお忘れなく。ポッドキャストはご自身の好きなプラットフォームでご利用いただけます。詳しくは[こちら](https://www.theverge.com/account/podcasts)から。まだ購読されていない方は、[こちら](https://www.theverge.com/subscribe)から登録可能です。 この状況は現在も進行中です。本エピソードを録音した火曜日の時点でも、Fable はまだオフライン状態です。実際、Claude を起動すると、チャットボックスウィンドウの直上に「Fable 5 は現在利用できません」と表示されます。しかし、後ほどヘイデンが説明するように、今週中に Fable が再びオンラインになるかどうかにかかわらず、政府と Anthropic の対立による波紋は、テクノロジー業界および米国の AI 規制体制に対して広範な影響を及ぼしています。 ここには大きな皮肉があります。これもヘイデンと私が詳しく触れる予定ですが、Anthropic は長年にわたり、「AI はいずれ危険になるほど強力になり得る」と主張し、政府は「 sooner rather than later（遅くするより早く）」AI 規制に真剣に取り組む必要があるとしてきました。さて…今まさにその状況が訪れましたが、Anthropic はこの展開を好んでいません。 そして今、誰もが注目しています。特に中国政府です。米国の AI 規制アプローチが、真摯な安全性の枠組みとなるのか、それともトランプ政権に逆らわない企業や人々に対するホワイトハウスの別の武器に過ぎないのか。私が言ったように、これはまさに大混乱です。 OK：*Verge* のシニア AI レポーター、ヘイデン・フィールドに、Claude Fable 禁止令と新たな AI 規制の状況について伺います。では始めましょう。 *本 transcript は長さや明瞭さのために軽微な編集を加えています。* **ヘイデン・フィールドさん、あなたはここ*****The Verge*****でシニア AI レポーターを務めていますね。*****Decoder*****へようこそ。** ありがとうございます。ここに来られてとても嬉しいです。 **あなたがここにいらっしゃる時はいつも混沌としていますよ、ヘイデン。それが私が気づいたことです。** 本当にそうです。私のルールは未だ有効で、それは「いつも金曜日である」というものです。何かとんでもないことが起きるのは金曜日で、今回も例外ではありませんでした。 **特に政府が AI を規制する際には、「もしすべてが金曜日に大混乱に陥ったら、週末をどう過ごすか考えさせられるだろう」というような現実があります。そして私は、これはトランプ政権を通じて基本的に真実だったと考えています。月曜日にそれをすべて元に戻すための駆け込みは即座に行われます。** ええ、まさにその通りです。信じられないほどです。そして、これらの議論が週末中から月曜日にかけても至る所で行われていたにもかかわらず、まだ解決に至っていないという事実があります。まだ解決していないことに驚きですが、はい、多くのドラマがありました。 **さて、このポッドキャストは木曜日に公開されます。私たちは火曜日に録音しています。今後 2 日間で何が起きるか見てみましょう。しかし、ここで重要なのは、米国政府が AI をどのように規制すべきか、そしてそれが世界舞台における米国の AI 企業に何を意味するかという大きな絵です。これは Fable に関する出来事によって解決されるものではないと思います。** **では、物語全体を理解しようとし、そこからテーマを抽出しましょう。なぜなら、これらのテーマは、現在リリースされる新しいモデルごとに、何度も何度も繰り返し現れてくると思うからです。それでは、最初から始めましょう。Claude Mythos とは何ですか？Fable とは何ですか？これらはお互いにどう関係しているのでしょうか？** 素晴らしい質問です。先週 Anthropic がこれを発表した際にも、私も同様に Anthropic に尋ねました。なぜなら AI 企業は名付けが本当に下手で、いつも非常に混乱を招くからです。しかし状況としては、Mythos は Mythos 5 と Fable 5 の両方を支える基盤となるモデルです。Fable は新しいモデルです。彼らは Fable 1, 2, 3, または 4 を持ったことがなく、いきなり Fable 5 から始めました。非常に混乱を招きますが、Fable は Mythos 5 の簡易版、あるいは安全装置付きのバージョンです。Anthropic が 4 月に Mythos Preview を発表した際、彼らはこれを非常に過大評価していました。「これは潜在的なサイバー兵器である」と言い、「少なくともセーフガードが追いつくまで一般公開されることはない」「悪意のある行為者が侵入して脆弱性を悪用する前に、すべてのフレームワークを修正する必要がある場所、つまり「サイバー・ディフェンダー」と彼らが呼ぶ企業や政府にのみリリースする」と述べていました。 さて、先週まで話を進めましょう。Anthropic は、Mythos 5 をリリースしました。これは公式の Mythos の最初のバージョンです（それまでは「Mythos Preview」と呼ばれており、今回は直接 5 からスタートしています）。さらに同日、Fable 5 も発表されました。これは Mythos クラスモデルにおける初の公開版です。基盤となるフレームワークは同じですが、現在は多数の安全対策が追加されており、Anthropic 自身が認めるほど危険なこのモデルが一般にアクセスできないようにし、すべてを台無しにするのを防ぐことを目指しています。 これが彼らがリリースしたものです。そして、その危険性について長く熱狂的な宣伝を行い、議論を繰り広げていましたが、後にそれが彼ら自身に跳ね返ってくる結果となりました。 **Fable はセキュリティガードレールを備えた Mythos です。発表当初は大きな論争が巻き起こりましたよね？AI やセキュリティの研究者たちは、これらのガードレールが実際には研究活動や Fable の能力を確認することを妨げていることに気づきました。なぜなら、境界を試そうとすると、Anthropic の以前のモデルに格下げされてしまうからです。** はい。まるでミームのような状態になりました。発表時のガードレールの厳しさを人々が揶揄するようになったのです。 **そこで私を混乱させているのは、ガードレールがあまりにも厳しく論争になっている一方で、その後何らかの出来事が起こり、政府が Fable を極めて危険だと判断して引き上げざるを得なくなったという点です。いったい何が起きたのでしょうか？** 私はこの件について、いくつかの独立したレッドチームメンバーに話を聞きました。アマゾンのホワイトペーパーが流通する前、そしてこの脱獄の告発が公になる前、私はフェイブル 5 の安全性についていくつかのレッドチームメンバーに尋ねました。彼らはすべて、ガードレールがいかによく機能していたかに感銘を受けていました。私はもう少し簡単に脱獄できるだろうと予想していました。しかし彼らは、多くの試みを行ったが何も効果がないと言っていました。これは私が通常独立したレッドチームメンバーと話して得る経験とは異なります。彼らは通常、「ああ、ここでは突破できた。あそこでも突破できた」と言うものです。このケースでは、ガードレールは非常に良く機能していたと報告されていました。 さて、昨日話した交渉に直接関与し、事情に詳しい情報源によると、先週のタイムラインはおおよそ以下の通りです。先週の中頃、アンソロピック社はアマゾン研究者が行ったある研究について知らされました。彼らは潜在的な脱獄を発見しており、これにはかなり懸念を抱いていました。 彼らはそれをアンソロピック社に送りました。アンソロピック社は、アマゾンの研究者たちとそれについて議論を交わしており、それが本当に脱獄（jailbreak）なのか、あるいは本質的にそれほど大きな問題ではないのかについて話し合っていました。どうやら、[報告によるとアマゾンCEOのアンディ・ジャシーはこれに懸念を抱き](https://www.wsj.com/tech/ai/amazon-ceos-talks-with-u-s-officials-triggered-crackdown-on-anthropic-models-dcc90578)、金曜日にスコット・ベッセント財務長官、あるいはトランプ政権の他のメンバーに電話をかけ、自らの懸念を伝えたようです。 トランプ政権はパニックになりました。彼らは直ちにアンソロピック社へ連絡しました。実際にはメッセージを送り、「90分以内にこれを停止する必要がある」と伝えました。 **90分？** はい、90分間の最終通告です。そして彼らは言いました。「この明るみに出た脱獄（jailbreak）をどう修正するかを特定する必要がある」。アンソロピック社は最初の電話から15分以内にトランプ政権と通話し、より詳細な情報を求めてきました。彼らは「では、これについて話し合いましょう。我々がすでに認識している研究のことですか？それとも別の何かですか？あなたが言っている脱獄（jailbreak）とは具体的に何ですか？」と尋ねています。彼らはより多くの詳細を得ようと試み、政権側との対話を進めようとしていました。 私は、行政側もアンソロピックのCEOであるダリオ・アモダイが最初の電話から1時間15分後にしか折り返し電話をしなかったことに腹を立てていたのだと思います。アンソロピックは15分で折り返し電話をしましたが、ダリオには1時間15分かかりました。つまり、ここでは多くのことが進行していたのです。しかし、彼らが話し合っている間に90分の期限が過ぎ、トランプ行政側は「よし、これで終わりだ。輸出管理措置を科す」と言いました。 これが、アンソロピックに対して「いずれのモデルも外国人は使用できない」と伝えられた時です。アンソロピックはそれが事実であることを確認する責任を負います。アメリカ国籍を持たない外国人であれば、アンソロピックで働いているかどうかに関わらず対象となります。例えば、アメリカ銀行がミソス5にアクセスし、システム内の脆弱性を埋めるためにそれを使用している場合でも、あなたがアメリカ市民でないなら使用できません。同様に、フェイブル5を単なる個人として使用する一般の人々も同様です。また、アメリカ国籍を持たないアンソロピックの研究者についても同じことが言えます。 そこで、アンソロピックは状況下で唯一できることを行い、「よし、両方のモデルを一時的に停止するしかない。非米国人がこれらのモデルを使用していないことを確認する方法を1分で見つけることはできない」と発表しました。それが実際に起きたことです。 つまり、あの数時間は本当に狂気の沙汰でした。その夜遅く、Anthropic は声明を発表し、トランプ政権とこの件について協力しようとしていると述べました。彼らは週末中、政府高官とのバーチャル会議に臨み、その後、3 人の従業員をワシントン D.C. に派遣して直接話し合うよう手配しました（その詳細は、先ほど公開した記事 [in the piece we just published](https://www.theverge.com/ai-artificial-intelligence/950412/anthropic-trump-adminstration-claude-mythos-fable-5-export-controls) に記載しています）。 特筆すべきは、ダリオが現地に赴いていないことです。彼はすべての会議にバーチャルで参加しています。私が確認できるのは、彼がウェルネス・リトリート（wellness retreat）にはいないという事実だけで、これは一部の報道 [what some reports say](https://www.politico.com/news/2026/06/13/inside-the-whirlwind-24-hours-that-led-the-white-house-to-slap-export-controls-on-anthropic-00961519) が伝えている内容とは異なりますが、彼がどこにいるのかについては教えてくれません。ただ、ウェルネス・リトリートにはいないことだけは確かです。それ以上のことは知りません。 **Anthropic の立場は「絶対にウェルネス・リトリートなど行っていません」というものです。わかりました。** [笑] ということで、とにかく大変なことが起きています。非常にドラマチックです。過去数日間にわたって取材したすべての情報提供者は、テック業界全体、特にサイバーセキュリティコミュニティが今まさに議論している最中だと口を揃えていました。ある情報提供者は「北京は今、私たちを笑っている」と話していました。 これは興味深い出来事でした。この分野のサイバーセキュリティリーダーたちが集まり、公開書簡を執筆したのです。彼らは「私たち全員が規制を支持しているわけではありませんが、もし規制を行うのであれば、これはその方法ではありません」と述べています。私はこれが全体の状況を象徴していると考えるのです。 **おそらくあなたは政府による積極的な規制を支持するかもしれませんし、しないかもしれません。しかし、規制の取り組みを厳格かつ思慮深く、慎重に、そして予測可能に行う方法は存在します。この状況には、そのいずれも当てはまらないように見えます。** **実は、最初から話を始めたいのです。アンディ・ジャッシー氏とスコット・ベッセント氏は賢明な方々かもしれません。彼らは明らかに社会の中で非常に高位の地位にあります。しかし、AI の専門家ではありません。なぜ、アマゾンの CEO であるアンディ・ジャッシー氏が AI セキュリティ研究への懸念を、AI ポリシーを実質的に監督していないスコット・ベッセント氏に伝達し、それが CEO が不在のままの企業に対して 90 分間の最終通告をもたらすことになったのでしょうか。あなたの政治思想が重要であるべきではありません。** **これは歴史上最悪のセキュリティ侵害であり、アマゾンの CEO が財務長官に電話をかけるか、それとも単に自分が重要だと感じたいと思っている連中のかたまりかのどちらかです。私はそれがどちらなのか、まだはっきりと理解できていません。** それはいくつかの要素が組み合わさった結果です。一つ目は、ご指摘の通り、これらの人々の多くは AI の専門家ではないという事実です。このような jailbreak（システム制限の突破）は明らかに深刻で考慮に値しますが、私は、これらのシステムの仕組みについて直接的な知識がない場合、非常に白黒はっきりしたアプローチを取ってしまうものだと思っています。彼らは専門家ではありませんでした。 Andy Jassy は、この件を自社の研究者たちから聞かされました。ちなみに、その研究者たちは数日間にわたり Anthropic とこの件でやり取りしていました。彼らが大統領に連絡したわけではありません。「さて、これを議論して、ここで何ができるか考えよう」という感じでした。噂によると、研究者たちはこれが世界の終わりだとは思っていなかったようです。「ああ、これを見つけたね、議論しようよ」といった具合でした。Anthropic は対応を進めていましたが、Andy Jassy がそれを知り、彼が電話をかけると、すべてが大混乱に陥りました。これは当然のことです。なぜなら、AI の専門家ではない場合（そして AI の専門家であっても、サイバーセキュリティやこれらのシステムが具体的にどのように動作するかについては専門家でなかった場合もあるでしょう）は、パニックになってしまうからです。 それは理解できますが、本当に奇妙なのはその後起きたことです。この電話をかければ行政当局は認識するようになります、はい。しかし私が本当に不思議に思うのは、90 分という最終通告であり、Anthropic が「さあ、それについて話し合いましょう。私たちがすでに把握している脆弱性のことですか、それとも別の何かのことですか？それについて教えていただければ、それについて話し合えるでしょう」と言った際に追加の詳細を提供しなかった点です。彼らは「いいえ、90 分です。やれ、あるいは死ね」と答えました。 そして、外国人が決してシステムにアクセスできないようにすること。それが本当に奇妙なことです。これらのカードがすべて揃った様子が、テック業界の誰もが非常に奇妙だと考えていることであり、あなたが言及された通り、トランプ政権がテック業界とどのように運営してきたかを示すものです。多くの場合、トランプ大統領は一度会話をすると、その直後の会話によって方向転換しているように見えます。そのため、規制反対であり、アメリカ製 AI 推進であり、アメリカの AI を前進させ輸出することを望んできました。これは商務省が求めていることです。 トランプ政権は現在、情報提供の要請を出しています。彼らはアメリカの AI の輸出と中国への対抗・勝利を重視していますが、その一方で、事前通知もなくすべての人を無力化するような措置を取り、Anthropic だけでなく、OpenAI、Google、そして同様に「半同等のミソス製品」を持つ業界内のすべての競合他社にも影響を与える可能性があります。 これは非常に組織化されておらず、多くの CEO が科学や実際の状況に即した証拠に基づかずに、トランプ政権へ頭を下げるために必死になっている様子がよく見られます。そのレベルの動揺は、通常、そこに存在する証拠と一致していません。 **アマゾンはアンソロピックの出資者であり、主要なパートナーです。なぜアンディ・ジャシーはこのような形で自社の投資を無力化したのでしょうか？** 一般的に、アマゾンは通常の業務としてレッドチーム（攻撃シミュレーション）を多く行っています。これはプロセスの一部だからです。したがって、これがテストされ、その後発掘されたことは理にかなっています。しかし興味深いのは、なぜアンディ・ジャシーがトランプ政権にこれについて連絡したのかという点です。その理由は私にはわかりません。 おそらく、それはすでに進行中だった典型的な通話で、彼がたまたま何気なく何かを言っただけだったのかもしれません。あるいは、彼らは「 executive order（大統領令）のおかげで X, Y, Z になったのは良かった」といった内容の電話をかけていたのかもしれません。私たちは知りません。しかし興味深いこと、そしてあなたがこの質問をしてくれて嬉しく思うことは、私が話を聞いた多くの情報提供者が、 alleged jailbreak（推定される脱獄）の内容や、[Amazon のホワイトペーパー](https://www.theverge.com/ai-artificial-intelligence/949601/amazon-anthropic-fablemythos-government-ban)で流通しているすべての内容が、OpenAI の GPT-5.5 や他のいくつかのモデルでも実現可能だと述べていたことです。 これがその告発です。これらのスキルは Fable 5 に固有のものではなく、問題となっている脱獄の一部としてのスキルも同様です。Mythos は明らかに safeguards（安全装置）を持たないため Fable よりも強力ですが、Fable と Amazon が浮き彫りにした問題に関しては、それらの問題は Fable に固有のものではなく、GPT-5.5 でも同様に実現可能であるように見えます。業界の多くの人々が「なぜ Anthropic なのか？」と問うています。 **この話の真実の要素の一つは、常に Anthropic が焦点になることです。Anthropic はトランプ政権との関係で最も論争を呼んでいます。彼らは国防省によって [サプライチェーンリスク](https://www.theverge.com/ai-artificial-intelligence/890347/pentagon-anthropic-supply-chain-risk) に指定されましたが、今回の姿勢は通常の Anthropic のドラマとは異なります。** **歴史的に、Anthropic は「X、Y、Z の目的には当社のツールを使わないでください」と述べてきました。一方、トランプ政権は「AI ツールについては我々が何でもできる」と主張しています。これが、国防総省が Anthropic をサプライチェーンリスクとして指定した理由です。彼らは「軍事文脈での使用法についていくつかのレッドラインがある」と言いました。ピーター・ヘグセットは「いいえ、私はやりたい放題します。あなたはすべての合法的な目的を許可せねばなりません」— これがその主張 — 「そしてあなたがそれを拒否するなら、あなたはサプライチェーンリスクだ」と述べました。** **今、この訴訟が争われています [https://www.theverge.com/ai-artificial-intelligence/891377/anthropic-dod-lawsuit](https://www.theverge.com/ai-artificial-intelligence/891377/anthropic-dod-lawsuit)。** **ここでは逆の状況です。トランプ政権は、そのモデルがあまりにも強力であり、多くの用途に使用される可能性を危惧しています。一方、Anthropic はこの考え方が過大評価されており、政権が修正可能な問題を過度に誇張していると考えています。彼らが必要としているのは、時間をかけ、その修正の有効性について厳密な議論と対話を行うことです。** **これをどう統合すればよいのでしょうか？まず、トランプ政権は AI 規制の取り組みに反対しています。他方、彼らは「モデルについては我々が何でもでき、可能な限り強力にするべきだ」と言います。そしてここでは、そのモデルがあまりにも強力であるため、外国国民がそれを見る前に撤回されなければならないと主張されています。** これは、行政当局がこれらの企業に自らが何をすべきかを伝えることを信頼しているという事実を端的に示しています。これまで発生した規制や自主的な取り組みに関しても同様の傾向が見られ、トランプ政権が AI 企業と協議した後には多くの草案が修正されています。すでにアンソロピック社に対しては好意的ではありません。サプライチェーンリスクの状況、訴訟、レッドラインの設定などから、両者の間に大きな信頼崩壊が生じています。 もしこれが競合他社のケースであれば、この特定の事態が同じように展開したとは想像できません。OpenAI にはミソス（Mythos）と半ば同等の独自モデルが存在します。再び言いますが、どの企業も自社のモデルがミソスと同じくらい優れているとは明言していませんが、非常に優秀だと主張しています。パニックは依然として発生していたでしょうが、残りの展開がこのように行われたとは想像できません。トランプ政権は彼らにより多くの時間を提供しただろうし、より対話的な議論が行われ、業界全体や世界に衝撃を与えた外国人規制のようなものを作らなかったと考えられます。 私が話したある情報提供者は、すでに非米国の企業とのバックアップ契約が現在結ばれていることを知っていたと語りました。オープンウェイトモデルは代替のハードウェア構成で展開されており、これは今や世界中の企業が「ああ wow、政治リスクをビジネスプランに組み込む必要があるな。アメリカの AI がどうなるか本当にわからない。ここでいくつかのバックアップ計画を立てよう」と言っているからです。業界にとっては良いことではありません。トランプ政権が中国に追い越されることを恐れている一方で、業界のチャンピオンの一人を意図的に足かせにする用意があるのは興味深いことです。 しかし、私はまた、日々発表されているトランプ政権の理由付けが異なるように見えることも興味深く思います。毎日、新しい言い訳や新たな議論の一部が明らかになっているようです。まず彼らは、「中国がアクセスしたらどうなるか？」[「ああ、中国がアクセスしたらどうなるか？」](https://www.theverge.com/ai-artificial-intelligence/949644/china-white-house-anthropic-mythos) と言います。私が話した情報提供者は、これは Fable 5 や Mythos 5 が発表されるずっと前の数週間前に出回った噂であり、政権が以前に Mythos Preview へのアクセスを承認していた中国の通信会社を指しているのだと語りました。そして政権が「実は、考えを変えた。彼らを除外しよう」と言ったとき、Anthropic は即座にそのアクセスを取り消し、排除しました。これは古い噂です。 また、大統領令の解説においても、Anthropic がトランプ政権の大統領令に準拠していないという噂が明るみに出ていることが確認されています。しかし、その大統領令はまだ発効していません。署名されたのは 6 月 2 日、つまり 2 週間前のことです。どのモデルがこの命令の対象となるかを決定するには 60 日の猶予が必要です。また、30 日前の事前レビューを行う任意のパートナーシップも存在しますが、これはあくまで任意です。 面白いことに、私は Anthropic が完全に正しいと言っているわけではありません。しかし、この状況には誤魔化しや慌ただしい動き、そして奇妙な出来事があまりにも多く、AI 企業に対して同情する私が現れるのは極めて稀なことなのです。本当にそうなんです。「ああ、彼らは素晴らしいことをしている」と言っているわけではなく、すべての AI 企業にはそれぞれの課題があります。しかし、この特定のケースでは、「Anthropic がトランプ政権との間でこれほど多くのドラマを経験した後に、OpenAI や他の競合他社でも同じことが起こったかどうかは本当にわからない」と考えています。 トランプ政権が些細なことで腹を立てることはよく知られており、同様の状況にあるどの企業に対しても過剰反応するだろうと思います。しかし、競合他社で全く同じ展開になるとは思えません。 **単にダリオ・アモダイ氏がホワイトハウスに行かないから、トランプ氏に贈り物をしないからなのでしょうか？サーム・アルトマン氏はドナルド・トランプと記者会見を行っていますし、サンダル・ピチャイ氏は就任式に参加しています。** ザッカーバーグは UFC の試合に出席していました。 【笑】注目すべき AI 勝者のマーク・ザッカーバーグが、UFC の試合で成功への道を買うために参加していました。ここには単なる性格の対立があるだけなのでしょうか？ それが一部の報道によってそう捉えられているようです。確かにその一部は事実です。いくつかの報道では、ダリオは行政側と話す方法を知っておらず、また過度にへりくだらないと言っています。彼はゲームのやり方を知らないのです。これもその一部です。 もう一つの理由は、トランプ政権が AI をどのように規制すべきか確信を持てていないこと、そしてドナルド・トランプ大統領が異なる方向から引き裂かれていることです。時には、より厳しく規制する必要があると感じることもあります。一方で、規制を緩和すべきだと考えることもあります。AI の CEO と話しているときは、「ああ、そうだな。彼らを信頼できる。大丈夫だ。進めさせよう。中国に勝たねばならない」といった態度を示すようです。 他のケースでは、現在一般市民がかなり反 AI 的な時代を経験していることを認識しています。AI ポピュリズムの高まりがあり、彼は「ああ、実は一般の人々は AI を好んでいないようだ。規制すべきかもしれない」と述べています。 これは過去何年にもわたる政権で見られた現象ですが、現在は AI 規制においても同様の状況が見られます。しかし現在、そこには明確な理屈や理由がありません。Anthropic の政府とのコミュニケーションが役立っていないとも思えません。彼らの電話に即座に応じない、ホワイトハウスでの夕食会に参加しない場合、多くの場合人間関係に基づいているように見える政権下では、その関係性が少し損なわれる可能性があります。 **私はこれを、ほとんど人格を欠いていた前政権と比較します。人物や個性の欠如が特徴的なバイデン政権は、非常にテクノクラート的であり、人々がしばしば「血の通っていない」と考えていたほど、ルールベースで運営されていました。** **しかしバイデン政権は、フロンティアモデルに対する透明性レビューや研究要件などを盛り込んだ大統領令を提出しました。トランプが政権に就任すると、[彼はそれらすべてを撤廃しました](https://www.theverge.com/2025/1/21/24348504/donald-trump-ai-safety-executive-order-rescind)。そして「これらの企業を規制するつもりはない」と述べました。そして今、私たちは再びあの状態へと向かっているように見えます。** **もし超強力なモデルを公開するつもりなら、政府はそれを管理したいと考えています。確かに輸出規制という最も単純な手段を使うでしょうが、これらのモデルがどのように展開・使用され、誰が利用権を得るのかについて、より細かく、より厳格なアプローチに戻るはずです。**バイデン政権の枠組みを撤廃したのは間違いだったのでしょうか？私たちはあの枠組みに戻りつつあるのでしょうか？今後はどこへ向かうとお考えですか？** 私は、私たちがあの枠組みに戻る可能性があると見ています。当時業界で多くの人物にインタビューを行い、多様な意見に触れたからです。その多くは、バイデン時代の大統領令が十分ではなかったと考えていました。一部の人はそれを良い第一歩だと考えており、だからこそ私があの方向へ戻る可能性があると感じたのです。なぜなら、それは非常に攻撃的であると見なされていなかったからでもあります。 むしろ、それは正しい方向への良い第一歩と見なされただけで、実際にははしごの一段に過ぎませんでした。そのため、現在の政権があの枠組みに戻る可能性があると私は考えます。それほど遠く離れていないからです。ただし、AI企業はそのような小さな一歩さえも反対するためにロビー活動を行うでしょう。 **彼らは実際にそうしました。非常に怒っていました。** 彼らは確かにそうしました。深く怒りました。しかし、先ほど見た大統領令から、あの枠組みに戻る可能性はあるが、もう少し自主的な形になるだろうと私は見ています。これもまた、こうした措置は通常弱められる傾向があるからです。まるで最初にはっきりと主張し、その後いくつかのAI企業のCEOたちと話をして、「ああ、なるほど、少し引き戻そうか」と言うようなものです。だから、正直なところ誰にもわかりません。 私が AI ジャーナリストになった理由は、この分野に実効性のある規制がないと感じたからです。これは ChatGPT が登場する前の話です。ジャーナリズムは業界で何が起きているかを明るみにする手段です。それでも 6 年が経った今でも、多くの規制が見られるわけではありません。仮に何らかの規制が導入されたとしても、撤回されてしまいました。もしかすると再びその方向へ進むかもしれません。確かにそのような方向に進む可能性はあると感じていますが、最初の段階ほどではないかもしれません。 **まるで業界側が、より慎重な規制アプローチを推進する必要があるかのような雰囲気ではありませんか？彼らは「これは混沌としている。これが私たちの運営方法であってはならない。新しいモデルごとに週末にパニックの電話に対応させられるわけにはいかない」と言うべきです。** **もしここでより厳格な審査プロセスを構築したい場合、どのようなシステムになるでしょうか？単に各社が自社のモデルを政府に提出し、政府が何が危険で何が安全かを判断するのでしょうか。それとも業界主導の仕組みなのでしょうか。現在提案されている解決策とは何ですか？** それは良い質問です。現在の政権下では、最近になって本格的な解決策があまり提案されていません。彼らは規制に対して非常に緩やかなアプローチをとってきたため、誰もそのような案を前面に出してこなかったのです。しかし今、状況が変わりつつある可能性があります。これからはより堅牢な枠組みが提案されるようになるでしょう。 ただ、それが自主的なものではないことを願っています。AI 企業はすでに多くの自主的な開示を行っています。規制を行うのであれば、実際に規制すべきです。どの程度緩やかな規制（light touch regulation）にするか、あるいは厳格な規制（heavy touch regulation）にするかについては様々な意見がありますが、自主的な枠組みは非常に手薄なものになっていると思います。お分かりいただけるでしょうか？私たちはすでにそのような状況にあります。 では、次はどうなるのでしょうか？最終的に AI が実際に影響を及ぼしているのは一般大衆であることを忘れないでください。反 AI ポピュリズムの高まりや人々が怒っているという事実があります（[参照](https://www.theverge.com/ai-artificial-intelligence/920401/gen-z-ai)）。あちこちでデータセンターへの抗議活動が行われています。極端なケースでは、AI の CEO の自宅を襲撃しようとする人さえいます。ここには多くの不安があり、人々は自分たちが置き換えられていると感じています。彼らは自分の仕事が奪われると感じています。最近シアトルの市議会聴聞会を聞いていたところ、多くの AI エンジニアが証言しており、彼ら自身が AI によって解雇されたエンジニアだと言っていました。 AI の指導者たちと政府は、一般大衆がこの技術に対して抱いている感情からしばしばかなり隔たっており、その点を注視することが重要です。これが今後、いかなる規制にも影響を与えるか、あるいは全く影響を与えないかは今後の展開次第です。私は今回の政権下での多くの規制に大きな期待を持っていません。彼らは非常に揺れやすいからです。ある晩餐会を一度開けば、状況が少し変わるかもしれません。公平を期すために言えば、多くの政治家もそのような傾向がありますが、どうなるか見てみましょう。もしかすると、この大統領令の 60 日が経過した後には、私を驚かせるような変化が見られるかもしれません。 **この話のもっと奇妙な側面の一つは、アンソロピック自身が規制を最も強く推進し、警鐘を鳴らし、すべての企業の中で最もドゥーム（破滅）的であるという点です。アンソロピックの共同創設者の一人であるジャック・クラークは、[最近研究結果と結論を発表しました](https://www.anthropic.com/institute/recursive-self-improvement)**「世界にとって、技術の進歩に合わせて社会構造やアライメント（整合性）研究が追いつくために、フロンティア AI の開発を遅らせたり一時的に停止したりする選択肢があることが望ましいと私たちは考えます」という結論に至りました。** **アンソロピックは、「ああ、私たちは全員を殺してしまうかもしれない。さあ、これを止めるべきだ」と言う最前線に立っています。しかし同時に、彼らはモデルの能力においても最前線にいます。あらゆる情報によれば、ミソス（Mythos）は現在存在する中で最も強力なモデルです。アンソロピックは自らをトラブルに巻き込んでいるのでしょうか？それともこれは彼らにとって逆効果となっているマーケティング戦略なのでしょうか？** それは組み合わせによるものです。マーケティング用語は確実に裏目に出ています。もし何かを非常に危険だと主張しておきながら、研究者が本来可能だとは意図されていなかったかもしれない何かが発掘されれば、人々はパニックになります。だからこそ、誰にでも最初のことが起こりうると私は見えます。しかし、カードの配られた通りには残りの部分が見えません。 しかし、それは部分的に存在しており、彼らに災いとして戻ってきました。過熱した hype については少し彼らの責任もありますが、同時に、この技術がもたらすリスクについてある程度は正直になろうとしているとも思います。銀行システムや政府のウェブサイトなど私たちが使用するグローバルインフラストラクチャにおける高レベルの脆弱性を検出できるシステムが悪意のある行為者に利用されてしまったり、手に渡ってしまったりすれば、それは非常に悪いことです。 結局のところはコミュニケーションの問題です。リスクについて話し、それを軽視しないことは重要ですが、そうしてもし間違いを犯したり予期せぬことが起きたりすれば、その結果に対処しなければなりません。そこには確かに多くの解くべき点があります。また、多くの企業が異なるシステムのリスクを軽視しているとも思います。Anthropic の CEO を含む複数の AI 企業のトップが、[AI による雇用崩壊の予言は撤回されている](https://fortune.com/2026/05/26/sam-altman-dario-amodei-walking-back-ai-jobs-apocalypse-prophecies-ipo/)と語り、「大丈夫になる」と述べているのを私たちは見てきました。 私はいつもこれらの話を非常に懐疑的な目で見ています。結局のところ、あなたが話している AI 企業がアンソロピックであれ他社であれ、利益を上げ、どんな手段を使ってでもお金を稼ぐというインセンティブはすべて同じです。特に、彼らがまもなく上場企業になることを考えるとその傾向は顕著です。人々はアンソロピックをあるように描き、他の競合他社を別のものとして描きたがりますが、実際にはすべてが同じ目標を追求しています。ただ、そのやり方が少し異なるだけです。 **この AI を最初から軍事技術のように扱い、一般市民には軍用技術を薄めたバージョンしか提供しないという形はあり得るのでしょうか？それはトランプ政権が想定しているリスクプロファイルのようです。これは本質的に攻撃的な技術です。敵に対して展開することもできますし、銀行を攻撃するためにも使用できます。ここではセキュリティ上の影響について誰もが懸念しています。** **そこから始めて、「一般消費者への展開には、この技術を大幅に制限しなければならない」と言うような世界はあり得るのでしょうか？F22戦闘機を一般市民に売ることはできませんが、フォード・ラプターのような車両なら売ることができます。そのようなバージョンがあるはずです。つまり、最先端の技術は本質的に軍事目的のために残し、一般市民向けには大幅に制限されたものになるという形です。** これは数十年にわたって見てきたことであり、今まさにミソスにおいても起こり始めています。フェーブルは薄められたバージョンであり、エンタープライズや政府にはより強力なバージョンへのアクセスがあります。これについては多くの異なる意見があります。OpenAI の現在の最大のマーケティングの押し売りの一つは、「ああ、Anthropic は最も強力な AI をエリートだけの手に置きたいと考えており、私たちはそれを一般市民に届けたいのです」というものです。 ですから、現在さまざまなマーケティングの押し売りが行われています。誰もが自社の競合他社を悪く見せるためにあらゆる手段を使っています。Anthropic も例外ではありません。この競争は非常に激しく加熱しており、最先端にいる AI 企業たちはどんなことでもしてでも勝利するためにあらゆる手を尽くしています。ある人々にとっては、自分が最も良く、最も道徳的な勝者だと信じているからであり、これは私たちがすべての SF やファンタジー映画で見てきたように常に大きな問題となり得ます。「より大きな善のため」という哲学は、通常物語の悪役によって使われるものです。 今まさに大きな競争が行われており、Jack Clark の意見に完全に同意します。少しペースを落とすことが良いかもしれません。もし全員が合意できれば——それは非常に困難なことであり、特に他の国々にも合意してもらうのはさらに難しいでしょう——しかし私たちは間違いなく、その技術的含意について考えるよりもはるかに速く技術を構築しており、これは長い間そうでした。 **これは*****Decoder*****の最初のエピソードで、Dario Amodei がサノスと直接比較されたものであり、それは素晴らしいことです。** [笑] 正直に言うと、その発言をしたときは『ハリー・ポッター』の悪役、グリンドワースのことを考えていました。 **ああ、なんてこと。まあいいです。では、ダリオさん、もしあなたが来てこれらの告発に対して反論されるのであれば、大歓迎します。** 私も言わなければなりません、これはダリオさんの話だけではありません。すべての AI 企業の CEO が同じことを言っています。彼ら全員がそうなのです。それは狂気じみています。 **どこで終わるのでしょうか？次のステップは何でしょうか？今週に会議が開催されています。木曜日には人々がこれについて聞くことになります。Anthropic が再び市場に戻る可能性もあれば、戻らない可能性もあります。しかし、この件之后、どうやら誰もがプロセスを望んでいるようです。あなたはこの事態がどこで終わるとお考えですか？** この政権がどのように行動するかを予測するのは非常に困難です。サプライチェーンのリスク状況で見られたように、多くの政府機関が Claude の熱烈な支持者だったにもかかわらず、最終的には撤回されるだろうと考えていました。しかし彼らは他の 7 つの企業と契約を結び、「わかりました、大丈夫です。たとえあなたがたが Claude のファンだとしても、とにかく、あなた方のための他の 7 つの選択肢があります」と宣言しました。 現時点では誰にも予測できません。私は、外国人に関するこの規定は撤回されるだろうと考えています。アメリカの AI が何としても勝たなければならないという政権が作り出した騒ぎの後でさえ、あらゆるコストをかけてでも速度を優先すると主張した [1 月 9 日のヘグセットメモ](https://apnews.com/article/pentagon-hegseth-weapons-purchases-6f9326c2bad4355541d1a02b54d899db) を考えると、その規定を継続するとは到底想像できません。私はこの政権が AI での勝利にあまりにも集中しており、そのルールを続けるはずがないと考えています。今後数日間でこれが人格を問うゲームになる可能性もあります。Anthropic が何らかの形で妥協し、より良いコミュニケーションを試みれば、数日後にはこれが撤回されるでしょう。 しかし、トランプ政権が Anthropic や OpenAI に [出資して株式を取得しようとしている](https://www.politico.com/news/2026/06/05/ai-companies-white-house-profit-sharing-00952167) という噂も目にしてきました。つまり、これに対するさまざまな「解決策」が存在する可能性があります。どうなるか見てみましょうが、現状のままこの状況が数日以上続くとは到底予測できません。業界はこの状況に驚愕しています。 **ヘイデンさん、これは当然ながらすぐにまたお越しいただく必要があります。*****Decoder*****においでいただき、本当にありがとうございました。** ありがとうございます。 *ご質問やコメントは decoder@theverge.com までご連絡ください。私たちはすべてのメールを必ず読んでいます！* ## ニレイ・パテルによる Decoder *The Verge* のポッドキャスト。大きなアイデアとその他の問題について語る番組です。 [今すぐ購読！](https://pod.link/decoder) [5件のコメント](https://www.theverge.com/podcast/951542/anthropic-claude-fable-5-mythos-ban-pentagon-ai-regulation-trump#comments) この記事のトピックや著者をフォローして、パーソナライズされたホームページフィードで類似の記事をもっと見たり、メール更新を受け取ったりしてください。 - ニレイ・パテル - - - - -

AI が危険と判断される基準を誰が決定するのか？

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト