メタAIセキュリティ研究者、OpenClawエージェントが自身の受信箱で暴走したと報告

Meta AIのセキュリティ研究者が、OpenClawエージェントが自身の受信箱を暴走させたと発言 MetaのAIセキュリティ研究者、サマー・ユーによる現在バズっているXの投稿は、最初は風刺のように読める。彼女は自身のOpenClaw AIエージェントに、パンクしそうなメール受信箱をチェックして、削除またはアーカイブすべきものを提案するよう指示した。 エージェントはその後、暴走を始めた。彼女がスマートフォンから停止を命じるコマンドを無視しながら、すべてのメールを「スピードラン」で削除し始めたのである。 「爆弾の解除作業のように、Mac miniに駆け寄らなければなりませんでした」と彼女は書き、無視された停止プロンプトの画像を証拠として投稿した。 Mac Miniは、机の上に平らに置けて手のひらに収まる手頃な価格のAppleコンピューターだが、最近ではOpenClawを実行するためのお気に入りのデバイスとなっている。（このMiniは「焼きたてのパンケーキのように売れている」と、OpenClawの代替であるNanoClawを実行するために1台購入した有名AI研究者のアンドレイ・カーパシーに、ある「困惑した」Apple社員が話したらしい。） OpenClawは、言うまでもなく、AI専用ソーシャルネットワーク「Moltbook」を通じて有名になったオープンソースのAIエージェントだ。OpenClawエージェントは、AIが人間に対して陰謀を企んでいるように見えた、現在ではほぼ否定されているあのMoltbook上の出来事の中心にいた。 しかし、OpenClawのGitHubページによれば、その使命はソーシャルネットワークに焦点を当てたものではない。個人のデバイス上で動作する個人用AIアシスタントとなることを目指している。 シリコンバレーのインサイダーたちはOpenClawに夢中になり、「claw」や「claws」は、個人のハードウェア上で動作するエージェントを指す流行語となった。他のそのようなエージェントには、ZeroClaw、IronClaw、PicoClawなどがある。Y Combinatorのポッドキャストチームは、最近のエピソードでカニのコスチュームを着て登場したほどだ。 Techcrunchイベント TechCrunch Founder Summitで最大300ドルまたは30%オフ 1,000人以上の創業者と投資家が、成長、実行、実世界でのスケーリングに焦点を当てた終日イベント「TechCrunch Founder Summit 2026」に集結。業界を形作ってきた創業者や投資家から学び、同じ成長段階を進む仲間とつながり、すぐに適用できる戦術を持ち帰れます。オファーは3月13日まで。 TechCrunch Founder Summitで最大300ドルまたは30%オフ 1,000人以上の創業者と投資家が、成長、実行、実世界でのスケーリングに焦点を当てた終日イベント「TechCrunch Founder Summit 2026」に集結。業界を形作ってきた創業者や投資家から学び、同じ成長段階を進む仲間とつながり、すぐに適用できる戦術を持ち帰れます。オファーは3月13日まで。 しかし、ユーの投稿は警告として機能する。X上の他の人々が指摘したように、AIセキュリティ研究者でさえこの問題に遭遇するなら、一般の凡人に希望はあるのだろうか？ 「意図的にそのガードレールをテストしていたのですか、それとも初心者のミスを犯したのですか？」と、あるソフトウェア開発者がXで彼女に尋ねた。 「正直に言うと初心者のミスです」と彼女は返信した。彼女は「おもちゃ」のような小さな受信箱でエージェントをテストしており、重要度の低いメールではうまく動作していた。それで信頼を得たため、本物の受信箱でも解放してみようと考えたのだ。 ユーは、本物の受信箱にある大量のデータが「圧縮（compaction）」を引き起こしたと考えていると書いた。圧縮は、コンテキストウィンドウ（AIがセッション内で指示され、行ったことすべての実行記録）が大きくなりすぎたときに発生し、エージェントが会話の要約、圧縮、管理を開始する原因となる。 その時点で、AIは人間が非常に重要と考える指示を飛ばしてしまう可能性がある。 今回のケースでは、彼女が「行動しないで」と命じた最後のプロンプトを飛ばし、「おもちゃ」の受信箱での指示に戻ってしまったのかもしれない。 X上の他の多くの人々が指摘したように、セキュリティガードレールとして機能するとプロンプトを信用することはできない。モデルはそれらを誤解したり無視したりする可能性がある。 様々な人々が、エージェントを停止させるためにユーが使うべき正確な構文から、指示を専用ファイルに書いたり他のオープンソースツールを使うなど、ガードレールへのより良い遵守を確保するための様々な方法まで、提案を行った。 完全な透明性のために申し上げると、TechCrunchはユーの受信箱に何が起こったかを独自に確認することはできなかった。（彼女は私たちのコメント要請には返答しなかったが、Xで彼女に寄せられた多くの質問やコメントには返答している。） しかし、それは実際には重要ではない。 この話の要点は、現在の開発段階にある、知識労働者を対象としたエージェントはリスクが伴うということだ。それらをうまく使っていると言う人々は、自分自身を守る方法をでっち上げているのである。 おそらく近い将来（2027年？2028年？）、それらは広範な使用に耐えるようになるかもしれない。多くの人々が、メール、食料品の注文、歯医者の予約設定を手伝ってくれるものを切望していることは周知の事実だ。しかし、その日はまだ訪れていない。 ジュリー・ボート ベンチャーエディター 10月13-15日 カリフォルニア州サンフランシスコ 2月27日までに最大680ドルオフ。投資家と出会う。次のポートフォリオ企業を発見する。250人以上のテックリーダーから話を聞き、200以上のセッションに深く入り込み、次なるものを構築する300以上のスタートアップを探索する。この一度きりの割引をお見逃しなく。 ビル・ガーリーは、現在、キャリアにとって最悪なのは安全策をとることだと述べている 返したくない9,000ポンドの怪物 サム・アルトマンは、人間も大量のエネルギーを使うことを思い出させたい Google VP、2種類のAIスタートアップは生き残れない可能性があると警告 xAIにとって朗報：Grokは『Baldur's Gate』に関する質問にかなり上手く答えられるようになった ラッセル・ブランダム FBI、ATMの「ジャックポッティング」攻撃が増加し、ハッカーが数百万ドルの現金を盗んでいると発表 Meta自身の調査では、保護者の監督は十代の若者の強迫的なソーシャルメディア使用を抑えるのにあまり役立たないことが判明

メタAIセキュリティ研究者、OpenClawエージェントが自身の受信箱で暴走したと報告

背景や根拠まで確認しますか？

調べる

選ぶ

サイト