Google、AI を利用して開発されたゼロデイ攻撃を阻止と発表
本文の状態
日本語全文を表示中
詳細モードで約3分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
The Verge AI
Google の脅威インテリジェンスグループは、著名なサイバー犯罪者が AI を活用して作成したゼロデイ脆弱性を発見し、2 段階認証の回避を含む大規模攻撃を阻止したと発表した。これは同社が初めて AI 生成型攻撃を検知・防止した事例である。
Continue in AI NEW LAB
このニュースを、実務の判断につなげる
AI NEW LABで、試したことや先に確認したい条件を共有できます。まずはログインなしで読めます。
AI NEW LABで論点を見るSource Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
スティービー・ボニフィールド
は、すべての消費者向けテクノロジーを扱うニュースライターです。スティービーは Laptop Mag で始まり、ハードウェア、ゲーム、AI に関するニュースとレビューを書き始めました。
初めて Google は、AI を用いて開発されたゼロデイエクスプロイト（脆弱性悪用）を検知し阻止したと述べています。Google Threat Intelligence Group（GTIG）からの報告によると、「著名なサイバー犯罪脅威アクター」が、特定の「オープンソースの Web ベースシステム管理ツール」における二要素認証を回避することを可能にする「大規模悪用イベント」の実行を計画していたとされています。
Google の研究者は、エクスプロイトに使用された Python スクリプトの中に AI による支援を示す兆候を見つけました。具体的には、「幻覚的な CVSS スコア」（Common Vulnerability Scoring System）や、LLM（大規模言語モデル）のトレーニングデータに一貫した「構造化され、教科書的な」フォーマットです。このエクスプロイトは、プラットフォームの 2FA システムにおいて開発者が信頼の前提をハードコードしたという「高レベルのセマンティックロジック欠陥」を利用するものです。これは、Anthropic の Mythos like Anthropic's Mythos などのセキュリティ指向 AI モデルの能力を巡る数週間にわたる懸念や、AI の支援によって発見された最近公開された Linux の脆弱性 recently disclosed Linux vulnerability に続く出来事です。
これは、AI がこのような攻撃に関与している証拠を Google が初めて発見した事例ですが、Google の研究者らは「Gemini が使用されたとは考えていない」と指摘しています。Google はこの特定の脆弱性悪用を「妨害」できたとしています一方で、ハッカーらがセキュリティ上の脆弱性を発見し利用するために AI をますます活用しているとも述べています。同レポートでは、攻撃者にとっての AI も標的となっていると記されており、「GTIG は、AI システムにその有用性を与える統合コンポーネント（自律機能やサードパーティ製データコネクタなど）を標的にする敵対者が増加していることを観測した」と述べています。
Google のレポートではまた、ハッカーらが「ペルソナ駆動型ジャイルブレイキング」を用いて AI にセキュリティ脆弱性の発見を依頼する手法も詳述されています。具体的には、AI にセキュリティ専門家として振る舞うよう指示するプロンプトの例が挙げられています。さらに、ハッカーらは脆弱性データのリポジトリ全体を AI モデルに供給し、OpenClaw を「展開前に制御された環境内で生成されたペイロードを洗練させることへの関心を示唆する」方法で使用しています。
この記事からトピックや著者をフォローして、パーソナライズされたホームページフィードで類似のコンテンツをもっとご覧いただき、メール更新を受け取ってください。
- Stevie Bonifield
-
-
-
-
原文を表示
Stevie Bonifield
is a news writer covering all things consumer tech. Stevie started out at Laptop Mag writing news and reviews on hardware, gaming, and AI.
For the first time, Google says it has spotted and stopped a zero-day exploit developed with AI. According to a report from Google Threat Intelligence Group (GTIG), “prominent cyber crime threat actors” were planning to use the vulnerability for a “mass exploitation event” that would have allowed them to bypass two-factor authentication on an unnamed “open-source, web-based system administration tool.”
Google’s researchers found hints in the Python script used for the exploit that indicated help from AI, like a “hallucinated CVSS score” and “structured, textbook” formatting consistent with LLM training data. The exploit takes advantage of “a high-level semantic logic flaw where the developer hardcoded a trust assumption” in the platform’s 2FA system. This follows weeks of hand-wringing over the capabilities of cybersecurity-focused AI models like Anthropic’s Mythos and a recently disclosed Linux vulnerability that was discovered with AI assistance.
It’s the first time Google has found evidence that AI was involved in an attack like this, although Google’s researchers note that they “do not believe Gemini was used.” Google says it was able to “disrupt” this particular exploit, but also says hackers are increasingly using AI to find and take advantage of security vulnerabilities. The report also mentions AI as a target for attackers, saying “GTIG has observed adversaries increasingly target the integrated components that grant AI systems their utility, such as autonomous skills and third-party data connectors.”
Google’s report also details how hackers are using “persona-driven jailbreaking” to get AI to find security vulnerabilities for them, like an example prompt that instructs the AI to pretend it’s a security expert. Hackers are also feeding AI models whole repositories of vulnerability data and using OpenClaw in ways that suggest “an interest in refining AI-generated payloads within controlled settings to increase exploit reliability prior to deployment.”
Follow topics and authors from this story to see more like this in your personalized homepage feed and to receive email updates.
- Stevie Bonifield
-
-
-
-
-
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み