Google、Gemini を悪用した中国のサイバー犯罪ネットワーク「Outsider Enterprise」を提訴
Google は、生成 AI「Gemini」を悪用してフィッシング詐欺を自動化した中国の犯罪組織「Outsider Enterprise」に対し、法執行機関と連携して訴訟を起こすと発表した。
キーポイント
Gemini を活用した大規模詐欺ネットワークの摘発
Google は、Telegram を経由して Gemini AI の使用方法を指導し、Google や政府機関を模倣した偽サイトを生成する「Outsider Enterprise」という犯罪組織を特定し提訴した。
フィッシング・アズ・ア・サービスの拡散
同グループは技術的知識の低い個人向けに詐欺サイトの構築や SMS 送信キャンペーンの手順を提供しており、約 300 の詐欺テンプレートを用意していた。
膨大な被害規模と法執行機関との連携
この犯罪ネットワークは Android ユーザーに対し 250 万件以上のテキストメッセージを送信し、Google は法執行機関や携帯キャリアと協力して対抗措置を講じている。
影響分析・編集コメントを表示
影響分析
この記事は、生成 AI の普及に伴い、高度な技術がなくても大規模かつ精巧な詐欺が可能になるという新たな脅威の現実化を示しています。Google が法的手段に訴えたことは、AI ベンダーが自社のプラットフォームを悪用する行為に対して責任を持つ姿勢を明確にし、今後のセキュリティ対策や規制議論に影響を与える重要な転換点となります。
編集コメント
生成 AI の悪用事例が具体的な法廷闘争へと発展した点は、業界全体にとって極めて示唆に富む出来事です。技術の民主化が犯罪の低コスト化を招くリスクを、企業側も法的責任として明確に認識し始めた証左と言えます。
Google は、人々がその生成 AI プロダクトを使って新しいものを構築し、ビジネスを成長させ、世界を救うためのあらゆる方法について語ることを好んでいます。おそらくですが。もちろん、人々は犯罪のために AI も利用しています。Google は、AI を活用した大規模な詐欺キャンペーンの責任者であるとされる中国のグループ「Outsider Enterprise」を対象とした新たな法的措置を発表しました。Google は、法執行機関やモバイルキャリアと協力して対抗していると述べています。
Google の法的提出書類によると、Outsider Enterprise は Telegram を通じて運営されています。このグループは、自分自身で詐欺サイトやテキストキャンペーンを設定する技術的知識が十分でない個人に対して、「フィッシング・アズ・ア・サービス」を提供しています。Telegram チャンネルでは、Google の Gemini AI を使用して Google や YouTube、ニューヨーク州の E-ZPass などの政府機関を模倣したウェブサイトを作成する方法に関する指示が提供されていたと報告されています。グループは約 300 の詐欺テンプレートを提供していました。
Google によると、Outsider Enterprise によって可能になった詐欺により、Android ユーザーに対して 250 万件以上のテキストメッセージが送信されました。そのうち約 55,000 件のメッセージは先月の 2 週間に集中して発生しました。全体として、Google はこの詐欺ネットワークに関連する 9,000 の偽サイトと 100 万の URL を追跡しています。
記事全文を読む
コメント
原文を表示
Google loves telling us all the ways people are using its generative AI products to build new things, grow businesses, and save the world. Supposedly. Of course, people are also using AI for crime. Google has announced a new legal salvo aimed at a Chinese group called Outsider Enterprise, which is allegedly responsible for a massive AI-powered scam campaign. Google says it's working with law enforcement and mobile carriers to fight back.
According to Google's legal filing, Outsider Enterprise operates through Telegram. The group offers phishing-as-a-service to individuals who may not be technically savvy enough to set up fraudulent websites and text campaigns on their own. In its Telegram channels, Outsider Enterprise reportedly provided instructions on how to use Google's Gemini AI to create websites that imitate those of Google, YouTube, and government agencies such as New York’s E-ZPass. The group offered nearly 300 scam templates.
Google says that scams enabled by Outsider Enterprise resulted in more than 2.5 million text messages being sent to Android users. About 55,000 of those messages happened in a two-week period last month. In all, Google has tracked 9,000 fake websites and 1 million URLs connected to the scam network.
Read full article
Comments
関連記事
AI を悪用した詐欺事件で Google が中国のサイバー犯罪組織を提訴
Google は、人工知能（AI）を活用して数十万人の被害者から金銭を騙し取ったとされる中国のサイバー犯罪組織を相手取り、米国で訴訟を起こしました。
Gemini 3.5 Live Translate で流体かつ自然な音声翻訳を実現（4 分読了）
Google は、70 以上の言語間でリアルタイムの音声対音声翻訳を行う「Gemini 3.5 Live Translate」を公開した。この音声モデルは不自然な間隔を排除し、イントネーションを維持する機能を備え、現在は Google Meet の非公開ベータ版や Android/iOS の Google 翻訳アプリを通じて展開されている。
Google、Gemini 3.5 Live Translate を発表し即時音声翻訳を実現
Google は新機能「Gemini 3.5 Live Translate」を発表し、従来限定的だったリアルタイムの音声対話翻訳をより多くの場所で利用可能にした。これは長年追求してきた機械学習実験の実現である。
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み