Savi のアプリは、身代金を要求するリアルな AI スキャンから消費者を保護することを目指している
Savi は、身代金要求など現実的な AI スキャンから消費者を守るための専用アプリケーションを開発し、生成 AI の悪用リスクに対する実用的な防御手段を提示した。
キーポイント
AI スキャンの具体化と脅威
生成 AI を利用した身代金要求など、従来の詐欺よりもはるかに現実的で説得力のある新しいタイプのサイバー攻撃が出現していることを示唆しています。
Savi アプリケーションの機能
消費者をこれらの高度な AI スキャンから保護するために特化したアプリケーションを開発し、検知と防御の仕組みを提供します。
実社会への即応性
技術的な革新だけでなく、実際の人身取引や金銭的被害といった深刻な社会的リスクに対処するための即時的なソリューションとして注目されています。
重要な引用
Savi's app aims to protect consumers from realistic AI scams like kidnappers demanding ransom
protect consumers from realistic AI scams
影響分析・編集コメントを表示
影響分析
このニュースは、生成 AI の悪用が単なる技術的な課題から、直接的に人命や財産に関わる深刻な社会的脅威へと進化していることを示しています。Savi のような特化型ソリューションの登場は、AI セキュリティ市場において「予防」から「即時防御」へのパラダイムシフトを加速させる可能性があります。
編集コメント
生成 AI の普及に伴い、詐欺の手口が高度化・自動化する中、Savi のような特化型防御ツールの登場は業界の重要な転換点と言えます。技術的な革新性だけでなく、実社会への即効性が求められる現代において、このアプローチは極めて重要です。
パトリックとライアン・カフリン兄弟は、それぞれテクノロジー業界で印象的なキャリアを築いてきました(パトリックは国のサイバー防衛に従事し、Splunk や Cisco で働いた経験があり、ライアンは Apple と Spotify で消費者向け製品の開発に携わりました)。二人は新しいタイプのセキュリティスタートアップを立ち上げました。
Savi Security は、テキスト、メール、電話などを通じて行われる、非常に説得力のある AI 生成の詐欺から一般の人々を守ろうとしています。
同社は先ほどシードラウンドで 700 万ドルを調達し、今週火曜日に iPhone と Android 向けのアプリをリリースします。この資金調達は Acrew Capital が主導し、Magnify Ventures、TTCER、Resolute Ventures が参加しました。
この会社の着想は、創業者の母親に関わる恐ろしい出来事から生まれました。
約 2 年前、パトリック・カフリンの母親が彼に電話をかけ、動揺しながら、兄の妹(パトリックの姉)を誘拐した男からの電話を受けたと伝えました。当時、彼は Cisco でセキュリティ製品のシニアバイスプレジデントを務めていました。(彼は 2021 年 5 月、クラウドセキュリティスタートアップである TruSTAR が約 8 億 2000 万ドルで Splunk に買収された後に同社に入社しました。そして 2024 年に Cisco は Splunk を買収しました。)
彼女の携帯電話が鳴り、発信者表示には娘の名前が表示されていました。コフリンは振り返ります。その電話の中で、「彼女は私の姉の声を聞き、『ママ、彼らに捕まった』と言っているように聞こえたのです。血の冷えるような悲鳴が響き、その後で姉が『彼らの言うことを聞かなければならない』と言うのです。そして男が電話に出て、『今すぐ 1,200 ドルを払わないと、地元のウォルマートの駐車場で娘を殺す』と言いました」と続けます。
詐欺師はコフリンの姉の電話番号、声、そして彼女がよく行くウォルマートの場所を正確に偽装していました。
幸いにも、その母親は冷静さを保ち、娘に電話をかけて無事であることを確認しました。誘拐は AI によって生成された詐欺だったのです。
コフリンも母同様、動揺していました。
「母を落ち着かせた後、私が考えたのは、なぜ今や政府機関に向けられていたのと同じような高度な手口が、さらに後に Fortune 500 企業にも向けられ、そして今度は一般消費者に対してまで展開されているのか。根本的なサイバー犯罪経済において何が変化したのだろうか?」
答えは言うまでもなく、安価で強力な大規模言語モデル(LLM)やその他の生成 AI ツールです。
AI 以前には、消費者に対するそのような詐欺行為を追求することは金銭的に価値がありませんでした。対象者に関する詳細な調査、声を偽装する技術などが必要だったからです。このような攻撃は主に企業や政府といった深い財布を持つ相手向けであり、それに対抗するための技術も同様でした。
「サイバー犯罪者の手に渡った AI を利用した消費者への被害が、今まさに進行しています」とカウリン氏は述べています。こうした詐欺を犯すコストはほぼ無視できるほど低く、研究資料も容易に入手可能です。
「たった 3 秒の音声や、公開されているソーシャルメディアの投稿からでも、声を複製できます。つまり、私たちは皆、エーテル中に拡散されたこれらの痕跡を抱えているのです——例えば、どこで話しているか、子供たちのサッカーゲームを撮影しながら解説し、それを Facebook に投稿するような行為です。」
FTC(米国連邦取引委員会)は先月、オンライン犯罪の被害報告において、2025 年に詐欺師による詐欺で合計 35 億ドルを失ったと報告されており、これは 2020 年の 3 倍に達すると発表しました。こうした詐欺の被害者の多くは高齢のアメリカ人ですが、一部の研究では Z 世代も非常に脆弱であることが示唆されています。アンチウイルス・アンチマルウェアツールの開発元である Malwarebytes が 2025 年に実施した調査によると、Z 世代は他の世代よりもテキストメッセージによる詐欺の対象となる頻度が高く、その約 25% で被害に遭っていることが報告されています。
カウリン兄弟のアイデアは、リアルタイムで介入するツールの開発でした。
彼らはそのアイデアと構築中の AI スキャン検出モデルを実証するため、無料のウェブサイト「Scam Wise」(https://scamwise.com/) を立ち上げました。これは匿名で登録不要です。不審なテキスト、写真、メールをアップロードするだけで、Scam Wise がそれが偽物である可能性を判定します。
「約 4 ヶ月前に立ち上げました。これまでに 50,000 件の投稿があり、現在は週に約 10,000 件以上増加しています」とカウリン氏は語りました。
Scam Wise は、Savi のスキャン検出 AI モデルを訓練するための実世界データ(in-the-wild data)の源として証明されました。スタートアップは現在主に Google の Gemini を使用していますが、必要に応じて音声検出専用オプションなど他の AI モデルを活用できるように、AI ゲートウェイ(AI gateway)上にソフトウェアを構築しています。
火曜日、Savi は消費者向けに有料製品を発表しました。これは iOS および Android アプリで、テキスト、留守番電話、着信通話をスキャンして詐欺を検出できます。
このような機能は Malwarebytes などの多くの異なる製品で利用可能ですが、Savi の最も印象的な機能はライブ通話監視です。
不審な電話会話中、ユーザーはアプリのライブエージェントを聴取者として追加するオプションを選べます。Savi は通話中に状況が詐欺(grift)であるかどうかを識別できる行動的特徴(behavioral tells)を検知します。
Savi の料金体系も少し独特です。家族全員をカバーするために月額 8 ドル、年間では割引されて 63 ドルを請求し、ユーザー数の上限は設けていません。つまり、1 つのプランで子供、配偶者、両親、そしていつも技術サポートが必要になる叔父さんまでカバーできるのです。あるいは、主要なアカウント保有者が追加して管理サポートを提供したいと考える他の誰にでも適用可能です。
AI は「詐欺師がどれほどアクセスしやすくなったか」という条件を変えましたとカウリン氏は述べています。「私たちは人々を欺く障壁を下げることで、詐欺師を生み出しています。つまり、組織犯罪集団や背後にいるシンジケートだけでなく、一般の人々さえも詐欺行為に誘惑されているのです」。
Savi Security の解決策は、新しい世代のウイルス対策ソフトウェアのようなものです:悪用する側と同じようにリアルタイムで AI を活用します。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを受け取る可能性があります。これは私たちの編集の独立性には影響しません。*
原文を表示
Brothers Patrick and Ryan Coughlin, each with impressive careers in the tech industry (Patrick worked in national cyber defense, and at Splunk and Cisco; and Ryan with consumer products at Apple and Spotify), have launched a new kind of security startup.
Savi Security seeks to protect everyday folks from the new crop of incredibly convincing AI-generated scams, whether they’re routed via text, emails, or phone calls.
The company just raised $7 million in seed funding, and is launching its app for iPhone and Android on Tuesday. The round was led by Acrew Capital, with participation from Magnify Ventures, TTCER, and Resolute Ventures.
The inspiration for the company came from a horrifying incident involving the founders’ mother.
About two years ago, Patrick Coughlin’s mom called him, distraught, saying she had just received a phone call from a man saying he had kidnapped Coughlin’s sister. He was senior vice president of security products at Cisco at the time. (He landed there after Splunk bought his cloud security startup TruSTAR for a reported $82 million in May 2021. In 2024, Cisco bought Splunk.)
Her mobile phone rang with the caller ID of her daughter, Coughlin recounted. During that call, “she thinks she hears my sister’s voice saying, ‘Mom, they’ve got me.’ There’s a blood-curdling scream, and then my sister says, ‘You’ve got to do what they tell you.’ And then a man comes on the phone and says, ‘If you don’t pay us $1,200 right now, we’re going to kill your daughter in the parking lot of the local Walmart,’” he continued.
The scammer had accurately spoofed Coughlin’s sister’s number, her voice, and referenced the location of the Walmart she frequented.
Fortunately, the mom kept her wits, called the daughter, and discovered that she was fine. The kidnapping was an AI-generated scam.
Coughlin, like his mom, was shaken.
“What I was thinking, after calming my mom down is: What has fundamentally changed in the underlying cybercriminal economy that we are now able to lever the same kind of sophistication that I had seen pointed at government agencies, and then later at Fortune 500 companies? And now we’re deploying that sophistication at the consumer?”
The answer is, of course, cheap and powerful LLMs and other generative AI tools.
Before AI, pursuing such grifts on consumers was not financially worth it. It would require in-depth research on the target, tech to spoof voices, and so on. Such attacks were primarily aimed only at deep pockets, like enterprises or governments, as was the tech to defend against them.
“There’s something that’s happening right now to consumers with AI in the hands of cyber criminals,” Coughlin says. The costs to perpetrate such swindles have become negligible, and the research material, easily available.
“You can clone a voice off three seconds of audio, off a publicly available social media post. So we’ve all got these traces of stuff that’s out there in the ether — like where we’re talking or narrating; commenting on a kid’s football game while videotaping it, and putting it on Facebook.”
The FTC said last month that people reporting online crimes collectively lost $3.5 billion to imposter scams in 2025, triple the amount in 2020. While the majority of people reporting such scams are older Americans, some research implies Gen Z is also highly susceptible. Research from 2025 by Malwarebytes, a maker of antivirus and anti-malware tools, reported that Gen Z was targeted more often with text scams than other generations, and fell for them about 25% of the time.
The Coughlin brothers’ idea was to develop a real-time intervention tool.
They tested their idea, and the AI scam detection model they were building, by launching a free website called Scam Wise. It is anonymous, no registration required. Just upload any suspicious texts, photos, or emails, and Scam Wise will determine if it’s likely to be bogus.
“We launched that about four months ago. We’ve had 50,000 submissions, and it grows now every week by about 10,000 submissions or more,” Coughlin said.
Scam Wise proved a source of in-the-wild data to help train Savi’s scam-detection AI model. The startup is currently mostly using Google’s Gemini, but has built its software on an AI gateway, which allows it to tap other AI models as needed, like voice detection-specific options.
On Tuesday, Savi launched a paid product, an iOS and Android app for consumers, that can screen texts, voicemails, and incoming calls for scams.
Such features are available in a lot of different products (such as Malwarebytes), but Savi’s most impressive feature is live-call monitoring.
During a suspicious phone conversation, a user can opt to add the app’s live agent as a listener. Savi listens for behavioral tells that can identify if the situation is a grift while the call is in progress.
Savi’s fees are also a bit unusual. It charges $8/month, discounted to $63/year, to cover an entire family, and puts no cap on the number of users. So one plan can cover a person’s kids, spouse, parents, and that uncle who always seems to need tech support. Or whoever else that the primary account holder wants to add and provide administrative support to.
AI has changed the conditions for “how accessible being a fraudster is,” Coughlin said. “We’re creating fraudsters because we’re bringing down the barrier of deceiving people. So not only do we have the organized criminals and the syndicates behind this, but everyday people are sort of being tempted into playing fraud.”
Savi Security’s answer is like a new generation of anti-virus-like software: one that uses AI in real time just like the bad guys do.
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み