『HELLO BOSS』：世界中の詐欺を駆動する中国製リアルタイムディープフェイクソフトウェアの内幕
中国製のリアルタイム深偽ソフトウェア「Haotian AI」が世界中の詐欺師に利用され、警察や個人を騙す高度な犯罪ネットワークが形成されている実態が明らかになった。
キーポイント
リアルタイム変身技術の実現
従来の録画素材への顔合成とは異なり、Microsoft Teams や Zoom などの通話中に相手の顔を即座に任意の人物（例：記者自身や警察官）に変換する技術が実用化されている。
犯罪組織との連携と収益
このソフトウェアは東南アジアの大規模詐欺コンパウンドおよび中国のマネーロンダリングネットワークに供給され、開発者には既に 400 万ドル以上の収益をもたらしている。
オープンソース基盤とサポートビジネス
技術的な核心は既存のオープンソース顔交換ツールにあるが、その真価は非技術的な犯罪者でも扱えるよう設計された高度なテクニカルサポートと UI にある。
社会への甚大な脅威
ロマンス詐欺、税金詐欺、バーチャル誘拐など、あらゆる種類の詐欺がリアルタイム技術によって質・量ともに増幅され、一般市民や企業は新たな防御を迫られている。
高度なリアルタイム処理能力
Haotian AI は照明の変化や顔の前を物体が通る状況でも深偽映像の破綻を防ぎ、ユーザーが顔を触ってもリアルな偽装を維持できる。
詳細な顔面カスタマイズ機能
利用者は口唇の厚さや顎の形状、鼻のサイズ、肌質（にきび除去）まで細かく調整でき、効果的な偽装には設定が必要となる。
検知ツールの回避能力
深偽検出モデル「Xception」はHaotian AI 生成の映像をほぼ100% 本物と誤判定しており、現状の検知技術では見破るのが極めて困難である。
影響分析・編集コメントを表示
影響分析
この記事は、AI テクノロジーが単なる技術革新ではなく、即座に高度な犯罪ツールとして悪用される現実を浮き彫りにしており、セキュリティ業界と一般社会に対する重大な警鐘である。特にリアルタイム性を持つ深偽技術の普及により、従来の「録画映像のチェック」では防げない新たな詐欺手法が主流となりつつあり、プラットフォーム企業による即時検知システムや法規制の強化が喫緊の課題となっている。
編集コメント
技術の民主化が犯罪の民主化を招いた悲劇的な事例であり、開発者側の倫理観とプラットフォーム企業の防御責任が問われる重要なニュースです。
「ああ、神様。ああ、神様」と叫びながら、他人の体に自分の顔が映っているのを見た。そこにはすべてがあった：5 時のひげそり跡、おかしな笑顔、目の下のクマまで。
私は Microsoft Teams の通話中で、この自分自身を模したディープフェイクとリアルタイムでやり取りしていた。通常、向こう側の相手は私とは全く別人に見えるが、ゲーム用ラップトップと詐欺師向けの高価で最先端のソフトウェアを使用することで、相手の顔が私の顔に変形した。私のディープフェイクは相手の頬をつねり、鼻を覆い、あごを撫でたが、その錯覚は一切崩れなかった。
従来のビデオディープフェイクが既存の動画に誰かの顔を合成するものだったのに対し、私が使用していたツールは別のことを約束していた：ビデオ通話中にリアルタイムで誰か—誰でも—に変身できる能力だ。Haotian AI と呼ばれるこのツールを販売する中国語の詐欺師との数週間にわたるやり取りの後、私はついにソフトウェアのコピーを手に入れた。Haotian AI は、WhatsApp、Microsoft Teams、Zoom、TikTok、Instagram、YouTube など、私たちが毎日使用するプラットフォームに特化して作られている。
Haotian AI や類似技術、あるいは詐欺グループについて他に何かご存知ですか？ぜひお聞かせください。仕事用のデバイスではなく、Signal で joseph.404 までメッセージを送るか、joseph@404media.co までメールをお送りください。
Haotian AI は、一般市民やテクノロジー企業がまだ準備できていない可能性のある、深層偽造詐欺と不正行為の次の段階を象徴しています。ここでは犯罪者がリアルタイムで外見を変え、アメリカ人を含む人々をだまして金銭を渡させることが可能になります。ロマンス詐欺、税務詐欺、バーチャル誘拐：これらすべてが、品質が向上し続けるライブ深層偽造ソフトウェアによって増幅される可能性があります。
404 Media が Haotian AI を用いた実験は、ジャーナリストがこのソフトウェアを実際にどのように動作するか、その有効性はどの程度か、そしてその存在が詐欺の現在と極めて近い未来に何を意味するのかを検証した初めての事例となります。私たちの調査では、Haotian AI が少なくとも 1 つの米国警察署を名乗るためのツールとして機能していることを示しています。また、Haotian AI を中国のマネーロンダリングネットワークおよび東南アジアの大規模な詐欺コンパウンドにサービスを提供するエコシステムと結びつけ、その創作者が 400 万ドル以上の収益を得ていることも突き止めました。さらに調査により、Haotian AI はオープンソースの顔入れ替えツールを基盤としている可能性が高く、このソフトウェアの真の価値は洗練された技術サポートにあることが明らかになりました。これにより、テクノロジーに詳しくない犯罪者でさえリアルタイム深層偽造ソフトウェアを利用できるようになり、世界中のより多くの詐欺師がこの強力な技術を悪用する可能性が開かれました。
「これは市場にある他のすべてのものよりも遥かに先を行く」と、Haotian AI のユーザーインターフェースには記されています。
0:00
/0:06
1×
Haotian AI を使用した Microsoft Teams の通話の映像。
Haotian AI のリアルタイムディープフェイクは、同社が Telegram に投稿したデモによると、照明の変化や被写体の顔の前に現れる物体への対応も可能で、特に印象的なものです。あるデモ動画では、アジア系の女性が魔法のように俳優のガル・ガドットに変身する様子が映されています。このデモでは、ディープフェイク化されたガドットがキスをしたり片目を隠したり、素早く手を顔の前を通し動かしたりしますが、ソフトウェアは一度も不具合を起こしていません。他のツールでは、ユーザーが自分の顔を触ると失敗することがあります。その場合、ソフトウェアが誤作動を起こし、下の本来の人物が露呈してしまうのです。しかし、Haotian AI のデモでは、その欺瞞は維持され続けています。別のデモ動画では、 realistic ながら少しテカリのある肌を持つイーロン・マスクとジャッキー・チェンも描かれています。
メッセージングアプリ Telegram を介した私との直接的なライブデモンストレーションにおいて、Haotian AI の技術者が、このソフトウェアが被写体の唇を厚くしたり薄くしたり、あごのラインを鋭くしたり丸くしたりすることもリアルタイムで可能であることを示しました。Haotian AI のユーザーインターフェースでは、顧客はディープフェイクの鼻のサイズを調整したり、「ニキビ除去」機能を使用したり、目の形を変更したりすることもできます。効果的なディープフェイクを作成するには、404 Media 自身のテストによると、いくつかの設定が必要となる場合があります。
また、Haotian AI は人間の目だけでなく、ディープフェイクを検出するために設計されたツールをも打ち負かす可能性があります。Xception はディープフェイク検出モデルの一つですが、昨年 6 月に発表された論文では、研究者らがこのモデルが Haotian AI が生成したディープフェイクの検出に「苦労している」ことを発見しました。
「Xception は制御用データでは 89.1% の精度を達成しましたが、Haotian のサンプルのほぼ 100% を『真正』と誤分類しました」と、その論文の著者であるチャールズ・フロスは 404 Media に電子メールで語っています。「Haotian の成果は驚くほど説得力があり、特に顔や体の動きを扱う点において顕著です。」
現在、ディープフェイクを作成する方法はいくつかありますが、一般的には人物の顔の画像を用いて機械学習モデルを訓練し、その顔を動画内の別の顔にフレームごとにマッピングするプロセスによって実現されます。この処理にかかる時間は手法や動画の長さによって数秒から数分、あるいはそれ以上となります。リアルタイムディープフェイクも同様の原理に基づきますが、より洗練されています。なぜなら、これは瞬間的に顔を追跡し、その上にディープフェイクの顔をマッピングする必要があるためです。
0:00 / 0:25
1×
Haotian AI のデモ動画の 1 つ。
Haotian AI は、東南アジアにある数十億ドル規模の詐欺組織にサービスを提供する広大な中国語圏の犯罪エコシステムの明確な一部です。実務的には、これらのネットワークは Telegram 上に存在します。審査済みのサービスを一覧表示する中央チャンネルに参加すると、マネーロンダリング、マルウェア、「ハイエンド」のエスコートなど、無限にあるように思える違法製品の群れにアクセスできます。これらの中国語圏の Telegram ネットワークは容易に利用可能で、危険かつ巨大です。研究者によると、Xinbi Guarantee という名の一市場が、210 億ドル規模の取引を仲介したとされています。当局は、Huione Group と呼ばれる別のネットワークを米国の金融システムから切り離そうと試みています。
WIRED が 12 月に Haotian AI を報じ、Telegram にコメントを求めた際、Haotian AI の主要な Telegram チャンネルへのアクセスができなくなりました。
しかし、404 Media の調査によると、同社は運営を続け、重要なアップデートを推進し、技術を販売し続けています。
『着信』
Haotian AI の Telegram アカウントを見つけ、Google 翻訳を使ってその技術を買い求める興味がある旨を伝えました。数週間、これらの会話はあまり進展しませんでした。会社を代表する人物から、ソフトウェアを実行するための高性能 PC を持っているか尋ねられ、私は「はい」と答えると、相手は返信してきませんでした。3 月になると何かが変わり、会社の対応が格段に活発になりました。Haotian AI の担当者がオンラインになっている時に Telegram にログインするように心がけました。
サイバー犯罪対策 NGO の Chong Lua Dao によると、Haotian AI はカンボジアを拠点としています。米国で身元盗用罪で起訴された元ハッカーであり、現在は同組織で詐欺撲滅活動に従事している Hieu Minh Ngo が、404 Media に Haotian AI が「カンボジアの特定の地域」でソフトウェアの物理的な設置を提供していることを示すスクリーンショットを共有しました。Ngo はまた、プノンペン市内のオフィスビルで Haotian AI のカスタマーサポートスタッフがソフトウェアを設置しているように見える動画も共有しています。
Haotian AI とのチャットにおいて、担当者は PC の仕様要件を説明する表を送ってきました。その仕様は中級から上級のゲーミング PC に似ており、i7 プロセッサ、16GB の DDR5 RAM、そして何より重要なのが Nvidia 4080 SUPER グラフィックスカードです。他の生成 AI の形態と同様に、このような強力な並列処理アーキテクチャを持つカードを備えていることが、効果的なリアルタイム動画ディープフェイクを実現するための鍵となります。
その後、同社は、私たちがこれらの仕様を満たすかそれ以上の PC にアクセスできることを示す一連のスクリーンショットを求めました。私は 404 Media のエマニュエル・マイバーグ氏に、要求された各スクリーンショットを彼の高性能なゲーミング PC で撮影してもらうよう依頼しました。この情報を数日間にわたって伝達した後（これは私たちが時間を浪費する者ではないことを確認するための戦術だった可能性があります）、Haotian AI は次のステップに進むことに同意しました。
「入ってください」と、同社の担当者が、私たちを Haotian AI の他の部門とつなぐために専用の Telegram グループチャットを作成した後に言いました。そのグループには私自身、私が話していた担当者、そして「技術者」と呼ばれる 1 人を含むもう 2 人の Haotian AI の Telegram 担当者が含まれていました。彼らはソフトウェアのインストール方法を私に案内してくれる予定でした。
0:00 / 0:06
1×
画像：Haotian AI の広告の動画。Chong Lua Dao 提供。
その人物は4つのファイルをアップロードしました。それは、パスワードでロックされた3つのファイルに分割された Haotian AI クライアント自体と、AnyDesk という名前のリモートアクセスソフトウェア1つです。結果として、私たちが自分でインストールを行う必要はありませんでした。Haotian AI はサービスの一環として、Emanuel の PC に遠隔接続して自らインストールを実行することを望んでいたのです。「私が遠隔で接続している間、あなたはパソコンの前に座って全体を見守ることができます」と、Haotian AI の代表者の一人が言いました。これは Telegram の自動翻訳によるチャットの記録です。
私たちは常に機密情報を扱うジャーナリストとして、犯罪に関連するグループに私たちのコンピュータの1つへの自由なアクセスを許可することに不安を感じました。サイバーセキュリティ企業 GetReal Security の脅威研究部長である Tom Cross は、代わりに彼のコンピュータの1つでテストを行うことに同意しました。Cross はリモートアクセスソフトウェアをダウンロードし、詐欺師たちを入れました。
クロス氏は、技術者がハードドライブに新しいパーティションを作成し、ファイアウォールを含む複数の Windows セキュリティ機能をオフにし、WinRAR をダウンロードしてインストールし、提供されたファイルに含まれていた Windows Defender のコピーを構成する様子を目撃したと語った。その後、技術者はその新しいパーティション上で Haotian AI ファイルを展開し、Haotian AI ソフトウェアをインストールしてログインし、特定のドライバー用として Nvidia からアップデートをダウンロードした。最後に Telegram をインストールした。これらはすべて、一般的なユーザーや詐欺師が適切かつ迅速に実行する方法を知らない可能性が高い、かなり技術的な作業である。この一連のプロセスは数分で完了した。
私が新規顧客であることを示すため、会社はグループチャットのプロフィール画像を Haotian AI の特徴的な狼のロゴに変更し、その下に「New!」という英語テキストを貼り付けた。
その後、会社は Telegram で私に電話をかけ、ツールのライブデモンストレーションを行おうとした。おそらく母語話者ではない相手と話していることを理解した上で、Haotian AI の担当者は「中国語がわかりますか？」と尋ねた。私はテキストでのみ対応でき、通話はできないと説明した。それは問題なかった。
0:00
/0:13
1×
Haotian AI が 404 Media に提供したデモ。
その後、技術担当者が Telegram で私に電話をかけ、ソフトウェアのデモ中に何をしているかをテキストで送ってきました。私はその技術担当者の本物の顔を見たことがないと思います。代わりに、通話が始まった瞬間、彼はこのソフトウェアを使って香港の多作な俳優であるアンディ・ロー（Andy Lau）のように見せかけていました。ある時点では、彼自身を女性に変身させることさえありました。おそらく世界の反対側にいると推測される技術担当者は、手で口元を覆い、目を隠しました。このライブデモは、以前に記録されたガドット氏の事例と同等のレベルでした。
Haotian AI は、1 日限定でこのツールへの無料アクセスを提供しましたが、利用可能なのは事前に選ばれた数人の顔にしか変換できないものでした。任意の人物に変身できるカスタムモデルを作成するには、対象者の一連の写真を提供し、もちろん支払いを行う必要がありました。Haotian AI が提示した料金は、ソフトウェアが年間 1,998 ドル、カスタムモデルが 1 つあたり 498 ドルでした。同社は、TRON（TRC20）という形式の暗号通貨、すなわち TRON ブロックチェーン上で動作するステーブルコイン「Tether」での支払いを特に求めていました。価格変動が激しいビットコインとは異なり、Tether は米ドルに連動しています。私たちは要求された額の暗号通貨を送金しました。
Haotian AI が中国語話者ではない相手にも技術を販売し続けている事実は、このツールが特定の地域のサイバー犯罪エコシステムに限定されていない可能性を示唆しています。例えばナイジェリアの詐欺師らが使用している他のツールと比較すると、Haotian AI のディープフェイク技術は特に印象的です。Haotian AI が世界的に普及するのを妨げている唯一の要因は、言語の壁（あるいは場合によってはコスト）だけかもしれません。
私は、暗号資産の追跡会社である Chainalysis に支払いアドレスを共有し、同社にどのような洞察があるか尋ねました。Chainalysis の国家安全保障インテリジェンス部門責任者である Andrew Fierman は、電子メールによる声明でこう述べています。「提供されたウォレットは、2026 年 1 月 6 日から現在までに 253,000 ドル以上を処理しています。全体として、Chainalysis は 2023 年 10 月にまで遡る Haotian ウォレットへの総流入額が 400 万ドル超であると特定しました。これらのウォレットは、HuionePay や中国語のマネーロンダリングサービス、そして被害者を特定・標的化し操作するための詐欺技術ベンダー（デジタル改変や翻訳プロバイダーなど）と、オンチェーン上で広範に相互作用しています。」
顔の構築
カスタムモデルを構築するために、Haotian AI は対象となる人物の顔を 3〜8 枚の写真として提供することを求めました。被写体がカメラをまっすぐ見つめている写真で、髪などで顔が隠れていないもの、歯を見せたり不自然な表情をしていないもの、そして過度な Photoshop 編集が施されていないものが望ましいとされました。
私の机の前で私はセルフポートレートを 9 枚撮影しました。そのうちいくつかでは、Haotian AI が再度写真の撮影を求めてくるかどうかを試すために、あえて眼鏡を着用しました。その後、Haotian AI のカスタマーサポート担当者が、Telegram で別の専用グループチャットに参加するよう私に依頼してきました。このチャットは、担当者が説明したところ、「あなた専用の技術サポートグループとして設置されたもの」でした。
そのグループの誰かが、Haotian AI をどのチャットプラットフォームと連携させたいかと私に尋ねました。私は WhatsApp と Zoom と答え、Haotian AI はそれらのプラットフォームでのライブ通話にソフトウェアの出力をフィードするための指示を送ってきました。本質的に、Haotian AI は Microsoft Teams やその他のプラットフォームを使用する際にユーザーが選択できる仮想カメラとして機能します。
WhatsApp での Haotian AI の設定方法に関する指示を提供している間、カスタマーサポート担当者がいくつかの関連スクリーンショットを送信しました。そのうちの一つは、ワシントン D.C. の首都警察庁（Metropolitan Police Department: MPD）の特徴的なロゴを含む WhatsApp のビデオ通話を示していました。MPD は 404 Media に対し、詐欺師がディープフェイクを使用しているという報告を受けていないと述べていますが、11 月には MPD 職員を名乗る詐欺師がビデオ通話で活動しているとの警告を一般市民に対して行っていました。
東南アジアの詐欺組織は、被害者が当局と話していると誤認させるために、部屋や国旗、制服を着た詐欺師などを含む、ハリウッド映画のような精巧なセットを構築することがあります。これらはしばしば中国の組織犯罪グループによって運営されています。
Haotian AI の UI を示す画像、404 Media が同社に送った写真、MPD のロゴを含む WhatsApp デモの画像。画像提供：404 Media。
404 Media は、Haotian AI が標的とする複数の企業に対し、こうしたリアルタイムディープフェイクを阻止するための対策があるか尋ねた。Zoom の広報担当者は「私たちは最近、統合されたディープフェイクリスク検出機能を提供することで、会議のセキュリティをさらに強化すると発表しました。合成音声や動画が検知された際にリアルタイムでアラートを送信するこのツールは、今夏にリリースされる予定です」と述べています。
Meta は質問に直接答えず、詐欺センターが利用するインフラを対象とした他の取り組み、つまりFacebook、Instagram、WhatsApp のアカウントを数千万件も停止させたことなどに言及した。
Microsoft、TikTok、Google はコメント依頼に応じたものの、最終的には声明を提供しなかった。
私がHaotian AI に自撮り写真を共有した同じ日、誰かが
原文を表示
image“Oh my god. Oh my god,” I yelled as I looked at my own face on someone else’s body. It was all there: my five o’clock shadow, my goofy grin, even the bags under my eyes.
I was on a Microsoft Teams call interacting with this deepfake version of myself in realtime. Ordinarily the other person on the line looks nothing like me, but by using a gaming laptop and a sought-after, cutting edge piece of software for scammers, his face morphed into mine. My deepfake pinched his cheek, covered his nose, and stroked his chin, all without the illusion breaking.
Whereas video deepfakes used to be about superimposing someone’s face onto an existing video, the tool I was using promised something else: the ability to shapeshift into someone—anyone—live during a video call. After weeks of back and forth with the Chinese-language scammers selling the tool, called Haotian AI, I had obtained a copy of the software. Haotian AI is built to work specifically with platforms we all use everyday: WhatsApp, Microsoft Teams, Zoom, TikTok, Instagram, and YouTube.
Do you know anything else about Haotian AI, similar technology, or scam compounds? I would love to hear from you. Using a non-work device, you can message me securely on Signal at joseph.404 or send me an email at joseph@404media.co.
Haotian AI marks the next stage in deepfake scams and fraud, one that the public and tech companies may not be ready for, where criminals are able to change their appearance in real time to trick people, including Americans, into handing over their money. Romance scams, tax fraud, virtual kidnappings: all stand to be amplified by live deepfake software which continues to improve in quality.
404 Media’s experimentation with Haotian AI marks the first time a journalist has managed to test this software to see how it really works, how effective it is, and what its existence means for the present and very near future of scams. Our investigation finds Haotian AI demonstrates its tool as a way to impersonate at least one U.S. police department. We link Haotian AI to Chinese money laundering networks and the ecosystem providing services to massive scam compounds in South East Asia, and find that Haotian AI has brought in more than $4 million dollars for its creators. Our investigation also reveals Haotian AI is likely based on open source face swap tools, meaning the true value of the software is its sophisticated technical support. With that, even the least tech-savvy criminals can now access realtime deepfake software, opening up the possibility for more fraudsters around the world to use this powerful technology.
“It is far ahead of everything on the market,” the user interface of Haotian AI reads.
0:00
/0:06
1×
A clip of a Microsoft Teams call using Haotian AI.
Haotian AI’s realtime deepfakes can be particularly impressive, able to handle adjustments in lighting and objects appearing in front of the subject’s face, according to demos the company has posted on Telegram. One demo video shows an Asian woman magically transforming into actor Gal Gadot. In the demo, the deepfake Gadot blows a kiss, covers one of her eyes, and rapidly swipes her hand past her face, with the software not glitching once. Other tools sometimes fail when a user touches their own face. When they do so, the software malfunctions and shows the real person underneath. In the demos, Haotian AI keeps the illusion going, though. Another demo video shows a realistic, albeit dewy skinned, Elon Musk and Jackie Chan.
In a direct and live demonstration with me over the messaging app Telegram, a Haotian AI technician showed in real time how the software can also make a subject’s lips thicker or thinner, or their jawline sharper or more rounded. The user interface of Haotian AI also lets customers adjust the size of their deepfake’s nose, use an “acne removal” feature, and change the shape of their eyes. For an effective deepfake, some configuration may be required, according to 404 Media’s own tests.
And Haotian AI may not just beat the human eye, but tools designed to detect deepfakes as well. Xception is a deepfake detection model; in a paper published last June, researchers found it “struggled” to detect Haotian AI-generated deepfakes.
“While Xception hit 89.1% accuracy on the control stuff, it misclassified almost 100% of the Haotian samples as ‘authentic,’” Charles Fross, one of the authors of that paper, told 404 Media in an email. “Haotian’s work is shockingly convincing, especially with how it handles facial and body movements.”
There are now a variety of ways to produce deepfakes, but generally they work by training a machine learning model on images of a person’s face, then mapping that face onto another face in a video, frame by frame, a process that could take seconds, minutes, or more, depending on the method on how long the video is. Realtime deepfakes work similarly, but are more sophisticated because they have to track a face and map the deepfake face onto it moment to moment.
0:00
/0:25
1×
One of Haotian AI's demonstration videos.
Haotian AI is squarely part of the sprawling Chinese-language crime ecosystem that provides services to multibillion scam compounds in South East Asia. In practical terms, these networks exist on Telegram. Once you join a central channel which lists vetted services on offer, you can access what feels like a limitless array of illegal products: Money laundering. Malware. “High-end” escorts. These Chinese-language Telegram networks are easily accessible, dangerous, and massive. Researchers have said one market, called Xinbi Guarantee, has facilitated a massive $21 billion in transactions. Authorities have attempted to sever another, called Huione Group, from the U.S. financial system.
When WIRED reported on Haotian AI in December and approached Telegram for comment, the main Haotian AI Telegram channel became inaccessible.
But the company has continued to operate, push significant updates, and sell its technology, 404 Media found.
‘COME IN’
I found Haotian AI’s Telegram account and, through Google Translate, said I was interested in buying the technology. For weeks, these conversations didn’t go very far. Someone representing the company would ask if I had a powerful PC to run the software, I would say yes, and the person would not reply. Something shifted in March, and the company became a lot more responsive. I made sure to log on to Telegram when Haotian AI’s representatives were online.
Haotian AI is based out of Cambodia, according to cybercrime fighting NGO Chong Lua Dao. Hieu Minh Ngo, a former hacker prosecuted by the U.S. for identity theft who now works to combat fraud with the organization, shared screenshots with 404 Media showing Haotian AI offering physical installation of the software “in some areas of Cambodia.” Ngo also shared a video which appears to show Haotian AI’s customer support staff installing the software in an office building in Phnom Penh.
In my chats with Haotian AI, the representative sent over a table explaining the PC specification requirements for Haotian AI. The specs resembled a moderate to high gaming PC: an i7 processor; 16GB of DDR5 RAM; and, most importantly, an Nvidia 4080 SUPER graphics card. Having a card like this, with a powerful parallel processing architecture, as with other forms of generative AI, is the key to unlocking an effective realtime video deepfake.
The company then asked for an array of screenshots that showed we had access to a PC that matched or beat these specifications. I asked 404 Media’s Emanuel Maiberg to take each of the requested screenshots on his beefy gaming PC. After several days of relaying this information over, which may have been a tactic to ensure we weren’t timewasters, Haotian AI agreed to take us to the next step.
“Come in,” the company contact said after they made a dedicated Telegram group chat to connect us with other parts of Haotian AI. That group included myself, the person I had been speaking to, and two other Haotian AI Telegram contacts, including one referred to as a “technician.” They would run me through how to install the software.
0:00
/0:06
1×
Image: a video of a Haotian AI advert. Provided by Chong Lua Dao.
That person uploaded four files: the Haotian AI client itself split into three password locked files, and a piece of remote access software called AnyDesk. As it turned out, I wouldn’t be doing any installing myself; as part of its service, Haotian AI wanted to remote into Emanuel’s PC to perform the installation itself. “You can sit in front of your computer and watch the whole thing while I’m remotely connected,” one of the Haotian AI representatives said, according to Telegram’s automatic translation of the chat.
As journalists who handle sensitive information all the time, we did not feel comfortable letting a criminal-adjacent group have free access to one of our computers, where who knows what they might do. Tom Cross, head of threat research at cybersecurity firm GetReal Security, agreed to let us test on one of his computers instead. Cross downloaded the remote access software and let the scammers in.
Cross said he watched as the technician created a new partition on the hard drive, turned off multiple Windows security features including the firewall, downloaded and installed WinRAR, and configured a copy of Windows Defender that was included in the provided files. The technician then uncompressed the Haotian AI files on that new partition, installed and logged into the Haotian AI software, and downloaded an update from Nvidia for some specific drivers. Finally, the technician installed Telegram. All of that is fairly technical stuff that an ordinary user or scammer may not know how to do properly or quickly. The whole process was over in a few minutes.
To signify I was a new customer, the company changed the group chat’s profile picture to Haotian AI’s distinctive wolf logo, and the English text “New!” plastered underneath.
The company then wanted to call me on Telegram to do a live demonstration of the tool. Understanding they were likely speaking to a non-native speaker, a Haotian AI representative asked, “Do you understand Chinese?” I explained I could only text and wouldn’t talk. That wasn’t an issue.
0:00
/0:13
1×
A demonstration Haotian AI gave to 404 Media.
The technician then called me on Telegram and texted what he was doing while demonstrating the software. I don’t think I ever saw the technician’s real face. Instead when he started the call he was using the software to look like Andy Lau, the prolific Hong Kong actor. At one point, he changed himself into a woman too. The technician, likely based somewhere on the other side of the world, smothered his mouth with his hand and covered his eye. This live demonstration was on par with the previously recorded Gadot one.
Haotian AI gave me free access to the tool for a day, but only with the ability to turn into a few preselected faces. For a custom model that would let us transform into anyone we wanted, we needed to provide a series of photos of the target and, of course, pay. Haotian AI quoted us $1,998 a year for the software, and $498 per custom model. The company wanted to be paid specifically in TRON (TRC20), a version of the cryptocurrency Tether which runs on the TRON blockchain. Unlike volatile Bitcoin, Tether is tied to the U.S. dollar. We sent the requested amount of cryptocurrency.
The fact that Haotian AI still sold the technology to a non-Chinese speaker shows the tool may not be limited to that regional cybercrime ecosystem. Haotian AI’s deepfakes are especially impressive when compared to other tools that scammers in, say, Nigeria are using. The only thing slowing Haotian AI from spreading may be the language barrier (or the cost in some cases).
I shared the payment address with Chainalysis, a cryptocurrency tracing company, to ask what insight they had on it. “The wallet provided has processed over $253K between January 6, 2026—present. Overall, Chainalysis has identified over $4M in total in-flows to Haotian wallets dating back to October 2023,” Andrew Fierman, head of national security intelligence at Chainalysis, said in an emailed statement. “These wallets have interacted extensively on-chain with HuionePay and with Chinese-language money laundering services and scam technology vendors—such as digital alteration and translation providers—intended to identify, target, and manipulate victims.”
BUILDING A FACE
To build a custom model, Haotian AI asked me to provide three to eight photos of the target face. They wanted photos with the subject looking straight at the camera; no obstructions to the facial features like hair covering the face; no showing of teeth or strange expressions; and no heavy Photoshop editing.
At my desk, I took nine selfies. For some of these, I deliberately wore my glasses just to test whether Haotian AI would ask me to take the photos again. After this, the Haotian AI customer support representative asked me to join another dedicated group chat on Telegram. This chat, the representative explained, was “a dedicated technical support group set up just for you.”
Someone in that group asked me what chat platforms I wanted to use Haotian AI with. I said WhatsApp and Zoom, and Haotian AI sent over instructions for feeding the software’s output into live calls on those platforms. Essentially, Haotian AI acts as a virtual camera a user can select when using Microsoft Teams or one of the other platforms.
While providing instructions for how to configure Haotian AI with WhatsApp, a customer support worker sent a couple of related screenshots. One of them showed a WhatsApp video call including the distinctive logo of the Metropolitan Police Department (MPD) in Washington D.C. The MPD told 404 Media it has not received reports of scammers using deepfakes, but in November the MPD warned the public that fraudsters were impersonating MPD officials in video calls.
Scam compounds in South East Asia sometimes build elaborate, Hollywood-style sets to trick victims into thinking they are talking to the authorities, including rooms, flags, and scammers wearing uniforms. They are often run by Chinese organized crime figures.
Images showing the UI of Haotian AI, the photos 404 Media sent to the company, and a WhatsApp demo including the logo of the MPD. Images: 404 Media.
404 Media asked multiple companies that Haotian AI targets whether they have mitigations to stop these sorts of realtime deepfakes. A Zoom spokesperson said, “We recently announced that Zoom is further enhancing meeting security with integrated deepfake risk detection offering, providing real‑time alerts when synthetic audio or video is detected. This tool will launch this summer.”
Meta did not answer the question directly, and pointed to its other work targeting infrastructure used by scam centers, including taking down tens of millions of Facebook, Instagram, and WhatsApp accounts.
Microsoft, TikTok, and Google acknowledged requests for comment but ultimately did not provide statements.
On the same day I shared my selfies with Haotian AI, someone in the
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み