LLM トークン転売と不正の市場構造を調査

トークンリセラーと不正取引を支える「リレー市場」の内部

マット・レンハードによる、興味深い調査記事です。この市場では、さまざまなソースから API キーを集約して LLM トークンを割引価格で転売するビジネスが成長しています。

この動きは主に中国で見られます。リセラーたちは、正規の API 料金より大幅に安い価格で LLM プロキシへのアクセスを販売しています。彼らは無料トライアルの悪用や、保護されていないサポートボットを経由したプロキシ化、あるいは盗まれたクレジットカードやチャージバック攻撃といった手段によって、その安価な価格を実現しているのです。

これらのプロキシで使われているソフトウェアはオープンソースです。主に one-api と、より活発に開発が進むフォークの new-api が利用されています。これらは正当な API プロダクトであり、複数の API 認証情報をプールしてリクエストを負荷分散するために使われます。

購入者は安価なトークンを求めており、地理的な制限を回避しています。また、モデルの蒸留（ディストillation）のためにデータを収集しているケースもあります。

私は、悪用によって巨額のトークン請求が発生する恐れがあるため、LLM を活用したアプリケーションを公に公開することに慎重でした。しかし、この市場が存在することは、さらに警戒心を強める要因です。今や、保護されていないエンドポイントを見つけ出して悪用することで利益を得る生態系全体が成立してしまっているからです。

LLM ベンダーは、API キーに対して厳格な利用制限を提供する能力を大幅に高める必要があります。私が求めるのは、設定した期間内に一定の金額（例えば 1 ドル）に達した瞬間に、LLM アプリケーションが自動的に停止する仕組みです。

マット氏の論文の主要な情報源となったのは、以下の中国語フォーラムのスレッドです。

中国語フォーラムのスレッド

また、Hacker News での議論も参考になりました。

Hacker News のスレッド

タグ: AI, 生成 AI, LLM, LLM の価格設定, AI 倫理, 中国の AI