OpenAI、ゲストユーザーのチャットGPT応答コストを半減以上と報道

**OpenAI のエンジニアたちは今月初め、既存の AI モデルを実行するコストである推論コストを半減以上削減することに成功したと同僚たちに伝えていました。** これは、[The Information](https://www.theinformation.com/newsletters/ai-agenda/openai-discovers-new-way-cut-inference-costs-half) が報じたところによると、事情に詳しい人物の話です。 OpenAI はこの新しい最適化を ChatGPT に適用し、特にアカウントを持っていない訪問者向けに行いました。これらのユーザーに対応するために必要な Nvidia の GPU 数はわずか数百台にまで減少しました。削減前にはどれほどの数が要求されていたか、また OpenAI がそれを達成するためにどのような手法を用いたかは明確ではありません。ゲストユーザーがアクセスできるのは ChatGPT の非常に限られた機能セットのみであるため、これらの成果が製品全体にも適用されるかどうかは未だ不明な点です。 [Deepseek もまた、推論リクエストを 60% から 85% 高速化できる新しいオープンソース手法](https://the-decoder.de/deepseeks-dspark-beschleunigt-ki-antworten-pro-nutzer-um-bis-zu-85-prozent/) を発表しました。解放されたリソースは、サービスのスケーリング、より優れたモデルの構築、応答速度の向上、あるいは利益率の拡大に充てることができます。しかし、データセンターの建設がゆっくりと進行しているため、こうした成果はラボに対してより多くの余裕をもたらす可能性が高く、チップ需要を直接減少させることにはならないでしょう。 ## 過剰な期待を排した AI ニュース – 人間によって厳選されたもの 広告なしでの閲覧、週刊 AI ニュースレター、年 6 回の独占「AI Radar」フロンティアレポート、アーカイブへの完全アクセス、およびコメント欄へのアクセスをご希望の方は、THE DECODER に購読してください。 [今すぐ購読する](https://the-decoder.com/subscription/)

OpenAI、ゲストユーザーのチャットGPT応答コストを半減以上と報道

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト

背景や根拠まで確認しますか？

関連記事

ニュースの次に確認する

調べる

選ぶ

サイト