OpenAI Jalapeño: Nvidia Blackwell より優れている
OpenAI Jalapeño: Better than Nvidia Blackwell
コメントの核心
ベンチマークと実運用、効率性比較の限界
意見が分かれるベンダーが示すチャートよりも、実際の生産環境での半年間の推論トラフィックこそが真のテストであるという指摘があります。また、人間の脳との効率性比較については、脳はトークン生成以外の機能も担っているため、単純な対比は不適切とする反論もあります。
代表コメント（原文）
“everyone's silicon beats everyone else's benchmarks until it has to run someone's actual production workload. the real test is six months of your own…”
業界ニュースの信頼性と歴史的文脈
意見が分かれるSemiAnalysis のような分析が、Gartner や McKinsey とは異なる独自の視点を持っていると評価する声がある一方で、インフルエンサー的なスキルを持つ人々が資金を求めて不審な活動をしているのではないかという懐疑論も存在します。過去の 3dfx やサウンドブラスターとの類似性も議論されています。
代表コメント（原文）
“I love how now you have to consider the possible s** posting motivation behind analysis of a trillion dollar industry being conducted at a…”
全論点と英語の原コメントを見る
議論の全体像
新チップの性能比較や、大規模モデルを独自にチップに埋め込む可能性について議論されています。また、ベンチマークと実運用の違い、人間との効率性比較の妥当性、そして業界ニュースの信頼性への懐疑的な視点も交えられています。
ベンチマークと実運用、効率性比較の限界
ベンダーが示すチャートよりも、実際の生産環境での半年間の推論トラフィックこそが真のテストであるという指摘があります。また、人間の脳との効率性比較については、脳はトークン生成以外の機能も担っているため、単純な対比は不適切とする反論もあります。
“everyone's silicon beats everyone else's benchmarks until it has to run someone's actual production workload. the real test is six months of your own inference traffic, not a vendor's chart.”
“The 20W number includes EVERYTHING else the brain does. The chips/models are literally only producing tokens. Let's see an LLM drive a robot harness and have the robot produce speech, as well as move through 3D space, keep track of metabolic needs, etc. etc.…”