生成AIは詐欺だったことが判明
生成AIはこれまで言われていたほど優れたものではなく、非常に遠い存在であることが明らかになった。
キーポイント
生成AIの経済効果が過大評価されていた可能性が指摘されている（GDP成長への寄与が過大報告）
技術の根本的な課題（幻覚、信頼性不足、現実理解の欠如）が未解決であり、ビジネス投資回収が困難
社会への悪影響（教育・情報環境の悪化、ディープフェイク、環境負荷）が懸念されている
影響分析・編集コメントを表示
影響分析
生成AIの経済的・社会的影響についての批判的見解を提示し、過熱する業界の期待に冷水を浴びせる内容。政策決定者や投資家が前提としていた経済効果データの再検証を促し、技術の現実的な評価とリスク管理の重要性を浮き彫りにしている。
編集コメント
AIバブルへの警鐘として重要な視点だが、著者Gary Marcusは以前から生成AIに批判的な立場であり、バランスの取れた理解には複数の視点が必要。
生成AIは詐欺だったと判明
あるいは、少なくとも大げさに言われてきたものとは非常に遠い存在だったと
Gary Marcus 2026年2月23日 86158シェア
一度世間が何かを興味深い事実として受け入れると、その受け入れを取り消すことはほぼ不可能になる。その持続的な興味深さと象徴的な有用性は、事実性の欠如を覆い隠してしまう。
– ジョフ・プルム、著名な言語学者、このSubstackの忠実な読者
ワシントンポストのシラ・オヴィードからの速報です。ギフトリンクはこちら。
昨年11月にホワイトハウスの暗号通貨・AI顧問が、生成AIが米国のGDP成長の半分に貢献していると話していたのを覚えていますか？
それが事実ではなかったと、シラ・オヴィードが報じた通りです：
全文を読むべきです。ギフトリンクはこちら。
別の抜粋：
銀行がこれらすべてにどれだけ縛られているかを示す補足グラフを見てみたいものです。
もしこれらの投資がすべて誤った判断だったら、何が起こるのでしょうか？
オヴィードの記事は絶対的に残酷で、悲劇と喜劇の間に位置し、シリコンバレーの物語に合う都合の悪い数字がいかに迅速にワシントンで福音となったか（精査が極端に少ないまま）を示すインタビューで満ちています。ジョフ・プルムの「エスキモー語彙詐欺事件」以来、これほどまでに人々が聞きたいことを聞く様を解体した文章を読んだことはありません。
生成AIの過大評価についてオヴィードが述べたことは、実際には驚くべきことではありません。生成AIは最初から本質的に信頼性が低く、私がこの5年間に警告してきた問題は一つとして適切に解決されていません。大規模言語モデルは依然として幻覚を起こし、愚かな間違いを犯し、現実に対する適切な概念を欠いています。それらはしばしば「ワークスロップ」（粗悪な作業）を生み出します。最近の「リモート労働指数」という調査では、人間のタスクのわずか2.5%しかこなせないことがわかりました。そしてこれは物理的労働を必要とするものすべてが文字通り除外されているため、大幅な過大評価です。
生成AIには用途はありますが、それを悩ませ続ける巨大な信頼性問題を考えると、ほとんどの企業が投資利益を見出すのに苦労していることはほとんど驚くことではありません。したがって、経済的影響は多くの人々が信じ込まされてきたよりもはるかに小さい可能性が大いにあります。
生成AIが文字通りの詐欺だったとは思いませんが、それを売る人々は、そうではないのに、あたかも人工汎用知能に等しいかのように売り込もうとしてきました。
そして、彼らが夢想するものではなく、彼らが実際に構築する方法を知っている製品が、それらの期待に応える道は全くありません。
結局のところ、私の最善の推測では、生成AIは社会に対して利益よりもはるかに多くの害をもたらすことになるでしょう。コーディングなどいくつかの実用的なユースケースはあるものの、それは本質的に信頼性の低い技術です。それは私たちの教育システムと情報生態系を引き裂き、同意のないディープフェイクポルノで領域を氾濫させています。それは過剰な投機の上に構築されたデータセンターで環境を脅かしています。それは一部の人々を深刻な精神的健康問題に導いています。そして、誇大宣伝を買った銀行や投資家が倒れ始めれば、私たちの経済を荒廃させる可能性も大いにあります。
トランプ氏がAIの建物を去るまでのカウントダウンが始まりました。
購読してくださっている10万人以上の皆様、ありがとうございます。
原文を表示
Turns out Generative AI was a scam
Or at least very very far from what it has been cracked up to be
Gary MarcusFeb 23, 202686158ShareOnce the public has decided to accept something as an interesting fact, it becomes almost impossible to get the acceptance rescinded. The persistent interestingness and symbolic usefulness overrides any lack of factuality.
– Geoff Pullum, esteemed linguist and loyal reader of this Substack
Breaking news from Shira Ovide at the Washington Post. Gift link here.
Remember how in November the White House Crypto and AI advisor was telling us that Generative AI was contributing half of US GDP growth?
Turns out it wasn’t, as Shira Ovide just reported:
You should read the whole thing, gift link here.
Another excerpt:
I would love to see a companion graph about how much the banks are now tied to all this.
What happens if all these investments were misguided?
The piece by Ovide is absolutely brutal, somewhere between tragic and comic, filled with interviews showing how some hard to swallow numbers that fit a Silicon Valley narrative rapidly became gospel in Washington – with far too little scrutiny. Not since Geoff Pullum’s Great Eskimo Vocabulary Hoax have I read such a deconstruction of people hearing what they wanted to hear.
None of what Ovide had to say about the overestimation of Generative AI should actually come as a surprise. Generative AI has been inherently unreliable from the start; none of the problems that I warned about over the last half decade has been properly solved. Large language models still hallucinate, and they still make boneheaded errors; they still lack a proper concept of reality. They often produce workslop. A recent survey called The Remote Labor Index found that they could only do 2.5% of human tasks, and that is a massive overestimate, since literally everything that requires physical labor was excluded.
Generative AI has its uses, but it hardly surprising that most business have struggled to find return on their investment, given the massive reliability issues that continue to plaguage it. And so the economic impact may well be a lot smaller than many people were led to believe.
I don’t know that Generative AI was literally a scam, but the people selling it have tried to sell it as if it were tantamount to artificial general intelligence, when it’s not.
And there is just no way for the product they actually know how build — as opposed to the one they fantasize about — to live up to those expectations.
When all is said and done, my best guess is that generative AI will have done significantly more harm to society than good. Although there are some practical use cases, such as coding, it is an inherently unreliable technology. It is ripping apart our educational system and our information ecosphere, and flooding the zone with nonconsensual deepfake porn. It is threatening the environment with data centers built on too much speculation. It is leading some people into serious mental health issues. And it may well lay waste to our economy, once banks and investors who bought the hype start to fall.
The countdown to Trump leaving the AI building has begun.
Thank you to the 100,000+ of you who have subscribed.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み