ソフトウェア開発者らが「AI が脳を腐らせている」と指摘
テック企業の経営層がAIによるコード生成の効率化を称賛する一方で、現場の開発者はスキル低下や技術負債の蓄積を懸念し、両者の認識ギャップが顕在化している。
キーポイント
経営層と開発者の認識ギャップ
GoogleやMicrosoftなどの経営陣はAI生成コードの割合増加を効率化の証とする一方、現場の開発者はAI出力の修正に時間を要し、作業が非効率でフラストレーションを感じている。
開発者のスキル低下と技術負債
多くの開発者がAIへの依存により自身のコーディング能力が衰える（デスキリング）と感じており、将来の保守が不可能なほどの複雑な技術負債（ラットネスト）を築いていると懸念している。
セキュリティ評価の困難さ
大規模なコードベースにAIエージェントを導入する際、その品質やセキュリティを人間が適切に評価・検証することが極めて困難であるという指摘がある。
AI導入による人員削減の正当化
企業がAIによる生産性向上を謳う一方で、実際には大規模なレイオフ（Meta、Microsoft、Snapchatなど）を正当化する目的で利用されている。
開発者への強制とパフォーマンス評価への紐付け
多くの開発者はAIツールの使用が義務化されており、採用状況が業績評価に直接影響を与えるため、質よりも参加姿勢を重視するパフォーマンス的な利用が増加している。
環境変化による事実上の強制
明示的な命令がなくても、IDEの契約更新停止やツールの提供変更などにより、開発者がAIツールを使用せざるを得ない状況が作られている。
IDE 統合 AI ツールの非効率性と燃え尽き
複雑な分散システムでは文脈の提供が困難でバグが増加し、プロンプトとコード確認の切り替えによる認知的負荷が著しい疲労をもたらしている。
影響分析・編集コメントを表示
影響分析
この記事は、AI技術の導入における「経営層の楽観視」と「現場の実感」の決定的な乖離を浮き彫りにしており、短期的なコスト削減や効率化が長期的な技術的健全性を損なうリスクを示唆しています。業界全体として、AI生成コードの品質保証メカニズムや開発者のスキル維持策が喫緊の課題となるでしょう。
編集コメント
AIの普及が加速する中、現場の声に耳を傾けなければ「効率化」が逆に「技術的崩壊」を招くという深刻な警告です。開発者のメンタルヘルスとスキル維持策への投資が今後は不可欠となるでしょう。
しかし、好きか嫌いかに関わらず AI の使用を命じられた開発者たちは、異なる物語を語っています。Reddit や Hacker News、ソフトウェア開発者が互いに交流するその他の場所では、大規模言語モデル（LLM）によって生成されたコードの約束に対して幻滅する人が増えています。開発者たちは、AI による出力がしばしば欠陥があることだけでなく、作業を完了させるために AI を使用することが、その出力を確認してミスを修正しなければならないため、実際にはより時間がかかり、困難で、イライラする経験になると語っています。さらに懸念されるのは、職場で AI を使用する開発者たちが、自分たちのスキルが低下し、以前のように仕事ができる能力を失っていると感じているという報告です。
「私たちは、コードベース全体にわたる広範な変更のために [AI] エージェントを使用するよう言われています。数百人の他のプログラマーが会社内で同じことをしている場合、特にそのように大量のコードが適切に書かれているか、安全であるかを評価する方法はありません」と、中規模テック企業の UX デザイナーは私に語りました。404 Media は、この記事のためにインタビューしたすべての開発者に匿名性を保証しました。彼らは秘密保持契約（NDA）に署名しているか、雇用主からの報復を恐れているからです。「私たちは、これらのモデルが手が出せないほど高価になったとき（もうすぐ…）、解きほぐすことが不可能になる技術的負債のネズミの巣を構築しています」。
出力の実際の品質は、私たちが参加する意志ほど重要ではありません。
テック企業の経営陣は、自社で生成されたコードの割合について自慢することを好みます。4 月、Google は同社の新しいコードの 3 分の 2 が AI によって生成されたと発表しました。昨年、マイクロソフトの CEO サティア・ナデラ氏は、同社のコードの最大 30% が AI によって生成されていると述べていました。マイクロソフトの CTO（最高技術責任者）ケビン・スコット氏は、2030 年までに同社のすべてのコードの 95% が AI によって生成されると予想しています。Meta のマーク・ザッカーバーグ氏は昨年、AI は今後 12〜18 ヶ月以内に AI を改善するコードの大部分を記述すると予想していると述べました。Anthropic によると、同社チームのほとんどのメンバーが作成したコードの 90% が AI 生成です。テック企業はまた、「トークンマキシング」、つまり人間従業員ではなく AI ツールに費やす資金の量についても自慢しています。
Google、Microsoft、あるいは他のテクノロジー企業で、AI の使用を圧力されている開発者の方はいますか？その声をぜひ聞きたいです。私用のデバイスを使って、Signal で (609) 678-3204 まで安全にメッセージを送ってください。それ以外の場合は、emanuel@404media.co までメールをお送りください。
予測通り、これらの企業が自社の AI プロダクトによって実現したという生産性の劇的な向上は、より多くまたはより良いプロダクトの創出、短縮された労働週、あるいは改善された消費者体験にはつながっていません。むしろ、テクノロジー企業における AI の導入は、大規模な人員削減を正当化するために主に利用されてきました。AI 利用のために人員を削減したと発表したテクノロジー企業の例をいくつか挙げれば、最近では Meta が従業員の 10%（約 8,000 人）を削減すると発表し、Microsoft は米国の従業員 7%（約 125,000 人）に対して自主退職制度を提供すると発表しました。Snapchat もフルタイムスタッフの 16%（約 1,000 人）を解雇すると発表しています。
私が話を聞いた開発者たちは、コーディングにおける AI の有用性に関する物語の数多くの点で矛盾を示しましたが、AI 企業の経営陣が主張している物語の中で最も明白な問題は、彼らが社内で目にする AI ツールの導入が自発的でも有機的でもないという点です。開発者たちは、AI ツールの使用を明示的に命令されているか、あるいは強く圧力されていると述べています。
「AI は、ある形であれ明示的に義務付けられている」と、社内の AI 導入を公に誇る FAANG 企業のソフトウェアエンジニアは私に語った。「その利用は私たちの業績評価基準の一部であり、私たち（おそらく全員）の多くが AI に特化した『ポッド』へと再編成されている。AI ツールで溢れかえっており、あらゆる問題に対する答えは『まず AI を使え』という感じだ。」
「業績評価が AI の導入と結びついていると聞かされた」と UX デザイナーは私に語った。「その結果、チームのほとんどがパフォーマンスのために利用している。私たち全員が暗黙のうちに出力に欠陥があることを知りつつも、実際の出力品質よりも、参加する姿勢の方が重要視されている。」
別の金融技術企業のソフトウェアエンジニアは、自分が LLM（大規模言語モデル）の使用を強制されたことはないが、彼が勤務した企業は利用を促す方向に変化したと私に語った。彼の以前の雇用主は開発者に AI の使用を要求しなかったが、推奨されており、開発者には主要なコーディングエージェントの一つである Cursor へのアクセス権が付与されていた。
「最初は『誰か試してみない？』という感じで、私が手を挙げました。その後、コストがかかるようになったため、徐々に JetBrains IDE の更新を停止し、全員に Cursor への移行を強要しました（ただし、エディタ自体が AI の使用を強制するわけではありません）」と彼は語った。JetBrains IDE はソフトウェア開発者が使用する統合開発環境だ。「採用は主にエンジニアチーム内部から始まり、一人のエンジニアマネージャーがこれを推進し、Cursor の出力を改善しようとしてプロジェクトベースのルールを書き始めた」とのこと。
私が話したすべての開発者は当初、職場で LLM を使ってみることに興奮していたか、少なくとも興味を持っていた。しかし、彼らの個人的な経験に基づけば、これらのツールに対する感情は現在、圧倒的に否定的なものになっている。
「IDE ベースの AI ツールを使用しても、ほとんど生産性の向上は見られませんでした。AI が生成したコードはバグが多くなる傾向があります。私は分散型 Web アプリや非常に複雑なマルチシステムに取り組んでいるため、LLM に文脈を提供することが非常に難しいからです」と、ある小規模な Web デザインファームのソフトウェア開発者は私に語りました。「現在、契約で一緒に働いている別の開発者は膨大な量のコードを生成しており、私がレビューしなければならないプルリクエストが 1000 行以上にもなります。これには膨大な時間がかかり、結果として人生でこれまで感じたことのないほど疲れや燃え尽きを感じています。プロンプト作成、コーディング、LLM の出力確認を行ったり来たりする際の認知負荷は、莫大なエネルギーを消耗させます。これは生産性を高めるツールとは全く異なり、深刻な精神的疲労へのスピードランのように感じられます。」
私が話を聞いたフィンテック業界の開発者もまた、LLM における大きな問題の一つとして、開発者が適切に検証したり説明したりできる量よりも多くのコードを生成してしまう点を挙げています。「コードの広範さがあまりにも膨大で、批判的に検討することが不可能になり、結果としてそのコードを捨てるか、提出して『もし誰かが気づいたら低品質なものであり、恥ずかしい思いをするかもしれない』と不安を抱くことになります（さらに恥ずべきことに、『あれは AI がやったのでわかりません』と言うことさえあります）」と彼は言いました。「あるいは最悪の場合、誰も気づかないうちにリリースしてしまい、それが当たるか外れるかの運任せになってしまうのです。」
「Anthropic のトークンを Claude Code で使い果たしてしまい、バグ修正に詰まってしまったことがあります。私が現在取り組んでいるシステムは複雑さの怪物となり、その大半が何をしているのかさえもわからなくなっており、バグを修正する際にも、過去ならもっと短時間で済んだはずのデバッグに時間がかかってしまいました」と、小さなウェブデザイン会社のソフトウェア開発者は私に語りました。
私が話を聞いた開発者たちは、AI がいくつかのタスクには有用だと見なしていました。複数の開発者が、アイデアの迅速なプロトタイピングや、自分が不慣れなドメインでの実装を可能にするため、実験には良いと述べていました。ある開発者は、AI を優れた情報インターフェースであると評価しました。具体的には、AI がサーバー上で特定の要求がどこで処理されるかを見つけるのを助けたり、ログを要約したり、コード変更に関連するドキュメントを検索したりしたのだそうです。
私が話を聞いたすべての開発者が一致して指摘したのは、コーディングに AI に頼れば頼るほど、長年磨いてきたスキルが劣化していくという点です。これはすでに広く研究されている現象で、「認知的負債」や「認知的萎縮」と呼ばれることもあります。この概念は、AI を使って仕事の特定の部分を自動化する人々が、そのタスクを適切に遂行する能力を失い、結果として技能を低下させてしまうことを意味しています。
「Laravel API の実装方法を忘れてしまうような問題に直面したことがあります。その時、本当に恐ろしい思いをしました。私は大学でこの分野を学び、何年もソフトウェアエンジニアとして働いてきましたが、まるでコードを一行も書いたことがない頃に戻ったかのような感覚です」と、小さなウェブデザイン会社のソフトウェア開発者が私に語りました。
「確実に頭がぼんやりしています」とフィンテックのソフトウェア開発者は言いました。「携帯電話が登場して電話番号を覚えるのをやめた時のようなものです。しかし、それが『思考』そのものを精神的に外部委託するレベルまで成長してしまいました。問題や設計について座って考える力や批判的思考力が低下したと感じています。なぜなら、何でも知っているダライ・ラマ（注：AI の比喩）は質問一つで自分の見解を提示してくれるからです。そして自分は『インスピレーションのために使うだけだ』と自分に言い聞かせていますが、結局それが唯一の思考源になってしまいます。生産性と専門性の錯覚を与えますが、最終的には提出する成果物から以前よりも遠ざかってしまうのです」
「コード生成に使用していた時、自分が扱っているコードのメンタルモデルを構築・維持することに多くの困難を感じました」とFAANG企業のソフトウェアエンジニアは私に話しました。「もう一つの側面として、私は昨年後半に入社したのですが、[会社の] コードベースが非常に巨大です。新入社員としての私の仕事の一部分は、そのコードベースをどのようにナビゲートし、確立された規約を使用するかを学ぶことですが、AI の推進がこの能力を実際に阻害していると思います」
私が話をした開発者たちは、LLM は将来もプログラミングの役割を果たし続けるだろうと同意しつつも、特に次世代の開発者を育成する観点から、業界が経営陣の現在の技術への執着にどう適応していくかについて懸念を表明しました。
「数年後に仕事が残っていれば、ベテランプログラマーは問題ないでしょうが、キャリア初期の人々については心配です」と UX デザイナーは私に語りました。「私たちは AI に依存して最も単純なタスクさえ完了させる新人プログラマーを採用しています。彼らには、AI の出力がエラーに満ちているか非効率であるかを判断するための知識や経験がありません。」
「この件について水晶玉があればいいのですが、私の直感は、このソフトウェア構築方法は経済的観点からも技術負債の観点からも持続不可能になるだろうということです」と FAANG 企業のソフトウェアエンジニアは言いました。「私のチーム内には、AI コーディングを愛する人々と、会社が望むからという理由でそれを行っている人々の間に明確な分断があります。一般的に、常にコードに没頭している[技術的に焦点を当てた個人貢献者]の人々は、AI を大いに推進する可能性が低いと感じています。私は、その技術とその出力は、あなたがそれらを問い詰めるほどに本格的に崩壊し始め、それを日々行っている人々ほど、その技術に対して否定的な見解を持っている傾向があると思います。」
「業界の『誰もがコードを組める』という認識や、バイブコーディングが本番環境のアプリとして成立し、ソフトウェア企業は不要だという風潮に対する『清算』あるいは『目覚め』が来ると思います」と、フィンテック分野の開発者は語ります。「私たちは次第に、LLM 開発の負の側面（ハルシネーションや構造化されていないコード）と、大規模な出力の正しさを検証するより良い手法とのバランスを取るためのパターンや業界ベストプラクティスを発見していくでしょう。そして、AI に対する過剰な期待や技術楽観主義は、より健全な中間点へと収束していくはずです。」
原文を表示
Developers who are told to use AI whether they like it or not, however, tell a different story. On Reddit, Hacker News and other places where people in software development talk to each other, more and more people are becoming disillusioned with the promise of code generated by large language models. Developers talk not just about how the AI output is often flawed, but that using AI to get the job done is often a more time consuming, harder, and more frustrating experience because they have to go through the output and fix its mistakes. More concerning, developers who use AI at work report that they feel like they are de-skilling themselves and losing their ability to do their jobs as well as they used to.
“We're being told to use [AI] agents for broad changes across our codebase. There's no way to evaluate whether that much code is well-written or secure—especially when hundreds of other programmers in the company are doing the same,” a UX designer at a midsized tech company told me. 404 Media granted all the developers we talked to for this story anonymity because they signed non-disclosure agreements or because they fear retribution from their employers. “We're building a rat's nest of tech debt that will be impossible to untangle when these models become prohibitively expensive (any minute now...).”
The actual quality of output doesn't matter as much as our willingness to participate.
Tech company executives love to brag about how much of the code at their company is AI-generated. In April, Google said that three quarters of new code at the company was generated by AI. Last year, Microsoft CEO Satya Nadella said up to 30 percent of the company’s code was generated by AI. Microsoft’s CTO Kevin Scott said he expects 95 percent of all code at the company to be AI-generated by 2030. Meta’s Mark Zuckerberg said last year he expects AI to write most of the code improving AI within 12-18 months. Anthropic says 90 percent of the code written by most if its team is AI generated. Tech companies have also been bragging about their “tokenmaxxing,” or how much money they’re spending on AI tools instead of human employees.
Are you a developer at Google, Microsoft, or another tech being pressured to use AI? I would love to hear from you. Using a non-work device, you can message me securely on Signal at (609) 678-3204. Otherwise, send me an email at emanuel@404media.co.
Predictably, the huge spike in productivity that these companies claim their own AI products have enabled hasn’t resulted in more or better products, shorter work weeks, or better consumer experiences. Mostly, AI implementation in tech companies has been used to justify multiple massive rounds of layoffs. To name just a few examples where tech companies said they reduced headcount because of AI use, more recently, Meta said it would cut 10 percent of its workforce (around 8,000 people), Microsoft said it would offer voluntary retirement to 7 percent of its American workforce (around 125,000 people). Snapchat said it would lay off 16 percent of its full-time staffers (about 1,000 people).
The developers I talked to contradicted the narrative about AI’s utility in coding in many ways, but the most glaring issue with the narrative AI company executives are pitching is that the adoption of AI tools they see internally isn’t voluntary or organic. Developers say they are either explicitly ordered to use AI tools or heavily pressured to use them.
“AI in some shape or form is all but explicitly mandated,” a software engineer at a FAANG company that brags publicly about its internal AI adoption told me. “Its usage is part of our performance review criteria and most (maybe all?) of us have been reorganized into AI focused ‘pods.’ We're absolutely flooded with AI tooling and it feels like the answer to every problem is ‘use AI first.’”
“We've been told performance evaluations are tied to AI adoption,” the UX designer told me. “This has led to most of my teammates using it performatively, even if most of us implicitly know that the output is flawed. The actual quality of output doesn't matter as much as our willingness to participate.”
Another software engineer at a financial technology company told me that he was never forced to use LLMs but that the companies where he worked changed in a way that encouraged their use. His previous employer didn’t demand developers use AI but it was encouraged and developers were given access to Cursor, one of the leading coding agents.
“It started as a ‘who wants to try it’ and I volunteered. Later it was slowly, due to costs, that we stopped renewing our JetBrains IDE and forced everyone to move to Cursor (though the editor itself doesn't force you to use AI),” he said. JetBrains IDE is an integrated development environment used by software developers. “Adoption came mostly from inside the engineering team, with a single engineer manager trying to champion it and writing project based rules for Cursor to try to make the output better.”
All the developers I talked to were excited to try using LLMs at work at first, or were at least curious about them. Their feelings about the tools, based on their personal experience, are now overwhelmingly negative.
“There were almost no productivity gains using IDE-based AI tools. AI-generated code ended up with more bugs because I am working on distributed web apps, highly complex multi-system things, so giving the LLM context is very difficult,” a software developer at a small web design firm told me. “Another developer on a contract working with me at the moment generates massive amounts of code, leaving me with 1000+ lines of pull requests to review and it takes massive amounts of time to do this. This leads to me feeling more tired and burned out than I've ever felt in my entire life. The cognitive overhead of switching between prompting, coding, checking the LLM's output is a massive energy drain. It has not been a productivity booster at all, it feels like a speedrun towards severe mental exhaustion.”
The developer in fintech I talked to also said that one major problem with LLMs is that it can generate more code than developers can properly vet or explain. “The sheer breadth of code makes it impossible to be critical enough and then you're either throwing it away or submitting it and feeling scared there might be really low quality stuff that if someone notices will make you embarrassed (and even more embarrassing to say: ‘oh i don't know what that is, the AI did that’),” he said. “Or worse, you ship it without someone noticing and that is really hit or miss.”
“I have gotten stuck on bug fixes where, when I run out of Anthropic tokens in Claude Code, I couldn't work anymore. The current system I am working on started to become a monstrosity of complexity where I didn't even know what most of it does anymore, and when I had to fix a bug, it took longer than I would have taken in the past to debug,” the software developer at a small web design firm told me.
The developers I talked to found AI useful for some tasks. Several developers said that it was good for experimentation, allowing them to quickly prototype an idea or to implement something in a domain they’re unfamiliar with. One developer said it was a good information interface. Specifically, he said, the AI helped him find where on the server a certain request is handled, summarize logs, or find documentation related to code changes.
The problem all the developers I talked to agreed on is that the more they relied on AI to code, the more the skills they’ve honed for years deteriorated. This is by now a well studied phenomenon sometimes referred to as "cognitive debt” or "cognitive atrophy.” The idea is that people who use AI to automate certain parts of their job lose the ability to do those tasks well, therefore de-skilling themselves.
“I had some issues where I forgot how to implement a Laravel API and it scared the shit out of me. I went to university for this, I've been a software engineer for many years now and it feels like I am back before I ever wrote a single line of code,” the software developer at a small web design firm told me.
“It's making me dumber for sure,” the fintech software developer told me. “It's like when we got cellphones and stopped remembering phone numbers, but it's grown to me mentally outsourcing ‘thinking’ in general. I feel my critical thinking and ability to sit and reason about a problem or a design has degraded because the all-knowing-dalai-llama is just a question away from giving me his take. And supposedly I tell myself ill just use it for inspiration but it ends up being my only thought. It gives you the illusion of productivity and expertise but at the end of the day you are more divorced from the output you submit than before.”
“When I was using it for code generation, I found myself having a lot of trouble building and maintaining a mental model of the code I was working with,” the software engineer at the FAANG told me. “Another aspect is that I joined late last year and [the company’s] codebase is massive. As a new hire, part of my job is to learn how to navigate the codebase and use the established conventions, but I think the AI push really hampered my ability to do that.”
The developers I talked to agreed that LLMs will stick around and play a role in programming in the future in some fashion, but worried about how the industry will adapt to executives’ current obsession with the technology, especially when it comes to fostering future generations of developers.
“Older programmers will be fine if there are any jobs left in a few years, but I worry for people early in their careers,” the UX designer told me. “We are hiring junior programmers who rely on AI to complete the simplest tasks. They don't have the knowledge or experience to know when AI output is error-laden or inefficient.”
“I wish I had a crystal ball for this one, but my gut feeling is that this method of building software will be unsustainable either economically or in terms of tech debt,” the software engineer at the FAANG company said. “There's a pretty clear split on my team between people who love AI coding and those who just do it because it's what the company wants, and generally speaking I find that the people who are still [technically focused individual contributors] with their nose in code all the time are less likely to be big AI boosters. I think the tech and its outputs start to really break down the more you question them and those who are doing that day in and day out tend to have a worse opinion of the tech.”
“I think there will be a ‘reckoning’ or ‘awakening’ from the industry notion that now everyone can code and that vibe coding is viable for a real production app and software companies are dead,” the developer in fintech said. “I think we will grow to find the patterns and industry best practices that will balance the negatives of LLM development (hallucination, unstructured code) with better techniques to verify the output's correctness at scale, and the hype and techno optimism of AI will get to a saner middle ground.”
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み