ソフトウェア開発者らが「AI が脳を腐らせている」と指摘

![image](https://images.unsplash.com/photo-1611890798517-07b0fcb4a811?crop=entropy&cs=tinysrgb&fit=max&fm=jpg&ixid=M3wxMTc3M3wwfDF8c2VhcmNofDQ5fHxjb21wdXRlciUyMHNjcmVlbiUyMGJyb2tlbnxlbnwwfHx8fDE3Nzg2MTU5NTd8MA&ixlib=rb-4.1.0&q=80&w=2000)テック企業の経営陣は、AI が経済を完全に変革すると確信しており、社内で見られる変化を根拠に、この変化が急速に進んでいると主張しています。Meta、Google、Microsoft、およびその他の企業では、指導層が AI によって生成されるコードの割合が増大しており、これにより生産コストが低下し、スピードも向上していると述べています。その含意は、テック企業が内部で効率化と人員削減のためにこの AI を活用するほどに十分であれば、他の業界でも同様の転換が起こるのは時間の問題だということです。 しかし、好きか嫌いかに関わらず AI の使用を命じられた開発者たちは、異なる物語を語っています。Reddit や Hacker News、ソフトウェア開発者が互いに交流するその他の場所では、大規模言語モデル（LLM）によって生成されたコードの約束に対して幻滅する人が増えています。開発者たちは、AI による出力がしばしば欠陥があることだけでなく、作業を完了させるために AI を使用することが、その出力を確認してミスを修正しなければならないため、実際にはより時間がかかり、困難で、イライラする経験になると語っています。さらに懸念されるのは、職場で AI を使用する開発者たちが、自分たちのスキルが低下し、以前のように仕事ができる能力を失っていると感じているという報告です。 「私たちは、コードベース全体にわたる広範な変更のために [AI] エージェントを使用するよう言われています。数百人の他のプログラマーが会社内で同じことをしている場合、特にそのように大量のコードが適切に書かれているか、安全であるかを評価する方法はありません」と、中規模テック企業の UX デザイナーは私に語りました。404 Media は、この記事のためにインタビューしたすべての開発者に匿名性を保証しました。彼らは秘密保持契約（NDA）に署名しているか、雇用主からの報復を恐れているからです。「私たちは、これらのモデルが手が出せないほど高価になったとき（もうすぐ…）、解きほぐすことが不可能になる技術的負債のネズミの巣を構築しています」。 出力の実際の品質は、私たちが参加する意志ほど重要ではありません。 テック企業の経営陣は、自社で生成されたコードの割合について自慢することを好みます。4 月、Google は同社の新しいコードの 3 分の 2 が AI によって生成されたと発表しました。昨年、マイクロソフトの CEO サティア・ナデラ氏は、同社のコードの最大 30% が AI によって生成されていると述べていました。マイクロソフトの CTO（最高技術責任者）ケビン・スコット氏は、2030 年までに同社のすべてのコードの 95% が AI によって生成されると予想しています。Meta のマーク・ザッカーバーグ氏は昨年、AI は今後 12〜18 ヶ月以内に AI を改善するコードの大部分を記述すると予想していると述べました。Anthropic によると、同社チームのほとんどのメンバーが作成したコードの 90% が AI 生成です。テック企業はまた、「トークンマキシング」、つまり人間従業員ではなく AI ツールに費やす資金の量についても自慢しています。  Google、Microsoft、あるいは他のテクノロジー企業で、AI の使用を圧力されている開発者の方はいますか？その声をぜひ聞きたいです。私用のデバイスを使って、Signal で (609) 678-3204 まで安全にメッセージを送ってください。それ以外の場合は、emanuel@404media.co までメールをお送りください。 予測通り、これらの企業が自社の AI プロダクトによって実現したという生産性の劇的な向上は、より多くまたはより良いプロダクトの創出、短縮された労働週、あるいは改善された消費者体験にはつながっていません。むしろ、テクノロジー企業における AI の導入は、大規模な人員削減を正当化するために主に利用されてきました。AI 利用のために人員を削減したと発表したテクノロジー企業の例をいくつか挙げれば、最近では Meta が従業員の 10%（約 8,000 人）を削減すると発表し、Microsoft は米国の従業員 7%（約 125,000 人）に対して自主退職制度を提供すると発表しました。Snapchat もフルタイムスタッフの 16%（約 1,000 人）を解雇すると発表しています。 私が話を聞いた開発者たちは、コーディングにおける AI の有用性に関する物語の数多くの点で矛盾を示しましたが、AI 企業の経営陣が主張している物語の中で最も明白な問題は、彼らが社内で目にする AI ツールの導入が自発的でも有機的でもないという点です。開発者たちは、AI ツールの使用を明示的に命令されているか、あるいは強く圧力されていると述べています。 「AI は、ある形であれ明示的に義務付けられている」と、社内の AI 導入を公に誇る FAANG 企業のソフトウェアエンジニアは私に語った。「その利用は私たちの業績評価基準の一部であり、私たち（おそらく全員）の多くが AI に特化した『ポッド』へと再編成されている。AI ツールで溢れかえっており、あらゆる問題に対する答えは『まず AI を使え』という感じだ。」 「業績評価が AI の導入と結びついていると聞かされた」と UX デザイナーは私に語った。「その結果、チームのほとんどがパフォーマンスのために利用している。私たち全員が暗黙のうちに出力に欠陥があることを知りつつも、実際の出力品質よりも、参加する姿勢の方が重要視されている。」 別の金融技術企業のソフトウェアエンジニアは、自分が LLM（大規模言語モデル）の使用を強制されたことはないが、彼が勤務した企業は利用を促す方向に変化したと私に語った。彼の以前の雇用主は開発者に AI の使用を要求しなかったが、推奨されており、開発者には主要なコーディングエージェントの一つである Cursor へのアクセス権が付与されていた。 「最初は『誰か試してみない？』という感じで、私が手を挙げました。その後、コストがかかるようになったため、徐々に JetBrains IDE の更新を停止し、全員に Cursor への移行を強要しました（ただし、エディタ自体が AI の使用を強制するわけではありません）」と彼は語った。JetBrains IDE はソフトウェア開発者が使用する統合開発環境だ。「採用は主にエンジニアチーム内部から始まり、一人のエンジニアマネージャーがこれを推進し、Cursor の出力を改善しようとしてプロジェクトベースのルールを書き始めた」とのこと。 私が話したすべての開発者は当初、職場で LLM を使ってみることに興奮していたか、少なくとも興味を持っていた。しかし、彼らの個人的な経験に基づけば、これらのツールに対する感情は現在、圧倒的に否定的なものになっている。 「IDE ベースの AI ツールを使用しても、ほとんど生産性の向上は見られませんでした。AI が生成したコードはバグが多くなる傾向があります。私は分散型 Web アプリや非常に複雑なマルチシステムに取り組んでいるため、LLM に文脈を提供することが非常に難しいからです」と、ある小規模な Web デザインファームのソフトウェア開発者は私に語りました。「現在、契約で一緒に働いている別の開発者は膨大な量のコードを生成しており、私がレビューしなければならないプルリクエストが 1000 行以上にもなります。これには膨大な時間がかかり、結果として人生でこれまで感じたことのないほど疲れや燃え尽きを感じています。プロンプト作成、コーディング、LLM の出力確認を行ったり来たりする際の認知負荷は、莫大なエネルギーを消耗させます。これは生産性を高めるツールとは全く異なり、深刻な精神的疲労へのスピードランのように感じられます。」 私が話を聞いたフィンテック業界の開発者もまた、LLM における大きな問題の一つとして、開発者が適切に検証したり説明したりできる量よりも多くのコードを生成してしまう点を挙げています。「コードの広範さがあまりにも膨大で、批判的に検討することが不可能になり、結果としてそのコードを捨てるか、提出して『もし誰かが気づいたら低品質なものであり、恥ずかしい思いをするかもしれない』と不安を抱くことになります（さらに恥ずべきことに、『あれは AI がやったのでわかりません』と言うことさえあります）」と彼は言いました。「あるいは最悪の場合、誰も気づかないうちにリリースしてしまい、それが当たるか外れるかの運任せになってしまうのです。」 「Anthropic のトークンを Claude Code で使い果たしてしまい、バグ修正に詰まってしまったことがあります。私が現在取り組んでいるシステムは複雑さの怪物となり、その大半が何をしているのかさえもわからなくなっており、バグを修正する際にも、過去ならもっと短時間で済んだはずのデバッグに時間がかかってしまいました」と、小さなウェブデザイン会社のソフトウェア開発者は私に語りました。 私が話を聞いた開発者たちは、AI がいくつかのタスクには有用だと見なしていました。複数の開発者が、アイデアの迅速なプロトタイピングや、自分が不慣れなドメインでの実装を可能にするため、実験には良いと述べていました。ある開発者は、AI を優れた情報インターフェースであると評価しました。具体的には、AI がサーバー上で特定の要求がどこで処理されるかを見つけるのを助けたり、ログを要約したり、コード変更に関連するドキュメントを検索したりしたのだそうです。 私が話を聞いたすべての開発者が一致して指摘したのは、コーディングに AI に頼れば頼るほど、長年磨いてきたスキルが劣化していくという点です。これはすでに広く研究されている現象で、「認知的負債」や「認知的萎縮」と呼ばれることもあります。この概念は、AI を使って仕事の特定の部分を自動化する人々が、そのタスクを適切に遂行する能力を失い、結果として技能を低下させてしまうことを意味しています。 「Laravel API の実装方法を忘れてしまうような問題に直面したことがあります。その時、本当に恐ろしい思いをしました。私は大学でこの分野を学び、何年もソフトウェアエンジニアとして働いてきましたが、まるでコードを一行も書いたことがない頃に戻ったかのような感覚です」と、小さなウェブデザイン会社のソフトウェア開発者が私に語りました。 「確実に頭がぼんやりしています」とフィンテックのソフトウェア開発者は言いました。「携帯電話が登場して電話番号を覚えるのをやめた時のようなものです。しかし、それが『思考』そのものを精神的に外部委託するレベルまで成長してしまいました。問題や設計について座って考える力や批判的思考力が低下したと感じています。なぜなら、何でも知っているダライ・ラマ（注：AI の比喩）は質問一つで自分の見解を提示してくれるからです。そして自分は『インスピレーションのために使うだけだ』と自分に言い聞かせていますが、結局それが唯一の思考源になってしまいます。生産性と専門性の錯覚を与えますが、最終的には提出する成果物から以前よりも遠ざかってしまうのです」 「コード生成に使用していた時、自分が扱っているコードのメンタルモデルを構築・維持することに多くの困難を感じました」とFAANG企業のソフトウェアエンジニアは私に話しました。「もう一つの側面として、私は昨年後半に入社したのですが、[会社の] コードベースが非常に巨大です。新入社員としての私の仕事の一部分は、そのコードベースをどのようにナビゲートし、確立された規約を使用するかを学ぶことですが、AI の推進がこの能力を実際に阻害していると思います」 私が話をした開発者たちは、LLM は将来もプログラミングの役割を果たし続けるだろうと同意しつつも、特に次世代の開発者を育成する観点から、業界が経営陣の現在の技術への執着にどう適応していくかについて懸念を表明しました。 「数年後に仕事が残っていれば、ベテランプログラマーは問題ないでしょうが、キャリア初期の人々については心配です」と UX デザイナーは私に語りました。「私たちは AI に依存して最も単純なタスクさえ完了させる新人プログラマーを採用しています。彼らには、AI の出力がエラーに満ちているか非効率であるかを判断するための知識や経験がありません。」 「この件について水晶玉があればいいのですが、私の直感は、このソフトウェア構築方法は経済的観点からも技術負債の観点からも持続不可能になるだろうということです」と FAANG 企業のソフトウェアエンジニアは言いました。「私のチーム内には、AI コーディングを愛する人々と、会社が望むからという理由でそれを行っている人々の間に明確な分断があります。一般的に、常にコードに没頭している[技術的に焦点を当てた個人貢献者]の人々は、AI を大いに推進する可能性が低いと感じています。私は、その技術とその出力は、あなたがそれらを問い詰めるほどに本格的に崩壊し始め、それを日々行っている人々ほど、その技術に対して否定的な見解を持っている傾向があると思います。」 「業界の『誰もがコードを組める』という認識や、バイブコーディングが本番環境のアプリとして成立し、ソフトウェア企業は不要だという風潮に対する『清算』あるいは『目覚め』が来ると思います」と、フィンテック分野の開発者は語ります。「私たちは次第に、LLM 開発の負の側面（ハルシネーションや構造化されていないコード）と、大規模な出力の正しさを検証するより良い手法とのバランスを取るためのパターンや業界ベストプラクティスを発見していくでしょう。そして、AI に対する過剰な期待や技術楽観主義は、より健全な中間点へと収束していくはずです。」

ソフトウェア開発者らが「AI が脳を腐らせている」と指摘

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト