Cerebras の Sarah Chieng は、Codex Spark などの新モデルが従来の 20 倍速い 1,200 トークン/秒でコードを生成する時代が到来したと指摘します。これにより、過去の「大量のコードを生成して後から検証する」開発スタイルは技術的負債を生む危険性があり、見直しが急務です。推奨される新ワークフローでは、高速推論を利用してテストスイートやリファクタリングを即時実行し、外部メモリシステムで文脈管理を徹底することが提案されています。
「速いほど危険」という逆説的な視点と、具体的なワークフロー改善案（外部メモリ、即時検証）が盛り込まれた非常に実践的な登壇です。AI エンジニアリングの未来像を考える上で必見の内容です。
- 01
開発者の悪い習慣の危険性
高速モデルは低速時代の「大量生成・後検証」という悪い癖も加速させ、膨大な技術的負債を生むため、開発パラダイムの転換が必要。
- 02
推論速度向上の技術的背景
メモリ壁の突破や disaggregated inference（事前処理とデコードの分離）、MoE アーキテクチャなどの進化により、推論速度が劇的に向上した。
- 03
検証を即時化・自動化するワークフロー
高速モデルではテストやリント、リファクタリングのコストがほぼゼロになるため、コミット前にこれらを常時実行する「検証無料」の環境構築を。
- 04
外部メモリによる文脈管理
コンテキスト圧縮のリスクを避けるため、plan.md や progress.md などの外部ファイルシステムを用いて、タスクを細分化し状態を永続化させる手法。
AI エージェントの速度向上により、開発現場では「生成量」から「品質保証の自動化」への競争軸が移行し、従来の CI/CD パイプラインに高速推論による即時検証機能が標準的に組み込まれるようになるでしょう。これにより、大規模な技術的負債の蓄積を防ぎつつ、より複雑なシステム開発が可能になる一方で、開発者の役割はコード生成からアーキテクチャと品質管理へシフトを迫られます。