今日は何も大きな出来事はありませんでした
Prime Intellect が公開した Verifiers v1 は、ロールアウトトレースをメッセージ DAG として保存する革新的な設計により、長期ホライゾンのエージェント RL における計算コストとデータ成長を劇的に削減し、大規模モデルの実用的な学習環境を実現しました。
キーポイント
Verifiers v1 のアーキテクチャ刷新
タスクセット、ハネス、ランタイムに明確に分離された環境スタックを再設計し、「Bring Your Own Harness」ワークフローをサポートして、多様な実行設定でのコーディングおよびコンピューター使用エージェントの評価を可能にした。
O(n²) から O(n) へのトレース成長の劇的改善
ロールアウトトレースをメッセージ DAG(有向非巡回グラフ)として保存する仕組みにより、各メッセージが重複コピーされず、トークン数に対するデータ成長を二次関数から線形関数へシフトさせた。
大規模 RL 学習の具体的な実証
100B パラメータの推論モデルを用いた 40 ターン SWE エージェントタスクにおいて、6 台の H200 ノードで 1000 ステップの RL 学習を 2 日未満で完了させるという高い効率性を実証した。
vLLM との統合によるトークン化ドリフト防止
vLLM プロジェクトとの連携により、推論とトレーニング間で厳密なトークン ID およびロジット値を維持し、トークン化の不一致(ドリフト)を防ぐことで学習の安定性を担保した。
重要な引用
rollout traces are now stored as message DAGs, so each message is stored once instead of repeatedly copied into full histories
shifts trace growth from O(n²) to O(n) in turn count
100B reasoning model, on 40-turn SWE agent tasks... using 6 H200 nodes in under 2 days
影響分析・編集コメントを表示
影響分析
この発表は、エージェント RL の研究と実装におけるボトルネックであったデータ管理の非効率性を解消し、大規模モデルを用いた長期タスクの実践的な学習を可能にする重要な転換点です。特に計算リソースの節約と学習速度の向上は、次世代の自律型エージェント開発スピードを加速させる要因となるでしょう。
編集コメント
「ほとんど何も起こらなかった日」というタイトルとは裏腹に、RL インフラの根幹を揺るがすほどの技術的進歩(O(n²) から O(n) の転換)が含まれており、実務家にとっては極めて重要なニュースです。
静かな一日でした。
2026年7月11日〜13日のAIニュースをお届けします。今回は12のサブレッドと、544件のツイートを調査しました(Discord は対象外です)。過去のニュースアーカイブは AINews のウェブサイト で検索可能です。なお、AINews は現在 Latent Space のセクションとして運営されています。メール配信頻度の設定も 変更できます。
AI Twitter リキャップ
エージェント RL インフラ:Prime Intellect の Verifiers v1 と長期ホライズンのロールアウト
Prime Intellect が「verifiers v1」をリリースしました。これは、エージェント型強化学習(RL)や評価環境のための基盤スタックを大規模に再設計したものです。
今回の改訂の核心は、環境を「タスクセット」「ハーンネス」「ランタイム」の 3 つに抽象化し分けた点にあります。これにより、多様な実行環境にまたがるコード生成や PC 操作を行うエージェント向けに、「ユーザーが独自のハーンネスを持ち込む(bring your own harness)」というワークフローを明示的にサポートできるようになりました。この点は、Johannes Hage の解説や、その後の詳細な深掘り記事でも強調されています。
チームメンバーによれば、今回のリリースは数ヶ月にわたるインフラの近代化プロジェクトの成果であり、大幅な効率向上をもたらしたとしています。また、willccbb、mikasenghaas、xeophon といったメンバーからの具体的なコメントや解説も加わっています。
技術的な意義について:最も重要な基盤の変化の一つは、ロールアウトの追跡データ(trace)がメッセージの DAG として保存されるようになった点です。これにより、各メッセージは履歴に繰り返しコピーされるのではなく、一度だけ保存されます。その結果、Prime Intellect によると、ターン数に対する追跡データの成長が O(n²) から O(n) に改善され、長期にわたるマルチモーダルなロールアウトやルーターの再実行が実用的なものとなりました。
チームはまた、具体的な学習構成についても言及しました。100B パラメータを持つ推論モデルを、ユーザー提供のコーディング環境で 40 ターン分の SWE エージェントタスクに適用し、6 つの H200 ノードを用いて 1000 ステップの強化学習(RL)を 2 日未満で完了させたというものです。この主張は vLLM によるエコシステム支援によって裏付けられました。vLLM は、推論と学習の間でトークン化のズレが生じないよう、検証者のロールアウトパスが vLLM で実行され、正確なトークン ID や logprobs が保持されていることを確認しています。
コーディングエージェント、ハーン設計、タスク単価競争
ハーン(環境)が製品の表面へと進化しています。複数の投稿で共通して指摘されたのは、モデルの品質だけが差別化要因ではなくなったという点です。現在はハーンやオーケストレーターが結果を決定づける要素となっています。threepointone の発表は「ハーンこそがアプリである」と要約され、LangChain は勝つエージェント製品は汎用的なラッパーではなく、タスク特化型のハーンから生まれると主張しました。Factory はこれに関連し、「デザインモード」を提唱しました。これはユーザーが編集内容を言葉で再指定するのではなく、UI 要素やファイルを指し示すことで操作を行うという UI のアプローチです。
オーケストレーションの側面では、omarsar0 が価格やポリシーの変動に対する保険として、モデルプロバイダーを切り替える機能を強調しました。
ベンチマークの評価基準が、トークン単価から「タスクあたりのコスト」へとシフトしています。Skirano が構築したコーディングエージェントのインデックス・エクスプローラーによると、Terra Max は Fable 5 Max よりもわずかにスコアが高く、かつ大幅に低コストであるという、顕著なコストと性能のトレードオフが明らかになりました。また Cognition の報告では、Devin Fusion が Fable 5 を採用しており、驚くべきことに Opus 4.8 よりもタスクあたりのコストが低いことが示されています。これは、モデルの委譲能力や判断力が向上し、不要な作業が減った結果です。
imjaredz はこれらの実験から重要な統計データを指摘しました。Fable をリードとする実行の 81% で、先導モデルはコード編集を行わないという事実です。つまり、高価なモデルでも無駄な行動を避ければ、全体のコストを下げる可能性があるのです。
現実世界におけるエージェント・ベンチマークも、より詳細化されつつあります。Arena のエージェント・リーダーボードでは、7,800 件の実環境での実行セッションに基づき、GPT-5.6 Sol が高い操縦性とタスク成功率を評価されて 2 位にランクインしました。その後、Grok-4.5 は 13 位となり、前バージョンの Grok 4.3 から大幅に順位を上げました。
Artificial Analysis もまた、長期間にわたる知識労働において「タスクあたりのコスト」がますます重要な指標になると強調しています。トークン単価のみでは、ターン数や冗長さ、キャッシュヒット率といった要素の影響を見逃してしまうからです。一方、Parlance Labs による別評価研究では、生産環境での音声エージェントのトレースデータに基づき、自動化された評価プラットフォームと基盤モデルの失敗分析を比較しました。また dair.ai は、CLI コーディングエージェントの失敗構造に関する論文を紹介し、単なる最終的な合格・不合格ではなく、実行が回復不能になるポイントに焦点を当てています。
OpenAI GPT-5.6 Sol、Codex の利用修正、およびプロダクト機能の拡大
- OpenAI は Codex と Sol の利用急増(バーン)について、透明性を持って対応しました。最大の議論の糸口となったのは thsottiaux 氏で、ChatGPT Work や Codex における GPT-5.6 Sol のための複数の修正策を説明しています。具体的には、推論最適化による利用量の約 10% 増、請求や利用状況への悪影響を受けた後のコンテキスト制限を 372k から 272k に引き戻したこと、一部の試行的な推論努力("juice")の変更の取り下げ、そして高設定域での過剰なマルチエージェント動作の修正です。コミュニティでは theo 氏による逆解析から、長期コンテキスト、サブエージェントの生成、高速モードといった複合要因が利用急増の原因ではないかという指摘がありましたが、後にフォローアップで請求に関する一つの詳細を訂正しています。反応は二分され、「弱体化(ナーフ)」への批判(ns123abc)と、異例とも言える透明性への称賛(theo, sama)でした。
- ユーザーからは、コーディングやコンピュータ操作における強力な能力が報告されています。複数の実践者が OpenAI がコーディングモデルで主導権を握ったと指摘するなか、schrockn 氏もその一人です。一方、gdb 氏はスタートアップの調査、ウェブデザイン、モバイル作業、サイト生成などにおいて、ChatGPT Work と Codex のワークフローを繰り返し実演しました。特に印象的なデモとして、Blender の経験がない状態で Cursor で Sol を使い Blender MCP をセットアップし、浮遊する MacBook をレンダリングした Star_Knight12 氏や、SQL でドゥーム(Doom)のようなゲームを構築する GPT-5.6 Sol Ultra を示した petergostev 氏の姿が挙げられます。
- プロダクトレベルでの拡大は続いています。ChatGPT アプリは、欧州経済領域(EEA)における WhatsApp への復帰と、その他の市場での Kakao や Viber のサポートを発表しました。また、OpenAI Devs では OpenAI Build Week の応募受付を開始しています。OpenAI エコシステム全体を要約すれば、gdb が簡潔に述べたように「物を作れるようになった」という瞬間です。
オープンモデル、推論システム、そして量子化
- トランスフォーマーと vLLM の統合により、モデル実装の重複が解消されました。Clement Delangue は、この大きなオープン推論の利便性向上を強調しました。Hugging Face のトランスフォーマーモデルが、ネイティブ速度で vLLM 上で実行可能になり、手書きの実装に匹敵する、あるいはそれを超えるパフォーマンスを発揮できるようになったのです。これが広く一般化すれば、新しいアーキテクチャごとに「研究・トレーニング用」と「高性能推論用」の二重実装という長年の負担が解消され、新たなオープンモデルアーキテクチャの普及を劇的に加速させる可能性があります。
- 量子化は依然として重要な手段です。waterloo_intern は、既存のアプローチ(NVIDIA の ModelOpt など)を上回る新しい量子化手法をプレビューしました。これは層ごとの精度割り当てをより高速に見つけ出し、より積極的な量子化と高いベンチマークスコアを実現するものです。これに続く形で、Unsloth が GGUF、NVFP4、FP8 を含む LLM の量子化とデプロイに関する AWS 向けガイドを発表しました。また、nrehiew_ 氏による fp4 RL や fp4 サービングに関する実践者のコメントもあり、低ビット数のポストトレーニングが、品質の低下を最小限に抑えつつ安価なサービングを実現する可能性を示唆しています。
- GLM-5.2 とローカル/オープンソースのコーディングスタックは引き続き注目を集めています。複数のユーザーが、実際の業務フローをオープンまたは準オープンな環境へ移行したと報告しています。juanju cm は GLM-5.2 を用いたコーディングエージェントのワークフロー構築について記事を書き上げました。また TheZachMueller 氏は、Claude から GLM 5.2 NVFP4 と Kimi K2.7 Code NVFP4 を基盤としたスタックへ、実際の業務パイプラインを移行したと報告しています。8xB200 ノード上で動作させることで、コストは数セントで済む高密度なレポート生成が可能になりましたが、その分、処理にかかる実時間は若干遅延しています。さらに nutlope 氏も GLM 5.2 を基盤に再構築された LlamaCoder v4 をリリースしました。
エージェントツールにおけるセキュリティ、プライバシー、データ管理
- Grok Build のコードアップロードを巡る論争:最も重要なセキュリティ関連のニュースは、IntCyberDigest と hrkrshnn 氏による告発でした。彼らは xAI の「Grok Build CLI」が、コーディングタスクに必要な範囲を超えて、プライベートなコードや機密情報を含むリポジトリ全体を Google Cloud バケットへアップロードしていると指摘しました。批判の焦点は、処理範囲の広さ、サーバー側での無言の対策、そしてデータ保持・削除に関する保証の不透明さにありました。これにより、エージェントツールが実際に何を転送しているのか、またオプトアウト(利用拒否)UI がネットワークレベルの動作とどう乖離する可能性があるのかという議論が広がりました。
- xAI の回答は ZDR とプライバシー制御を強調:SpaceXAI は、ゼロデータ保持(ZDR)を採用しているチームについては、トレース情報やコードデータは一切保持されず、API キーの使用も ZDR に準拠していると反論しました。また「/privacy」コマンドを実行することで、データ保持を無効化し、過去に同期されたデータを削除できると説明しています。これは運用上の疑問には一定の回答をもたらしましたが、デフォルト動作や過去のアップロード履歴、そして開示の規範に関するコミュニティの懸念を完全に解消したわけではありません。
信頼の境界線が、オープンとクローズドを巡る議論の中心となっています。今回の件を受け、複数の投稿者が議論を広げました。mchiang0610 氏と jmorgan 氏は、オープンモデルは単にコストの問題ではなく、人間と AI の学習ループに対するコントロール権や、組織内の知識を社内に保持できる点こそが重要だと主張しました。また、Arav Srinivas 氏は、ZDR(Zero-Day Response)の可用性が、Perplexity が Grok 4.5 を Computer ハーネスに迅速に統合した理由の一つだったと述べています。
継続学習、マルチモーダルシステム、そして研究の方向性
- 継続学習(Continual Learning)が、再び主要なシステム課題として浮上しています。ysu_nlp 氏は、「すべての組織が独自の人間-AI 学習ループを所有する世界」を実現するには、継続学習の問題解決が不可欠だと指摘しました。その上で、現在の手法であるメモリ活用や RAG(検索拡張生成)、ドメイン特化のポストトレーニング、タスクベースの強化学習は、まだ不十分だと述べています。このテーマは、skyfallai による新しい研究でも繰り返されました。同チームは「Morpheus」というプロジェクトを発表しました。これは世界がリセットされない現実世界の強化学習(RL)向けに設計された、永続的な企業シミュレーションです。fchollet 氏はこれを評価し、従来の静的なエピソード型 RL に比べ、実際のデプロイメント環境により適したベンチマークだと endorsing しました。
「睡眠と夢」を大規模言語モデル(LLM)に:Behrouz Ali 氏ら共著者が提案したのは、短期記憶を長期記憶へ定着させるための「睡眠フェーズ」と、再帰的な自己改善を行うための「夢フェーズ」が LLM に必要かもしれないというものです。この提案では「知識の種まき(Knowledge Seeding)」を導入し、継続学習や推論タスクにおける効果も報告されています。これは現在の継続学習手法への広範な不満と合致しており、リッチ・サットン氏らによる新ベンチャー「Oak Lab」とも響き合います。Oak Lab は標準的な LLM パイプラインではなく、経験から学ぶ動物のような知能の実現を目指しています。
LLM エージェントに限定されない研究が多数発表されました。注目すべき成果には、Sakana AI の「スマート細胞レンガ(Smart Cellular Bricks)」があります。これはモジュラーシステムにおける分散型の自己認識と修復を可能にする技術です。ByteDance が発表した「UniVR-34B」は、視覚的なデモンストレーションから直接推論・ダイナミクス・計画の学習を行うモデルとして紹介されています。Google DeepMind は過去の推論ワークフロー向けに「過去予測(Predicting the Past)」スキルを公開しました。また Anthropic は、匿名化された 30 万件以上の会話データを分析し、Claude の表現される価値観がモデルや言語によってどう異なるかを研究しています。
エンゲージメント上位のツイート
- OpenAI Codex/Sol の利用に関する修正:thsottiaux 氏が GPT-5.6 における Sol の使用状況、コンテキスト、「ジュース(処理能力)」、マルチエージェント環境での修正について言及。
- Grok Build のプライバシーインシデント:IntCyberDigest が xAI クラウドバケットへのフルリポジトリアップロード問題を報じました。
- OpenAI の対応態度とユーザー扱いに関する Sama の発言:「最高のモデルを求めて来て、我々があなたを見下して扱わないからこそ留まるのだ」と述べました。
Prime Intellect のロールアウト効率:willccbb が、6 枚の H200 を用いて 40 ターン分の SWE RL(ソフトウェアエンジニアリング強化学習)データに対して 100B パラメータの推論モデルを、2 日未満でトレーニングする方法について解説
Anthropic の価値観研究:30 万件以上の会話データを分析し、モデルや言語によって価値表現がどのように異なるかについて Anthropic が語る
Transformers と vLLM の相互運用性:Clement Delangue が、Transformers モデルをネイティブ速度で vLLM で実行する方法について解説
AI Reddit Recap
/r/LocalLlama + /r/localLLM Recap
1. E-Waste GPU Inference Benchmarks and Fixes
- 「現代のワークロードで 15 枚の『電子廃棄物』GPU をベンチマークした(活動:462)」
1 年間かけて行われたホームラボでのベンチマークでは、退役した NVIDIA Tesla グラフィックカード(K80/M10/M40/M60/P40/P100/V100/T40)を、LLM やコンピュータビジョン、Blender、Whisper など多様なワークロードでテストしました。使用したのは作者が独自に開発した Docker 化されたベンチマークスイート「gpu_box_benchmark」です。詳細なグラフは著者のブログで公開されています。
主な発見として、V100(16GB)が最もコストパフォーマンスに優れ、T40 に迫る性能を示しました。また、LLM の処理においては P40 が P100 を上回る結果となりました。意外にも Whisper での M60 の性能は非常に高く、4U ケース内でのマルチ GPU スケーリングもほぼ線形に近いものでした。EOL(サポート終了)によるソフトウェアや省電力性の課題はあるものの、安価な X99 マザーボードと Xeon プロセッサの組み合わせであれば、これらのカードを十分に駆動できることが確認されています。
コメント欄では、「本当に現代のワークロードをターゲットにしているのか」という疑問が投げかけられました。小規模モデルや ResNet 風のテストは、大規模モデル向けの安価な VRAM のプールという本来の価値を十分に引き出していないとの指摘です。また、今後のフォローアップとして、電力消費量やノイズレベルの測定、そして Qwen 3.x 27B/35B MoE などのモデルで長文コンテキスト処理を行う際の、プロンプト処理速度やトークン生成速度といった LLM サービング指標の計測が求められています。
いくつかのコメントでは、ベンチマークスイートが現在の高 VRAM ユースケースを反映していないと指摘されました。ResNet や小規模モデルだけでは、「低価格な VRAM グラフィックボード」の評価には不十分だとの意見です。コメント投稿者らは、Qwen 3.6 の 27B/31B MoE や 35B A3B といった大規模現代 LLM を用いたテストを求めました。また、プーリングされた VRAM 構成でこれらが動作するかどうかや、150k トークンという長いコンテキスト長におけるプロンプト処理(PP)とトークン生成(TG)のスループットについても確認したいとしています。
技術的な訂正として、Tesla P100 は通常、Tesla P40 よりも性能が高いはずです。ただし、関連する fp32 パッチが動作を変更していない限りですが、P100 の HBM バンド幅は P40 のメモリ帯域幅の約 3 倍であるためです。もしベンチマーク結果で P40 が上回っているにもかかわらず、ソフトウェアやカーネルの違いについて説明がない場合、メモリーバウンド型のワークロードが誤って評価されている可能性があります。
あるコメント投稿者は、P102-100 というマイニング用 GPU の追加を提案しました。この製品は現在約 50 ドルで入手可能で、アイドル時の消費電力も 10 W と低く、
原文を表示
a quiet day.
AI News for 7/11/2026-7/13/2026. We checked 12 subreddits, 544 Twitters and no further Discords. AINews' website lets you search all past issues. As a reminder, AINews is now a section of Latent Space. You can opt in/out of email frequencies!
AI Twitter Recap
Agent RL Infrastructure: Prime Intellect’s Verifiers v1 and Long-Horizon Rollouts
- Prime Intellect’s verifiers v1: Prime Intellect released verifiers v1, a substantial redesign of its environment stack for agentic RL and evals. The key abstraction splits environments into a taskset, harness, and runtime, explicitly supporting “bring your own harness” workflows for coding and computer-use agents across heterogeneous execution setups, as highlighted by Johannes Hage and in a follow-up deep dive. The release was framed by team members as months of infra modernization work with major efficiency gains, including richer commentary from willccbb, mikasenghaas, and xeophon.
- Why it matters technically: one of the most important underlying changes is that rollout traces are now stored as message DAGs, so each message is stored once instead of repeatedly copied into full histories; that shifts trace growth from O(n²) to O(n) in turn count, making long-horizon multimodal rollouts and router replay much more practical, per Prime Intellect. The team also claimed a concrete training configuration: a 100B reasoning model, on 40-turn SWE agent tasks, in a user-supplied coding harness, for 1000 RL steps, using 6 H200 nodes in under 2 days (willccbb). That claim was reinforced by ecosystem support from vLLM, which noted verifiers’ rollout path runs on vLLM with exact token IDs/logprobs to avoid tokenization drift between serving and training.
Coding Agents, Harness Design, and Cost-Per-Task Competition
- Harnesses are becoming the product surface: several posts converged on the idea that model quality is no longer the only differentiator; the harness/orchestrator increasingly determines outcomes. threepointone’s talk was summarized as “the harness is the app,” while LangChain argued that winning agent products will come from task-specialized harnesses, not generic wrappers. Factory pushed a related UI angle with “design mode,” where users point at UI elements/files instead of verbally re-specifying edits. On the orchestration side, omarsar0 emphasized provider-switching across models as a hedge against pricing/policy churn.
- Benchmarks are moving from token price to cost per task: skirano built a coding-agent index explorer and found notable cost/perf tradeoffs such as Terra Max slightly ahead of Fable 5 Max on score for materially lower cost, while Cognition reported that Devin Fusion now uses Fable 5 and that, surprisingly, it can be lower cost per task than Opus 4.8 because stronger delegation and judgment reduce unnecessary work. imjaredz highlighted the key stat from those experiments: in 81% of Fable-led runs, the lead model never makes a code edit, implying expensive models can be cheaper when they avoid wasted actions.
- Real-world agent benchmarks are getting denser: Arena placed GPT-5.6 Sol at #2 on its agent leaderboard based on 7.8K real-world agentic sessions, with strong steerability and task success; later, Arena put Grok-4.5 at #13, a significant jump over Grok 4.3. Artificial Analysis also emphasized cost per task as an increasingly important metric for long-horizon knowledge work, arguing token pricing alone misses effects from turns, verbosity, and cache hit rates. Separate evaluation work from Parlance Labs compared automated eval platforms and foundation models on failure analysis over production voice-agent traces, while dair.ai highlighted a paper on the anatomy of CLI coding-agent failures, focusing on where runs become unrecoverable rather than only final pass/fail.
OpenAI GPT-5.6 Sol, Codex Usage Fixes, and Product Surface Expansion
- OpenAI addressed Codex/Sol usage burn transparently: the biggest operational thread came from thsottiaux, who explained several fixes for GPT-5.6 Sol in ChatGPT Work/Codex: inference optimizations yielding roughly 10% more usage, a rollback of context limit from 372k to 272k after billing/usage side effects, reversion of some experimental reasoning-effort (“juice”) changes, and fixes for overactive multi-agent behavior at high/xhigh settings. Community reverse-engineering from theo proposed that compounding factors around long context, subagent spawning, and fast mode were behind the severe burn, though he later corrected one billing detail in a follow-up. Reactions split between criticism of a perceived “nerf” narrative (ns123abc) and praise for unusual transparency (theo, sama).
- Users are reporting strong coding/computer-use capability: multiple practitioners argued that OpenAI has taken the lead on coding models, including schrockn, while gdb repeatedly showcased ChatGPT Work and Codex workflows for startup prospecting, web design, mobile work, and site generation. Particularly illustrative user demos included Star_Knight12 using Sol in Cursor to set up Blender MCP and render a floating MacBook without prior Blender experience, and petergostev showing GPT-5.6 Sol Ultra building a Doom-like game in SQL.
- Product-level expansion continues: ChatGPTapp announced ChatGPT’s return to WhatsApp in the EEA, plus Kakao/Viber support in additional markets. OpenAIDevs opened submissions for OpenAI Build Week. Across the OpenAI ecosystem, gdb summarized the moment succinctly: “you can just create things.”
Open Models, Inference Systems, and Quantization
- Transformers↔vLLM integration removes duplicated model implementation work: Clement Delangue highlighted a major open-inference usability improvement: Hugging Face Transformers models can now run in vLLM at native speed, often matching or exceeding hand-written implementations. If this generalizes broadly, it reduces the long-standing burden of implementing each new architecture twice—once for research/training and once for high-performance serving—and could materially accelerate adoption of new open model architectures.
- Quantization remains a major lever: waterloo_intern previewed a new quantization method claimed to beat existing approaches, including NVIDIA’s ModelOpt, by finding better layerwise precision assignments faster, with more aggressive quantization and higher benchmark scores. Complementing that, Unsloth published an AWS guide to LLM quantization and deployment spanning GGUF, NVFP4, and FP8. There was also practitioner commentary around fp4 RL / fp4 serving from nrehiew_, arguing low-bit post-training may enable cheap serving with limited quality loss.
- GLM-5.2 and local/open coding stacks continue to gain traction: several users described moving real workflows onto open or semi-open setups. juanjucm wrote up using GLM-5.2 for coding-agent workflows, while TheZachMueller reported migrating one actual work pipeline from Claude to a stack built around GLM 5.2 NVFP4 plus Kimi K2.7 Code NVFP4 on an 8xB200 node, getting denser reports for pennies albeit at slower wall-clock latency. nutlope also released LlamaCoder v4, rebuilt around GLM 5.2.
Security, Privacy, and Data Control in Agent Tooling
- Grok Build code upload controversy: the most consequential security story came from IntCyberDigest and hrkrshnn, who alleged that xAI’s Grok Build CLI was uploading entire repositories—including private code and secrets—to a Google Cloud bucket, far beyond what was needed for the coding task. The criticism centered on scope, silent server-side mitigation, and unclear retention/deletion guarantees. This triggered broader discussion about what agent tools actually transmit and why opt-out UX can diverge from wire-level behavior.
- xAI’s response emphasized ZDR and privacy controls: SpaceXAI replied that for teams using zero data retention, trace and code data is not retained, API key use respects ZDR, and the /privacy command can disable retention and delete previously synced data. That answered some operational questions but did not fully resolve community concern around default behavior, prior uploads, and disclosure norms.
- Trust boundaries are becoming a central open-vs-closed argument: several posts extended the conversation beyond this incident. mchiang0610 and jmorgan argued that open models are not just about cost but about control over the human-AI learning loop and keeping institutional knowledge in-house. Arav Srinivas said ZDR availability was one reason Perplexity integrated Grok 4.5 quickly into its Computer harness.
Continual Learning, Multimodal Systems, and Research Directions
- Continual learning is re-emerging as a first-class systems problem: ysu_nlp argued that a world where every organization owns its own human-AI learning loop depends on solving continual learning, and that current approaches—memory/RAG, domain post-training, task RL—are not yet sufficient. That theme recurred in new work from skyfallai, which introduced Morpheus, described as a persistent enterprise simulation for real-world RL where the world does not reset; fchollet endorsed it as a benchmark better aligned with real deployment than stationary episodic RL.
- “Sleep and dreaming” for LLMs: behrouz_ali and coauthors proposed that LLMs may need a sleep phase to consolidate short-term into long-term memory plus a dreaming phase for recursive self-improvement, introducing Knowledge Seeding and reporting benefits on continual learning/reasoning tasks. This dovetails with broader dissatisfaction around current continual-learning recipes and with Oak Lab, the new venture from Rich Sutton and collaborators pursuing animal-like intelligence that learns from experience rather than today’s standard LLM pipeline.
- A broad spread of non-LLM-agent research shipped: notable items included Sakana AI’s Smart Cellular Bricks for decentralized physical self-recognition and repair in modular systems; ByteDance’s UniVR-34B, described as learning reasoning/dynamics/planning directly from visual demonstrations; Google DeepMind’s Predicting the Past skill for historical inference workflows; and Anthropic’s research on how Claude’s expressed values vary across models and languages based on analysis of 300K+ anonymized conversations.
Top tweets (by engagement)
- OpenAI Codex/Sol usage fixes: thsottiaux on GPT-5.6 Sol usage, context, “juice,” and multi-agent fixes
- Grok Build privacy incident: IntCyberDigest on full-repo uploads to xAI cloud buckets
- OpenAI response tone and user treatment: sama: “come for the best model, stay because we don’t treat you with contempt”
- Prime Intellect rollout efficiency: willccbb on training a 100B reasoning model for 40-turn SWE RL on 6 H200s in under 2 days
- Anthropic values research: Anthropic on model/language-dependent value expression across 300K+ conversations
- Transformers + vLLM interoperability: Clement Delangue on running Transformers models in vLLM at native speed
AI Reddit Recap
/r/LocalLlama + /r/localLLM Recap
1. E-Waste GPU Inference Benchmarks and Fixes
- I benchmarked 15 "E-Waste" GPUs with Modern Workloads (Activity: 462): A year-long homelab benchmark tested decommissioned NVIDIA Tesla GPUs (K80/M10/M40/M60/P40/P100/V100/T40) using a custom Dockerized suite (gpu_box_benchmark) across LLMs, CV, Blender, Whisper, and related workloads, with full graphs on the author’s blog. Key findings: V100 16GB was the best overall value and approached T40 performance, P40 outperformed P100 for LLMs, M60 was unexpectedly strong for Whisper, multi-GPU scaling was roughly linear in a 4U chassis, and cheap X99 + Xeon platforms generally fed the cards adequately despite EOL software/power-efficiency caveats. Commenters questioned whether the benchmark really targets “modern” workloads, arguing that small models and ResNet-style tests do not exercise the main value proposition: cheap pooled VRAM for larger models. Requested follow-ups included power/noise measurements and LLM serving metrics such as prompt processing/token generation at long context lengths for models like Qwen 3.x 27B/35B MoE across multiple V100/P40-class cards.
Several commenters argued the benchmark suite did not represent current high-VRAM use cases: ResNet and small models were described as insufficient for evaluating “cheap VRAM” GPUs. They requested tests with larger modern LLMs such as Qwen 3.6 27B/31B MoE/35B A3B, including whether pooled VRAM configurations can run them, and asked for prompt-processing (PP) and token-generation (TG) throughput at long context lengths such as 150k ctx.
- A technical correction noted that the Tesla P100 should normally outperform the Tesla P40 unless a relevant fp32 patch has changed behavior, because the P100’s HBM bandwidth is roughly 3× higher than the P40’s memory bandwidth. This implies memory-bound workloads may be misrepresented if the benchmark shows the P40 ahead without explaining software/kernel differences.
One commenter suggested adding the P102-100 mining GPU, which is currently available around $50, has relatively low idle power around 10 W, and is
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み