[AI ニュース] 創業者とフォワード・デプロイエンジニア
Latent Space の AINews は、Anthropic の新モデル Opus 4.8 の評価やプラットフォーム改善、および AI エンジニアリング分野における RL の隠れたバグと FDE/Founders プログラムの発表を伝えている。
キーポイント
Claude Opus 4.8 の評価と実用性
ベンチマークでは画期的な進歩ではないが、コーディングにおける協力的な振る舞いやコスト効率の向上など、実運用での品質向上（QoL）として評価されている。
プラットフォーム機能と価格への不満
会話中のシステム指示やロール更新機能の追加は長期的エージェントセッションに寄与するが、API 価格の高さが依然として大きな課題となっている。
マルチターン RL の隠れたバグ
ツール使用型モデルの学習ループにおいて、デコードとパースの処理に致命的な欠陥があり、多くのトレーニングが実質的に機能していない可能性が指摘された。
AI エンジニアリング人材育成プログラムの拡大
OpenAI や Anthropic に倣い、AIE が Forward Deployed Engineer（FDE）トラックと起業家向けピッチコンテストを開始し、業界の標準化を加速させている。
RL トレーニングの重大なバグと修正方針
ツール使用型マルチターン RL で、再トークン化により勾配が実際にはサンプリングされていないシーケンスに適用される「静かな失敗モード」が指摘され、「Token-In, Token-Out」ルールによる修正が提案された。
ハネス設計の重要性と計算効率指標
単純なトークン数やツール使用回数よりも、フィードバック計算効率（EFC）がエージェントの成功を説明する上で重要であり、モデルごとの最適化されたプロファイル設計がコスト削減に直結している。
オープンウェイトモデルとローカル AI の台頭
AI チームの 3 分の 1 がオープンウェイトモデルを使用するようになり、llama.cpp や Ollama などのツールチェーンがローカルでのデプロイと統合を容易にし、フロンティアモデルとの差は約 4 ヶ月となっている。
影響分析・編集コメントを表示
影響分析
この記事は、最新の LLM モデルがベンチマーク数値だけでなく実運用における安定性とコスト効率で評価されるべきであることを示唆しており、業界全体のパラダイムシフトを反映しています。また、RL 学習の根本的なバグ指摘は、今後のエージェント開発におけるインフラストラクチャの信頼性向上に向けた重要な警鐘となっています。
編集コメント
最新のモデル評価が「ベンチマークの再設定」ではなく「実用性の向上」として捉えられている点は、AI 産業が成熟期に入りつつあることを示唆しています。また、RL のバグ指摘は、開発者が学習プロセスを盲信せず、インフラ層の検証を強化する必要性を痛感させます。
昨日の Anthropic の大規模ニュースをまだ消化しきれていない人がほとんどです。
私たちはこの機会を利用して、AIE の新しいフォワードデプロイエンジニア（FDE）トラックのために、世界有数の AI FDE を募集しています。これは OpenAI DeployCo と Anthropic DeployCo が行った同様の取り組みに倣ったものです：
また、AIE の新しいファウンダープログラムも開始します。ここでは YCombinator の Garry Tan と Howie Lu が主宰する 1,000 万ドルのハイパーエージェントコンテストを軸とした、Startup Battlefield に相当する競争的なピッチコンテストを開催しています。興味がある方は、詳細とホテルの手配のために今日サインアップしてください。
2026 年 5 月 28 日〜29 日の AI ニュース。私たちは 12 のサブレッド、544 件の Twitter（X）投稿を確認し、Discord は確認していません。AINews のウェブサイトでは過去のすべての号を検索できます。念のためにお知らせしますが、AINews は現在 Latent Space のセクションの一部となっています。メールの頻度を選択的にオン/オフに設定可能です！
AI Twitter リキャップ
Claude Opus 4.8 の展開、ベンチマークにおける摩擦、および API の使いやすさ
Opus 4.8 は、ノイズの多い混合された評価環境に登場しました。複数の独立したベンチマークは「改善はあるが支配的ではない」という結論に収束しています。@arena は Opus 4.8 を以前の Opus バリアント、Gemini、GLM と比較する 200 以上のフロントエンド/コードテストを実施し、@theo は CursorBench で 4.7 より効率的であるが誤差の範囲内でわずかに劣ると報告しました。@jerryjliu0 と @llama_index は表やレイアウトにおいて小さな改善を見ましたが、文書解析におけるコンテンツの忠実度やチャートにおいては後退を指摘しました。@scaling01 は ALE-Bench での進展はないとし、別途 LisanBench で興味深い失敗モードを指摘しました。肯定的な側面として、@jeremyphoward は 4.8 がコーディングにおいて 4.7 や GPT-5.5 よりも過剰に自律的ではなく、より協調的であると発見し、@leo_linsky はこれを以前の Anthropic リリースに対する具体的な製品改善と呼びました。
Anthropic はまた、有用なプラットフォームレベルの変更も実施しました。@ClaudeDevs はプロンプトキャッシュを破綻させることなく会話中にシステム指示を出せるようになり、さらに長期間実行されるエージェントセッションやコスト管理において重要な、権威ある会話中のシステムロール更新を実現しました。しかし、価格設定は依然として大きな不満の種です。@jeremyphoward は Anthropic が API の手頃さに対してほとんど何もしていないと主張し、サブスクリプションや API の経済性が説明しやすいという理由から GPT-5.5 を好む傾向にあると指摘しました。全体的な結論：4.8 はベンチマークの完全な再設定ではなく、実際の利用における意味のある生活の質向上リリースのように見えます。
エージェントハネス、多ターン強化学習（RL）のバグ、そして自律性を取り巻くインフラストラクチャ
微妙だが重要な強化学習（RL）の失敗モードが指摘されました：@ClementDelangue は、多くのツール使用型・多ターン RL 学習ループが静かに破綻している理由を解説した Hugging Face の詳細記事を紹介しました。核心的なバグは、モデル出力のデコード、ツール呼び出しのパース、更新された会話の再トークン化を行う過程でトークン化が変わり、勾配がモデルが実際にサンプリングしたことのないシーケンスに適用されてしまう点です。提案される解決策は厳格な「Token-In, Token-Out」ルールです：サンプリングされたトークンを再エンコードしてはいけません。ターン全体を通じて単一のトークンバッファを維持します。@johnschulman2 は、レンダラーがメッセージとトークンの間の基盤的なインフラストラクチャであり、失敗モードには訓練/テストの不整合、キャッシングの非効率性、プロンプト注入リスクが含まれるというより広範な点を強調しました。
ハルネス設計は独自の最適化分野へと進化しています：@omarsar0 が Effective Feedback Compute (EFC) に関する研究を提示し、生のトークン数やツール使用回数はエージェントの成功を説明する指標として不十分である一方、EFC は R²が最大 0.99 に達すると主張しています。これはハルネスの質が総活動量よりも重要であることを示唆しており、@LangChain のような製品化されたチューニング取り組みとも合致します。Deep Agents v0.6 では、Qwen/Kimi/DeepSeek などのモデルから最先端 API と比較して 20 倍以上のコスト削減で強力なパフォーマンスを得るため、ハルネスプロファイルをファーストクラスとして扱っています。また、@hwchase17 は「異なるモデルには異なるプロンプトやツールが必要である」と明確に位置付けています。
@vllm_project はネイティブのウェイト同期 API を実装し、非同期 RL（強化学習）における一時停止・再開機能を改善しました。その後、fastokens という Rust ベースの BPE トークナイザーを追加し、長文コンテキストやエージェントワークロードにおける CPU によるトークン化のボトルネックを削減しています。
議論は「単一エージェント vs マルチエージェント」から、どこで抽象化が効果を発揮するかへとシフトしています：@OfirPress は現在のマルチエージェントシステムは主に速度向上のものであり、能力の解放ではないと主張しました。一方、@scaling01 はスワーム型トレーニングがより優れた計画や超知能のような振る舞いを生み出すと反対の見解を示しました。いずれにせよ、実用的なトレンドは明確です：より多くのチームがエージェントの観測可能性（オバザビリティ）、トレース、継続的改善ループを中心に構築しています。例えば、@Vtrivedy10 は生産環境でのトレースを SFT（教師あり微調整）や蒸留、長期にわたる継続学習のために活用する手法について言及しています。
オープンモデル、ローカル AI、そして OSS ツールチェーンの強化
ローカルファーストおよびオープンウェイトの勢いは引き続き高まっています：@LangChain によると、2026 年 4 月には AI チームの 3 分の 1 がオープンウェイトモデルを実行しており、9 ヶ月前の 5 分の 1 から増加しています。一方、@EpochAIResearch は、オープンウェイトモデルが最先端の独自モデルに比べて約 4 ヶ月遅れていると推定しています。ツールチェーン側では、@ggerganov が llama.app を立ち上げ、llama.cpp に公式ウェブサイト、統一されたインストーラー、およびより簡単なローカル展開やサードパーティ製エージェント統合を目的とした単一の llama エントリーポイントを提供しました。また、@ollama は Ollama を通じて OpenJarvis を発表し、これは Stanford/Hazy の「ワットあたりの知能（Intelligence Per Watt）」という枠組みに明示的に結びついたローカルファーストのパーソナル AI です。
オープンインフラストラクチャはよりエンタープライズ志向を強めています：@ClementDelangue は、Hugging Face 上のモデルとデータセットの約 50% が現在プライベート化されており、HF のストレージ/バケット提供に伴って増加していると指摘しました。これは、HF が単なるパブリック OSS インフラストラクチャであるという考えに対する重要な是正です。@abidlabs は、Hugging Face Jobs が CPU サーバーレス GPU CI において GitHub Runners を置き換えていることを示しました。また、@DSPyOSS、@dbreunig、および他の関係者は、4.0 のリリースに先駆けて DSPy ドキュメントとトップページを再設計し、純粋なプロンプトエンジニアリングではなく、プログラマブル AI システムへのオンボーディングに焦点を当てました。
ライセンスと許容性は戦略的なレバーになりつつあります：@kimmonismus は、NVIDIA が 4 つのオープンモデルファミリーを Linux Foundation OpenMDW-1.1 に移行し、重み・コード・ドキュメント・データにわたる法的な断片化を削減した点を指摘しました。新しい許容性のあるデータリリースも重要です：@keshigeyan は、視覚生成用の明示的な研究および商用利用が可能である 100M ペアの許容性画像コーパスと 1M ペアのベンチマークを含む GPIC を紹介しました。
Google/OpenAI のプロダクト表面が拡大：マネージドエージェント、Gemini Spark/Omni、Windows 上の Codex
Google は「マネージドエージェント」のスタックを API から消費者向け製品へと広げています：@_philschmid は Gemini API における Managed Agents を示しました。これは単一の API 呼び出しで、コード実行、ウェブアクセス、ファイル入出力を備えたサンドボックス化された Linux 環境をプロビジョニングするものです。消費者側では、@GeminiApp が Gemini Spark を米国の AI Ultra サブスクライバー向けに展開し、ユーザーの指示のもとデジタルエコシステム全体で動作できる 24/7 のパーソナルエージェントとして機能しています。Google はまた、Gemini Omni のマルチモーダル生成・編集デモ（例：製品スレッド）を継続して推進し、動画・映画制作におけるクリエイティブワークフロー向けの Google Flow Agent を発表しました（スレッド）。
OpenAI の Codex は、永続的なリモート開発オペレーターに近づいています。@OpenAI と @OpenAIDevs が Windows でのコンピューター操作機能を追加し、ChatGPT モバイルアプリからの遠隔ステアリングも可能になりました。続く UX 改善には、バックグラウンドエージェント用の安定したアイデンティコンと、過去のチャットコンテンツ全体を検索する機能が含まれています（@OpenAIDevs）。また、@reach_vb が Windows コントロール、モバイルによるリモートアクセス、プロフィールおよびタスク統計に関する広範な Codex の更新を要約しました。一方、OpenAI は @michpokrass によると、gpt-5.5 instant を更新し、同調性（sycophancy）、事実の正確さ、多言語パフォーマンスを向上させました。
これらはすべて、より垂直統合されたエージェントスタックへの道を示しています：モデル＋ハネス＋サンドボックス＋UI＋リモートコントロール＋価格設定・クォータ。Google は Gemini のクォータ調整をスムーズに行っています（@joshwoodward）。OpenAI は Codex の運用範囲を拡大しており、Cursor はサブエージェントベースの承認ルーティングを備えた自動レビューモードを追加しました（ツイート）。共通するパターンは、「チャットボット」から離れ、ポリシーとメモリを持つ管理された実行環境へと移行している点です。
注目に値する研究およびシステム論文
検索、取得、記憶：@TheTuringPost は、ハーバード大学・MIT の Bidirectional Evolutionary Search（BES）を紹介しました。これは前方探索を後方分解と進化演算子と組み合わせたもので、報告された成果には、MuSiQue における Llama-3.2-3B-Instruct の性能が 4.0% から 7.0% に向上したことが含まれます。取得（retrieval）においては、@_reachsumit が Latent Terms を指摘し、凍結された密な検索器から SAEs（Sparse Autoencoders）を通じてスパースな BM25 対応特徴を抽出できることを示しました。また、@topk_io はより効率的な後期相互作用推論のための Iso-ModernColBERT をオープンソース化しました。
継続学習と信念/状態管理：@HuggingPapers は BeliefTrack を要約し、最適化された信念状態管理が長期推論の失敗を 70% 以上削減すると主張しました。@AndrewLampinen は、継続学習分野が干渉に過度に焦点を当てており、正の転移（positive transfer）を軽視していると指摘しました。また、@victor207755822 は、自己反復と継続学習（CL: Continual Learning）に焦点を当てた DeliAutoResearch の SKILL 論文の第 2 報を発表しました。
マルチモーダル/世界モデル/ロボティクス：NVIDIA 関連の研究には、24 FPS でストリーミングする生成型マルチエージェント世界モデルであるγ-World（ツイート）、およびリアルタイム対話型ビデオ世界モデルフレームワーク minWM（ツイート）が含まれます。ロボティクス分野では、@_akhaliq が Qwen-VLA を共有し、@inventorOli は Robostral の言語追従機能と操作能力の改善をデモしました。常時オンで能動的なエージェントについては、@dair_ai が LLM の起動判断を 220MiB の時系列グラフエンコーダーに置き換える研究を発表し、平均 F1 スコアが +16.7 向上するとともに、実行速度が 4〜83 倍高速化される成果を示しました。
エンゲージメント上位のツイート
OpenAI / バイオロジー：@OpenAI は Rosalind Biodefense の発表において、公衆衛生および生物防衛のための信頼できるアクセスを可能にするバイオツールリングを紹介しました。
Google / コンシューマーエージェント：@GeminiApp は Spark において、米国在住の AI Ultra ユーザー向けに常時オン型のパーソナルエージェントをリリースしました。
OpenAI / 開発者ツール：@OpenAI は Codex の Windows サポートについて発表し、@OpenAIDevs はコンピューター操作機能を Windows およびモバイル端末での遠隔操縦へと拡張しました。
llama.cpp UX マイルストーン：@ggerganov は、ローカル AI 向けの統合インストーラーと CLI エントリーポイントを持つ llama.app をリリースしました。
HF / RL の正しさ：@ClementDelangue が、ツールを伴う多段階強化学習（RL）における Token-In, Token-Out の警告を強調しました。
オープン vs クローズドのタイミングギャップ：@EpochAIResearch によると、現在オープンウェイトモデルはフロンティアモデルより約 4 ヶ月遅れています。
AI Reddit まとめ
/r/LocalLlama + /r/localLLM まとめ
- ローカル LLM のパフォーマンス：MoE リリース、量子化、VRAM 削減
StepFun 3.7 Flash（アクティビティ数：637）：StepFun は、総パラメータ数 196B、アクティブパラメータ数 11B、内蔵の 1.8B ViT を備えたマルチモーダル MoE「Step 3.7 Flash」をリリースしました。これは最大 400 TPS の高スループットエージェントワークフロー向けに宣伝されており、約 128GB の RAM でローカル実行可能と報告されています。報告されたベンチマークでは、フラッシュクラス/ローカルモデルとしては異例の強さを示しており、SWE-Bench Pro は 56.26%、DeepSearchQA F1 は 92.82%、ツール使用時の HLE は 47.2 です。また、Terminal-Bench、Toolathlon、ClawEval、およびその他のエージェント/ツール使用タスクにおいて、Step 3.5 Flash から大幅な向上が見られます。モデルアーティファクトは BF16、FP8、NVFP4、GGUF の形式で Hugging Face で直接入手可能です。llama.cpp への day-0 サポート PR および関連する MTP（Multi-Token Prediction）の取り組みが llama.cpp#23274 にあります。コメント投稿者たちはこのモデルを技術的に奇妙なものと特徴付けています：その隠れ状態や思考の痕跡はほぼ無意味であると記述されていますが、最終的な回答は「完璧」であり、1TB を超えるようなはるかに大きなモデルと競合するほどです。あるユーザーは、以前の Step 3.5 で問題となっていた「無限の思考」の問題が修正されたようだと述べています。ローカル展開については慎重な期待感が広がっており、特に 4x3090 クラスのハードウェアを備えたユーザーにとって歓迎すべき点として、StepFun がフォークのみを維持するのではなく、llama.cpp のサポートをアップストリームに提供した点が評価されています。
StepFun は Hugging Face に複数の Step-3.7-Flash チェックポイント（BF16: Step-3.7-Flash、FP8: Step-3.7-Flash-FP8、NVFP4: Step-3.7-Flash-NVFP4、GGUF: Step-3.7-Flash-GGUF）をリリースしました。あるユーザーによると、以前の Step 3.5 Flash で問題となっていた「無限思考」のバグが修正されたとのことです。これにより、まだ奇妙な中間推論スタイルが残っているものの、3.7 の実用性は向上しています。
StepFun によるアップストリーム PR（ggml-org/llama.cpp#23845）を通じて llama.cpp の day-0 エネーブルメントが実現され、これは Step 3.5 のフォークベースのサポートとは対照的です。また、MTP サポートのための別のコミュニティ PR が ggml-org/llama.cpp#23274 に存在しますが、コメント投稿者らはこれが Step 3.7 および現在の master ブランチに合わせて更新が必要であると指摘しています。
2x Pro 6k の環境で NVFP4 チェックポイントをテストした vLLM のナイトリービルドでは、64 の並列な浅いコンテキストリクエストに対して約 2200 tok/s のスループットを達成しました。報告された設定は、tensor-parallel-size 2、--enable-expert-parallel、--quantization modelopt、--kv-cache-dtype fp8、--reasoning-parser step3p5、および StepFun のツール呼び出しパーサーを使用するものでした。vLLM は GPU KV キャッシュサイズが 1,667,645 トークン、リクエストあたり 262,144 トークンの場合の最大並行度が 6.36 倍であると報告しています。
さらに詳しく読む
原文を表示
Most people are still digesting the massive Anthropic news from yesterday.
We’re taking the opportunity to solicit the leading AI FDE’s in the world for AIE’s new Forward Deployed Engineer track, mirroring similar pushes from both OpenAI DeployCo and Anthropic DeployCo:
as well as AIE’s new Founders program, where we are doing our version of the Startup Battlefield, a competitive pitch contest anchored by YCombinator’s Garry Tan and Howie Lu’s $10 Million dollar Hyperagent contest. Sign up (and book hotel!) for details today if you are keen.
AI News for 5/28/2026-5/29/2026. We checked 12 subreddits, 544 Twitters and no further Discords. AINews’ website lets you search all past issues. As a reminder, AINews is now a section of Latent Space. You can opt in/out of email frequencies!
AI Twitter Recap
Claude Opus 4.8 Rollout, Benchmark Friction, and API Ergonomics
Opus 4.8 landed into a noisy, mixed eval landscape: multiple independent benches converged on “incremental but not dominant.” @arena pushed 200+ frontend/code tests comparing Opus 4.8 against prior Opus variants, Gemini, and GLM; @theo reported CursorBench shows it as more efficient but slightly worse than 4.7 within margin of error; @jerryjliu0 and @llama_index found small gains on tables/layout but regressions on content faithfulness/charts in document parsing; @scaling01 said no progress on ALE-Bench and separately flagged interesting failure modes on LisanBench. On the positive side, @jeremyphoward found 4.8 less over-agentic and more cooperative than 4.7/GPT-5.5 in coding, while @leo_linsky called it a tangible product improvement over prior Anthropic releases.
Anthropic also shipped useful platform-level changes: @ClaudeDevs announced mid-conversation system instructions without breaking prompt cache, plus authoritative mid-conversation system-role updates, which matters for long-running agent sessions and cost control. But pricing remains a major complaint: @jeremyphoward argued Anthropic has done little for API affordability, preferring GPT-5.5 partly because subscription/API economics are easier to justify. Overall takeaway: 4.8 looks like a meaningful quality-of-life release for real use, not a clean benchmark reset.
Agent Harnesses, Multi-Turn RL Bugs, and the Infrastructure Around Autonomy
A subtle but important RL failure mode got called out: @ClementDelangue highlighted a Hugging Face deep-dive on why many tool-using, multi-turn RL training loops are silently broken. The core bug: decoding model output, parsing tool calls, then re-tokenizing the updated conversation can change tokenization, so gradients are applied to sequences the model never actually sampled. The proposed fix is a strict “Token-In, Token-Out” rule: never re-encode sampled tokens; keep a single token buffer across turns. @johnschulman2 reinforced the broader point that renderers are foundational infrastructure between messages and tokens, with failure modes spanning train/test mismatch, caching inefficiency, and prompt injection risk.
Harness design is becoming its own optimization discipline: @omarsar0 surfaced work on Effective Feedback Compute (EFC), claiming raw token/tool counts explain agent success poorly while EFC reaches R² up to 0.99, implying harness quality matters more than gross activity. This lines up with productized tuning efforts like @LangChain, where Deep Agents v0.6 makes harness profiles first-class to get strong performance from Qwen/Kimi/DeepSeek at 20x+ lower cost than frontier APIs, and @hwchase17 explicitly framing “different models need different prompts/tools.” @vllm_project shipped native weight syncing APIs and improved pause/resume for async RL, and later added fastokens, a Rust BPE tokenizer to reduce CPU tokenization bottlenecks in long-context/agentic workloads.
Debate is shifting from “single vs multi-agent” to where the abstraction pays: @OfirPress argued current multi-agent systems are mostly speedups, not capability unlocks; @scaling01 took the opposite view, expecting swarm-style training to yield better planning and superintelligence-like behavior. Either way, the practical trend is clear: more teams are building around agent observability, traces, and continual improvement loops, e.g. @Vtrivedy10 on mining production traces for SFT/distillation and long-horizon continual learning.
Open Models, Local AI, and the OSS Toolchain Tightening Up
Local-first and open-weight momentum continues to rise: @LangChain said 1 in 3 AI teams ran an open-weights model in April 2026, up from 1 in 5 nine months earlier; @EpochAIResearch estimated open-weight models now lag frontier proprietary models by about four months. On the toolchain side, @ggerganov launched llama.app, giving llama.cpp an official website, a unified installer, and a single llama entrypoint aimed at easier local deployment and third-party agent integration. @ollama announced OpenJarvis as a local-first personal AI via Ollama, explicitly tied to Stanford/Hazy’s “Intelligence Per Watt” framing.
Open infrastructure is getting more enterprise-shaped: @ClementDelangue noted that ~50% of models and datasets on Hugging Face are now private, rising with HF’s storage/buckets offering; this is an important correction to the idea that HF is only public OSS infrastructure. @abidlabs showed Hugging Face Jobs replacing GitHub runners for CPU/serverless GPU CI. @DSPyOSS, @dbreunig, and others shipped a redesigned DSPy docs/front page ahead of a coming 4.0, focused on onboarding into programmable AI systems rather than pure prompting.
Licensing and permissiveness are becoming strategic levers: @kimmonismus highlighted NVIDIA moving its four open model families to Linux Foundation OpenMDW-1.1, reducing legal fragmentation across weights/code/docs/data. New permissive data releases also matter: @keshigeyan introduced GPIC, a 100M-pair permissive image corpus plus 1M-pair benchmark for visual generation, with explicit research + commercial usability.
Google/OpenAI Product Surface Expands: Managed Agents, Gemini Spark/Omni, and Codex on Windows
Google is widening the “managed agent” stack from API to consumer product: @_philschmid showed Managed Agents in the Gemini API: a single API call provisioning a sandboxed Linux environment with code execution, web access, and file I/O. On the consumer side, @GeminiApp rolled out Gemini Spark to U.S. AI Ultra subscribers as a 24/7 personal agent that can operate across a user’s digital ecosystem under direction. Google also kept pushing Gemini Omni multimodal generation/editing demos (example, product thread) and announced Google Flow Agent for creative workflows in video/film production (thread).
OpenAI’s Codex is moving closer to a persistent remote dev operator: @OpenAI and @OpenAIDevs added computer use on Windows, including remote steering from the ChatGPT mobile app. Follow-on UX improvements included stable identicons for background agents and search across prior chat content (@OpenAIDevs); @reach_vb summarized broader Codex updates around Windows control, mobile remote access, and profile/task stats. Separately, OpenAI updated gpt-5.5 instant to improve sycophancy, factuality, and multilingual performance per @michpokrass.
This all points to more vertically integrated agent stacks: model + harness + sandbox + UI + remote control + pricing/quotas. Google is smoothing quotas on Gemini (@joshwoodward); OpenAI is expanding Codex’s operating surface; Cursor added auto-review mode with subagent-based approval routing (tweet). The common pattern is less “chatbot,” more managed execution environment with policy and memory.
Research and Systems Papers Worth Attention
Search, retrieval, and memory: @TheTuringPost highlighted Bidirectional Evolutionary Search (BES) from Harvard/MIT, combining forward search with backward decomposition and evolutionary operators; reported gains include Llama-3.2-3B-Instruct on MuSiQue from 4.0% to 7.0%. In retrieval, @_reachsumit pointed to Latent Terms, showing sparse BM25-ready features can be extracted from frozen dense retrievers via SAEs. @topk_io open-sourced Iso-ModernColBERT for more efficient late-interaction inference.
Continual learning and belief/state management: @HuggingPapers summarized BeliefTrack, claiming optimized belief-state management cuts long-horizon reasoning failures by 70%+. @AndrewLampinen argued the continual learning field over-focused on interference instead of positive transfer; @victor207755822 presented a second DeliAutoResearch SKILL paper focused on self-iteration and CL.
Multimodal/world models/robotics: NVIDIA-affiliated work included γ-World, a generative multi-agent world model streaming at 24 FPS (tweet), and minWM, a real-time interactive video world model framework (tweet). In robotics, @_akhaliq shared Qwen-VLA, and @inventorOli demoed Robostral’s language-following and manipulation improvements. For always-on proactive agents, @dair_ai surfaced work replacing LLM wake-up decisions with a 220MiB temporal-graph encoder, gaining +16.7 mean F1 while running 4–83x faster.
Top tweets (by engagement)
OpenAI / biology: @OpenAI on Rosalind Biodefense announced trusted-access biology tooling for public health and biodefense.
Google / consumer agents: @GeminiApp on Spark rolled out its always-on personal agent to AI Ultra users in the U.S.
OpenAI / dev tools: @OpenAI on Codex Windows support and @OpenAIDevs expanded computer use to Windows plus mobile remote steering.
llama.cpp UX milestone: @ggerganov launched llama.app with a unified installer and CLI entrypoint for local AI.
HF / RL correctness: @ClementDelangue amplified the Token-In, Token-Out warning for multi-turn RL with tools.
Open vs closed timing gap: @EpochAIResearch estimated open-weight models are now about 4 months behind the frontier.
AI Reddit Recap
/r/LocalLlama + /r/localLLM Recap
- Local LLM Performance: MoE Releases, Quants, VRAM Savings
StepFun 3.7 Flash (Activity: 637): StepFun released Step 3.7 Flash, a multimodal MoE with 196B total parameters, 11B active, and a built-in 1.8B ViT, advertised for high-throughput agent workflows up to 400 TPS and reportedly runnable locally with ~128GB RAM. Reported benchmarks position it unusually strongly for a flash-class/local model: SWE-Bench Pro 56.26%, DeepSearchQA F1 92.82%, HLE w/tools 47.2, plus large gains over Step 3.5 Flash on Terminal-Bench, Toolathlon, ClawEval, and other agentic/tool-use tasks. Direct model artifacts are available on Hugging Face in BF16, FP8, NVFP4, and GGUF, with day-0 llama.cpp support PR and related MTP work in llama.cpp#23274. Commenters characterize the model as technically odd: its hidden/thinking traces are described as nearly incoherent, but final answers can be “perfect” and competitive with much larger >1TB models; one user says the prior Step 3.5 “infinite thinking” issue appears fixed. There is cautious enthusiasm around local deployment, especially for users with 4x3090-class hardware, and appreciation that StepFun upstreamed llama.cpp support instead of only maintaining a fork.
StepFun released multiple Step-3.7-Flash checkpoints on Hugging Face: BF16 (Step-3.7-Flash), FP8 (Step-3.7-Flash-FP8), NVFP4 (Step-3.7-Flash-NVFP4), and GGUF (Step-3.7-Flash-GGUF). One user reports the prior Step 3.5 Flash “infinite thinking” issue appears fixed, making 3.7 more usable despite still having an odd intermediate reasoning style.
There is day-0 llama.cpp enablement via StepFun’s upstream PR: ggml-org/llama.cpp#23845, contrasting with Step 3.5’s fork-based support. A separate community PR for MTP support exists at ggml-org/llama.cpp#23274, though commenters note it needs updating for Step 3.7 and current master.
A vLLM nightly test of the NVFP4 checkpoint on 2x Pro 6k with 64 concurrent shallow-context requests reached about 2200 tok/s. The reported config used tensor-parallel-size 2, --enable-expert-parallel, --quantization modelopt, --kv-cache-dtype fp8, --reasoning-parser step3p5, and StepFun tool-call parsing; vLLM reported GPU KV cache size 1,667,645 tokens and max concurrency 6.36x for 262,144 tokens/request.
Read more
関連記事
Claude Opus 4.8：システムカードの発表
Anthropic は Claude Opus 4.7 からわずか6週間で、より賢く長時間タスクを実行可能な新バージョン「Opus 4.8」を発表し、244ページのシステムカードを公開した。
今日は何も大きな出来事はありませんでした
Smol AI News は、5 月 28 日から 29 日にかけての期間に、12 のサブレッドや 544 件のツイートを調査しましたが、特に注目すべき AI テクノロジー関連のニュースは発生しませんでした。
Anthropic の年間換算収益が 470 億ドルに到達
Simon Willison は、Anthropic がシリーズ H ラウンドで発表した内容に基づき、同社が今年 2 月のシリーズ G からグローバル企業顧客での採用が増加し、先月年間換算収益が 470 億ドルを超えたと報じた。