#llm アーキテクチャのAIニュース

4件の記事

オラクルとファーム（5 分間読了）

OpenAI は情報を圧縮して関連部分のみを保持する「コンパクション」方式を採用し、一貫性のある長いスレッドを維持している。一方、Anthropic は複数のエージェントに文脈ウィンドウを分割し、各サブエージェントが問題を処理した上で関連情報だけを親エージェントへ返すアプローチを取っている。

「思考機械」は、従来の入力と応答を交互に行うモデルではなく、入力を処理しながら同時に応答を生成する新しい AI を開発している。これにより、テキストのやり取りではなく電話のようなリアルタイムな対話を実現しようとしている。

中国の研究チームが、DeepSeekを超えるオープンソースAIエコシステムのアーキテクチャ選択について分析し、分散型開発とモデル最適化の戦略を提案した。

線形アテンション・ハイブリッド、テキスト拡散、コード世界モデル、小型再帰型トランスフォーマーなど、次世代AI技術の新たなアプローチを紹介。