#スケーリング法則 のAIニュース
7件の記事
慎重なスケーリング法則:深層学習における計算資源の最適配分
Lilian Weng氏は、モデルサイズやデータ量を増やすと訓練損失が予測可能に低下するスケーリング法則について解説し、限られた計算資源をどのように最適に配分すべきかを論じている。
Lilian Weng·6月24日·★★★★
AI の指数関数的成長に関する政策方針(28 分読了)
Anthropic は、サイバーセキュリティや雇用喪失のリスクに対処するため、FAA をモデルとした規制アプローチ、必須テスト、強化されたセキュリティ基準を推奨している。また、AI 主導の成長に対応するマクロ経済・税制の適応、バイオメディカル分野での規制改革、そして民主的価値観との整合性確保も政策課題として挙げている。
TLDR AI·6月11日·★★★★
データフィルタリングに関する苦い教訓(1 分読了)
TLDR AI は、計算資源が豊富でデータが不足している環境では、大規模モデルの事前学習においてデータフィルタリングを行わないことが最適であることを示す新しいスケーリング研究を報告した。
TLDR AI·5月21日·★★★★
精度を犠牲にせず LLM を高速化する手法
研究者らは国際会議 ICLR で、リアルタイム AI アプリケーションにおいて計算効率を損なわずに大規模言語モデルの速度を向上させる新フレームワークを発表した。
Amazon Science·5月15日·★★★★
計算最適化トークン化(2 分読了)
研究者が約 1,300 個のモデルを訓練し、バイト数ベースのスケーリングが計算効率を向上させることを示した。従来の「パラメータ数あたりのトークン数」に基づく手法は特定のトークナイザーに依存しており、多言語対応にはバイト単位での調整が必要である。
TLDR AI·5月13日·★★★★
Kimi 楊植麟「2026 中関村フォーラム」講演全文(動画付き)
月之暗面のKimiが2026年3月31日に天津で開催された中関村フォーラムで講演し、すべての基盤技術は再考に値すると主張した。
月之暗面 Kimi·3月31日·★★★★
Import AI 445:超知能のタイミング;AIが最先端数学証明を解く;新たなML研究ベンチマーク
Jack Clark編集のImport AI 445号。AIが最先端数学証明を解決した件、新しい機械学習研究ベンチマークの紹介、および「人間の手触り」への需要からAIによる失業を心配する必要はないとするエコノミストの見解を紹介している。
Import AI·2月16日