中国最大 AI「Kimi K3」がメモリ重視の 2.8T モデルとして登場

記事の3ポイント

1. 1

   2.8兆パラメータの記録的規模

   Kimi K3は2.8兆パラメータを有し、これまでに公開されたオープンウェイトモデルの中で最大規模となり、業界初の「3Tクラス」に分類される。

2. 2

   計算からメモリへの設計転換

   米国の半導体輸出規制の影響を受け、Moonshot AIは計算リソースの節約よりもメモリ使用量の最適化を優先する設計戦略を採用したと分析されている。

3. 3

   Mixture-of-Expertsによる効率化

   モデル全体ではなく896個の専門セクションから16個のみを動的に呼び出す「Mixture-of-Experts」技術により、単語あたりの計算量を劇的に削減している。