テンセントが公開した大規模 MoE モデル「Hy3」の紹介（1 分読了）

記事の3ポイント

1. 1

   ハイブリッドアーキテクチャの実装

   テンセント Hy チームが開発した Hy3 は、2950億パラメータのうち 210 億パラメータが活性化される Mixture-of-Experts (MoE) 構造を採用し、さらに 38 億パラメータの MTP レイヤーを備えている。

2. 2

   性能と規模の比較

   同社によると、Hy3 は類似サイズのモデルを上回り、パラメータ数が 2〜5 倍多いフラッグシップオープンソースモデルにも匹敵する性能を示し、生産性タスクでの実用性も大幅に向上している。

3. 3

   公開形式と利用条件

   フルサイズモデルは 598GB、FP8 量子化版は 300GB で Hugging Face に公開されており、2026 年 7 月 21 日までの期間限定で OpenRouter を通じて無料アクセスが可能となっている。