大規模言語モデルの次期バージョンPLaMo 3シリーズにおける120B事前学習モデル、31B蒸留モデルの評価
本文の状態
日本語全文あり
詳細モードで約16分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Preferred Networks
Preferred Networks は NICT と共同で、120B パラメータの国産大規模言語モデル PLaMo 3 シリーズおよび蒸留モデルの開発完了を発表し、計算資源投入量に匹敵する高性能な日本語対応 LLM の実装を示した。
記事の3ポイント
PLaMo 3 シリーズのモデル構成と学習手法
Preferred Networks は NICT と共同で、120B パラメータのベースモデルおよび 31B パラメータの蒸留モデルを学習し、前者は既存の PLaMo 3 31B の重みを初期値として拡張し、後者は 120B モデルから知識蒸留を行う手法を採用した。
計算資源投入量に基づく性能比較
開発された 120B モデルは、Gemma 3 PT 27B や Qwen3-8B と同程度の計算資源(FLOPs)で学習されており、同等の規模モデルと比較して高い性能を発揮することが示された。
日本語生成および知識能力の評価結果
pfgen-bench による日本語生成評価では 0.83 を記録し、JMMLU や MMLU-ProX ja などの知識ベンチマークでも既存モデルを上回るスコアを示した。
なぜ重要か・誰に関係するか
この発表が重要なのは、計算資源投入量に匹敵する規模で開発された国産大規模言語モデルの性能が客観的なベンチマークで実証され、日本語処理における国内技術力の向上を示したからだ。開発者や企業の AI 導入担当者は、高性能かつ日本語に特化した国産 LLM の選択肢として PLaMo 3 シリーズを評価し、自社の業務システムへの組み込み可能性を検討すべきである。
背景や根拠まで確認しますか?
元記事の内容を、読みやすい日本語で続けて確認できます。
関連記事
News to Guide
ニュースの次に確認する
発表内容を、現在の料金や仕様と照らし合わせられる関連ガイドです。
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み