ページを読み込み中…
ページを読み込み中…
3件の記事
はじめに LLM-jp ではオープンかつ日本語に強い大規模言語モデルの開発を進めており,2024年9月以降 llm-jp-corpus v3 を用いて訓練した「LLM-jp-3」シリーズの公開を進め
AI開発の急速な進展により、多数のオープンソース基盤モデルとその派生モデルが生まれ、追従が困難になっている現状を解説するガイド。
目次 はじめに LLM-jp-13B とは インストラクションチューニング データセット 入力プロンプト 比較実験の設定 ハイパーパラメータ 学習 評価 DPO データセット