LLM微調整フレームワーク4種を比較

記事の3ポイント

1. 1

   各フレームワークの設計思想の相違

   Unsloth はカーネルレベルでの書き換え、Axolotl は並列戦略の合成、TRL はトレーナー API の定義、LLaMA-Factory はモデルカバー範囲とゼロコード操作にそれぞれ注力している。

2. 2

   Unsloth の高速化実績と条件依存性

   Unsloth は MoE モデルで最大 7.3 倍の速度向上を達成したが、Qwen3-30B-A3B ではシークエンス長が伸びるほど速度差が縮小し、メモリ節約効果は逆転する傾向がある。

3. 3

   Axolotl の Unsloth からの技術継承

   Axolotl は 2025 年 2 月に Unsloth を参考にカスタム Triton カーネルを追加したが、これはオプトイン機能として提供され、同社の本質的な強みは並列戦略の合成能力にある。