NVIDIA、Ollama で「Nemotron 3.5 Lightning」を公開しローカル実行可能に

記事の3ポイント

1. 1

   ハイブリッドアーキテクチャによる高速推論

   合計 30B パラメータのうち、1 トークンあたり 3B のアクティブパラメータのみを使用する混合専門家（MoE）構造を採用し、ローカルシステムでの効率的な動作を実現している。

2. 2

   エージェントタスクへの最適化

   ファイルの読み込みやツール呼び出し、失敗した処理のリトライなど、多段階にわたるエージェント作業を想定して設計され、開発者が日常的に使用するツールとの連携に焦点を当てている。

3. 3

   大規模コンテキストとデータプライバシー

   最大 100 万トークンのコンテキスト長をサポートし、ローカルデバイス上で動作することで、メールやコードベースなどの機密データを外部へ送信することなく処理できる。