Ollama Blog·2024年9月25日 09:00·約1分

Llama 3.2が小型化とマルチモーダル化を実現

#LLM #Llama 3.2 #マルチモーダル #ローカル推論 #エッジ AI #Ollama

TL;DR

Meta の最新 LLM「Llama 3.2」が Ollama を通じて利用可能となり、特に 1B/3B の軽量モデルによるローカルエッジ推論と、11B/90B のビジョンモデルによる画像理解機能が実用化された。

AI深層分析2026年5月3日 04:16

重要/ 5段階

深度40%

キーポイント

Ollama での Llama 3.2 利用開始

Meta が開発した Llama 3.2 シリーズが Ollama プラットフォーム上で直接実行可能となり、ユーザーは簡単なコマンドで即座に利用を開始できる。

軽量テキストモデルによるエッジ推論

1B と 3B のテキスト専用モデルがモバイルやエッジデバイス向けに最適化され、プライバシーを維持したままローカルで即座に処理を行うエージェント構築が可能となった。

ビジョン対応モデルの登場

11B と 90B のモデルが画像推論機能をサポートし、チャートやグラフを含むドキュメント理解や画像キャプション生成といった高度なユースケースに対応する。

影響分析・編集コメントを表示

影響分析

このニュースは、大規模言語モデルがクラウドサービスに依存せずとも、高性能かつ多機能なローカル推論を実現できることを示す重要な転換点です。特にプライバシーが重視される企業や個人ユーザーにとって、エッジデバイス上で複雑な画像処理やデータ分析が可能になることは、AI の普及とセキュリティ確保において極めて大きな意味を持ちます。

編集コメント

ローカル推論におけるプライバシー保護と、エッジデバイスでの高性能化が同時に実現された点は、業界全体のエッジ AI 戦略にとって極めて重要です。特にビジョン機能を備えた軽量モデルの登場は、現場での実装可能性を劇的に高めています。

MetaのLlama 3.2が、Ollamaを使用して実行可能になりました。

始めるには、Ollamaをダウンロードし、以下のコマンドを実行します:

ollama run llama3.2

小型化とマルチモーダル化: 1B、3B、11B、90B

1Bと3B テキスト専用モデル

ollama run llama3.2:1b

ollama run llama3.2

1Bおよび3Bモデルは、モバイルやエッジデバイス上でのローカル実行に最適化されたテキスト専用モデルです。これらを用いて、高度にパーソナライズされたオンデバイスエージェントを構築できます。例えば、ユーザーはWhatsAppで受信した直近10件のメッセージの要約や、翌月のスケジュールの要約を依頼することが可能です。

プロンプトへの応答は瞬時に感じられ、Ollamaでは処理がすべてローカルで行われるため、メッセージなどのデータを第三者やクラウドサービスに送信することなく、プライバシーが保護されます。

(近日公開予定) 11Bと90B ビジョンモデル

11Bおよび90Bモデルは、チャートやグラフを含む文書レベルの理解、画像のキャプション生成といった、画像推論ユースケースをサポートします。

オープンソースは未来への道です… Ollamaをダウンロード

原文を表示

Meta’s Llama 3.2 is now available to run using Ollama.

To get started, download Ollama and run Llama 3.2:

ollama run llama3.2

Small & Multimodal: 1B, 3B, 11B and 90B

1B and 3B Text-only models

ollama run llama3.2:1b

ollama run llama3.2

1B and 3B models are text-only models are optimized to run locally on a mobile or edge device. They can be used to build highly personalized, on-device agents. For example, a person could ask it to summarize the last ten messages they received on WhatsApp, or to summarize their schedule for the next month.

The prompts and responses should feel instantaneous, and with Ollama, processing is done locally, maintaining privacy by not sending data such as messages and other information to other third parties or cloud services.

(Coming very soon) 11B and 90B Vision models

11B and 90B models support image reasoning use cases, such as document-level understanding including charts and graphs and captioning of images.

Open-source is the path forward… Download Ollama