Windowsプレビュー
本文の状態
日本語全文を表示中
詳細モードで約2分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Ollama Blog
OllamaがWindowsでプレビュー公開され、GPUアクセラレーション対応のネイティブ環境で大規模言語モデルの実行・作成が可能になりました。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Windows向けOllamaがプレビュー版として公開され、大規模言語モデル（LLM）の取得、実行、作成をネイティブなWindows環境で行えるようになりました。このリリースの主な特徴は、GPUアクセラレーションの内蔵、完全なモデルライブラリへのアクセス、そしてOpenAI互換性を含むOllama APIの提供です。
技術面では、NVIDIA GPUを活用した高速化に加え、AVXやAVX2といった最新のCPU命令セットも利用可能です。これにより、仮想化や複雑な設定を一切必要とせず、すぐに高性能な推論を開始できます。
利用可能なモデルは幅広く、Ollamaが提供する完全なモデルライブラリをWindows上で実行可能です。これにはマルチモーダルな「Visionモデル」（例：LLaVA 1.6）も含まれており、チャットメッセージに画像をドラッグ＆ドロップするだけで、画像をコンテキストに加えた対話が行えます。
API機能も充実しています。バックグラウンドで自動起動し、http://localhost:11434 でサービスを提供するため、追加設定なしで各種ツールやアプリケーションから接続できます。PowerShellからの呼び出し例が示されており、ローカル環境でのAPI利用が容易です。さらに、他のプラットフォームと同様にOpenAI API互換性を備えているため、OpenAI用に構築された既存のツールチェーンを、Ollama経由のローカルモデルにそのまま流用できます。
利用開始方法は極めて簡便で、インストーラー「OllamaSetup.exe」をダブルクリックし、インストール後は任意のターミナルから「ollama run llama2」などのコマンドを実行するだけです。新しいリリースが公開されると更新を促すプロンプトが表示されます。開発チームはユーザーからのフィードバックを歓迎しており、問題が発生した場合はGitHubでのイシュー作成やDiscordサーバーへの参加を通じて報告が可能です。
要約すると、このプレビュー版は、設定の手間を大幅に削減しつつ、高性能なローカルLLM環境をWindowsユーザーに提供することを目的としたリリースです。GPU加速、豊富なモデル選択肢、標準化されたAPIアクセスにより、開発者や上級ユーザーがローカルAIアプリケーションを構築・利用する基盤が整備されました。
原文を表示
Ollama is now available on Windows in preview, making it possible to pull, run and create large language models in a new native Windows experience. Ollama on Windows includes built-in GPU acceleration, access to the full model library, and the Ollama API including OpenAI compatibility.
Ollama accelerates running models using NVIDIA GPUs as well as modern CPU instruction sets such as AVX and AVX2 if available. No configuration or virtualization required!
Full access to the model library
The full Ollama model library is available to run on Windows, including vision models. When running vision models such as LLaVA 1.6, images can be dragged and dropped into ollama run to add them to a message.
Ollama’s API automatically runs in the background, serving on http://localhost:11434. Tools and applications can connect to it without any additional setup.
For example, here’s how to invoke Ollama’s API using PowerShell:
(Invoke-WebRequest -method POST -Body '{"model":"llama2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json Ollama on Windows also supports the same OpenAI compatibility as on other platforms, making it possible to use existing tooling built for OpenAI with local models via Ollama.
To get started with the Ollama on Windows Preview:
Double-click the installer, OllamaSetup.exe
After installing, open your favorite terminal and run ollama run llama2 to run a model
Ollama will prompt for updates as new releases become available. We’d love your feedback! If you encounter any issues please let us know by opening an issue or by joining the Discord server.
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み