ページを読み込み中…
ページを読み込み中…
33件の記事
PrismML フォークの llama.cpp で Q1_0_g128 GGUF 形式の Bonsai-27B を GPU で検証し、OpenAI 互換サーバーとして起動する。
開発者 GnLOLot が OpenBMB の MiniCPM5-1B を Claude Fable 5 データで微調整し、API 不要のローカル実行可能思考モデル「MiniCPM5-1B-Claude-Opus-Fable5-Thinking」を公開した。
MarkTechPost は、RTX 3090/4090 のような 24GB GPU で実行可能な Qwen や Gemma など、2026 年現在の最適なローカル LLM を比較し、70B モデルより 20-35B モデルが実用的だと指摘している。
SpaceXAI は、自社のコーディング CLI に搭載された AI エージェント「Grok Build」のハネス、TUI、ツール層などを Apache 2.0 ライセンスで公開した。
James O'Brien は、SOTA AI モデルや音声認識をローカル環境で動作させるためのハードウェア構成と Docker 設定を紹介し、予算に応じた具体的な構築方法を解説している。