従量課金モデルがプロジェクトの雰囲気を損なう？ローカル AI コーディングエージェントを自作する方法

モデル開発者がより厳しいレート制限を課したり、価格を引き上げたり、あるいはサブスクリプションから使用量ベースの料金体系へ移行したりする中、その「雰囲気」で楽しむ趣味プロジェクトは、一気に高価なものになりそうです。幸いなことに、コスト削減のための選択肢が全くないわけではありません。ここ数週間で、Anthropic が最も手頃なプランから Claude Code を外すことを検討している様子や、Microsoft が水面下でのテストを飛ばして GitHub Copilot を純粋な使用量ベースモデルへ移行したことが報じられました。この一連の騒動により、私たちは考えさせられました。果たして Anthropic や OpenAI の最上位モデルが必要なのか、それともより小さなローカルモデルで済ませられるのか？確かに、処理速度は遅く、能力も劣り、作業に少しイライラすることもあるかもしれませんが、無料という価格には勝るものはありません……もちろん、すでに必要なハードウェアを所有しているという前提ですが。ちょうど Alibaba が最近、Qwen3.6-27B をリリースしました。このクラウドおよび電子商取引の巨人は、このモデルが「フラッグシップ級のコーディング能力」を、32 GB の M シリーズ Mac や 24 GB の GPU で動作させるのに十分な小さなパッケージに詰め込んだと自慢しています。 何が変化したのか これはローカルコードアシスタントを検討した初めての試みではありません。以前は、Continue の VS Code 拡張機能を使用して、コード補完や生成などのタスクに取り組んだことがあります。その当時、モデルやソフトウェアスタックはまだかなり未熟で、有用なツールではありましたが、大規模な最先端モデルと競合するには必ずしも十分ではありませんでした。それ以来、モデルアーキテクチャやエージェントハネス（枠組み）は劇的に改善されました。「推論」機能により、小規模なモデルでもより長く「思考」することでそのサイズを補うことが可能になり、エキスパート混合モデル（Mixture-of-Experts）により、対話型体験のために毎秒テラバイト単位のメモリ帯域幅が必要ではなくなりました。さらに、関数呼び出しやツール呼び出しの能力が大幅に向上したことで、これらのモデルは実際にコードベース、シェル環境、そしてウェブと相互作用できるようになりました。 レート制限なしで雰囲気を楽しむ この実践ガイドでは、Qwen3.6-27B などのローカルモデルをコンピュータ上でコーディング用にデプロイおよび設定する方法や、それらと併用できるいくつかのエージェントフレームワークについて探ります。必要なもの： 中規模の LLM（大規模言語モデル）を実行可能なマシン。Nvidia、AMD、または Intel の GPU で VRAM が少なくとも 24 GB あるものを推奨します。メモリが少し足りない場合は、システムメモリと GPU メモリをプールする方法についても解説します。最新の Mx-Max シリーズ Mac をお使いの方は、統合メモリが少なくとも 32 GB あることをお勧めします。本ガイドでは Llama.cpp を使用してモデルを実行しますが、LM Studio、Ollama、または MLX を使いたい場合でも、セットアッププロセスは同様です。システムへの Llama.cpp のインストールに困っている場合は、包括的なセットアップガイドをこちらで見つけることができます。 注意：古い M シリーズ Mac では、エージェントコーディングに必要な長いコンテキスト長に対応するのが困難な場合があります。Apple のハードウェアアクセラレータをより効果的に活用できる推論エンジンである oMLX を使用した方がうまくいく可能性がありますが、結果は環境によって異なります。 モデルの起動 現在、LLM をローカルで実行するのは非常に簡単なプロセスです。お気に入りの推論エンジンをインストールし、モデルをダウンロードして、API を介してアプリに接続するだけです。ただし、コードアシスタントの場合、いくつかのパラメータを調整する必要があります。そうしないと、モデルはゴミや壊れたコードを生成してしまう恐れがあります。一部のモデルでは、異なるアプリケーションで適切に機能させるために特定のハイパーパラメータが必要であり、Qwen3.6-27B も例外ではありません。Qwen3.6-27B を「雰囲気コーディング」に使用する際、Alibaba は以下のパラメータを設定することを推奨しています： temperature=0.6 top_p=0.95 top_k=20 min_p=0.0 presence_penalty=0.0 repetition_penalty=1.0 また、モデルのコンテキストウィンドウ（文脈窓）をメモリに収まる限り大きく設定する必要があります。ご存じない方のために説明すると、モデルのコンテキストウィンドウは、特定の要求に対してモデルが追跡できるトークンの数を定義します。数千行のコードを含む大規模なコードベースを扱う場合、これはすぐに膨らんでしまいます。さらに、多くのエージェントフレームワークで使用されるシステムプロンプトも非常に大きくなる可能性があるため、コンテキストウィンドウは可能な限り高く設定したいものです。Qwen3.6-27B は 262,144 トークンのコンテキストウィンドウをサポートしていますが、ハイエンドの Mac やワークステーション GPU をお持ちでない限り、少なくとも 16 ビット精度ではそのすべてを活用するためのメモリは十分ではないでしょう。幸いなことに、モデルの状態を追跡するキーバリューキャッシュを 16 ビットで保存する必要はありません。パフォーマンスや品質の低下があまりない範囲で、より低い精度でも十分に機能します。コンテキストウィンドウを最大化するために、キーバリューペアを 8 ビットに圧縮します。最後に、プレフィックスキャッシング（先頭部分のキャッシュ）を有効にする必要があります。システムプロンプトやコードベースのように、プロンプトの大きな部分が何度も再処理されるワークロードでは、新しいトークンのみを処理することで推論速度が向上します。Llama.cpp の最新ビルドではこれがデフォルトで有効になっているはずですが、念のためフラグを指定しておきます。 これで準備は整いました。以下は 24 GB の Nvidia RTX 3090 TI を使用する場合の起動コマンドですが、AMD または Intel GPU をお使いの方や、Mac で Llama.cpp を実行している場合でも、同じコマンドが問題なく機能するはずです。メモリ量の多いマシンで実行する場合は、コンテキストウィンドウを 131,072 または 262,144 に引き上げることをお勧めします。Llama.cpp を実行して別のマシンからアクセスする予定の場合は、--host 0.0.0.0 をコマンドに追加してローカルエリアネットワークに公開する必要があります。Llama.cpp が VPC（仮想プライベートクラウド）上で動作している場合は、セキュリティのためにこのフラグを渡す前にファイアウォールルールを設定してください。 エージェントフレームワークの選択 モデルが起動・実行されたら、次はそれをコーディング用のエージェントハネスに接続する必要があります。単独ではモデルもコードを生成できますが、アクティブな開発環境がないと、実装、テスト、デバッグを行う手段がありません。「雰囲気コーディング」が他の AI 事業が struggling（苦戦）する中で成功した理由の一つは、コードが検証可能である点にあります。実行するかコンパイルされるか、あるいはそうでないかのどちらかです。 シンプルに保つために、3 つの一般的なオプションを見てみましょう：Claude Code、Pi Coding Agent、そして Cline です。まずは Claude Code から始めます。ご想像とは異なり、Claude Code を Anthropic のモデルと併用する必要はありません。このフレームワークは、十分なリソースがあればローカルモデルとも正常に機能します。通常通り Claude Code をインストールしてください。Anthropic によるワンライナー（一行コマンド）はこちらで見つけることができます。次に、Claude Code に、Anthropic のアカウントや API サービスではなく、マシン上でローカルで実行されているモデルを使用したいことを伝える必要があります。これは、Claude Code を起動する前にいくつかのシェル変数を設定することで行います。これらの設定は、新しいセッションから Claude を起動するたびに実行する必要があります。これで Claude を起動すると、直接ローカルモデルに接続されます。Claude Code 自体は通常どおり機能し続けます。 Pi Coding Agent ご自身のローカルモデルを使用したいだけでなく、オープンソースのハネスも希望する場合もあります。Claude Code が好きなら、Pi Coding Agent も気に入るでしょう。Claude Code と同様に、使用するモデルを選ばないのが特徴です。Pi Coding Agent の主な魅力の一つは、その軽量さです。長い入力シーケンスは、低スペックまたは古い GPU やアクセラレータにとって非常に負担になります。Claude Code と Cline はどちらも、能力の低いハードウェアを停止させるほど重いシステムプロンプトを持つ可能性があります。それと比較すると、Pi Coding Agent のデフォルトのシステムプロンプトは短く、特にプロンプトキャッシングが有効な場合は動作も軽快です。ただし、その速度には、他のコーディングエージェントで見られる多くのガードレールやセキュリティ機能とのトレードオフがあります。これはおそらく仮想マシン、コンテナ、あるいは Raspberry Pi 上で起動するべきものです。Claude と同様、Pi Coding Agent もシステムに応じたワンライナーを使用してインストールできます。その後、必要なことは、エージェントハネスにモデルの場所を指示する少しの JSON データだけです。これまでの手順に従っていれば、セットアップは比較的簡単です。お好みのテキストエディタを使用して、以下のファイルを作成してください： Windows: Linux / Mac: 次に、以下のテンプレートを貼り付けます。API キーを設定している場合は、no_API_key_required を実際のキーに置き換えてください。残りの設定は、使用するモデルとポートによって異なります。また、Llama.cpp で設定した値に合わせて contextWindowSize も調整してください。 これで準備が整いましたので、作業ディレクトリに移動し、Pi Coding Agent を起動して、次の趣味プロジェクトの「雰囲気コーディング」に取り掛かりましょう。 Cline Claude Code は VS Code などの人気のある統合開発環境（IDE）と直接統合されていますが、このルートを選ぶ場合は、もう一つのオープンソースアプリである Cline もチェックすることをお勧めします。Cline のインストールは、VS Code または対応する IDE の拡張機能マネージャーで Cline を見つけてライブラリに追加するだけという簡単なものです。次に、Cline に Llama.cpp サーバーを指し示し、温度（temperature）やコンテキストサイズなどのいくつかのハイパーパラメータを調整します： Base URL: http://localhost:8080/v1 Model ID: unsloth/Qwen3.6-27B-GGUF:Q4_K_M Context Window Size: 65536（または Llama.cpp で設定した値） Temperature: 0.6 設定が完了したら、チャットインターフェースを通じて Cline と対話できます。生成されるファイルや編集内容は、VS Code に反映されます。Cline のより有用な機能の一つは、純粋な計画モードとアクションモードを切り替えることができる点です。Claude が質問を行動の呼びかけとして解釈し、実際には問題の検討を行いたい場合にイライラした経験がある方にとって、これは大きな助けになります。 ローカルモデルはついに十分なのか？ では、Qwen3.6-27B は Opus 4.7 や GPT-5.5 を置き換えることができるのでしょうか？残念ながら、完全にはできません。おそらく予想される通り、270 億パラメータの LLM が、数兆パラメータ規模の最先端モデルを代替するものではありません。しかし、最近のローカルモデルでどれほどまでできるかについては、驚くべき結果が得られるかもしれません。私たちのテストでは、Qwen3.6-27B はインタラクティブな太陽系 Web アプリをワンショット（一度の試み）で完成させ、既存のコードベース内のバグを正確に特定して修正することもできました。正直に言って、これらはかなり単純なプロジェクトです。モデルのパフォーマンスをよりよく把握するために、私は同僚の Thomas Claburn に任せて、Claude Code との比較を試してもらいました。彼はこう書いています： これらのエージェントは本当に安全なのか？ OpenClaw として知られるセキュリティの悪夢をめぐる騒ぎの中で、これは良い質問です。幸いなことに、ここで議論したフレームワークの多くは、自律性において比較的制限されています。デフォルトでは、Claude Code と Cline は、コードの変更やシェルコマンドの実行を承認するために「人間がループ内（ヒューマン・イン・ザ・ループ）」にいることを前提としています。特定の命令をホワイトリストに登録していない限り、またはエージェントが何をしているかを理解する時間もなく、読む前にエンターキーを連打している場合を除き、被害の範囲は管理可能であるはずです。「〜すべき」と強調したのは、プログラミング言語と一般的な CLI コマンドに関する基本的な理解がここでは非常に重要だからです。もしモデルが、作業ディレクトリ外のファイルやフォルダに対して rm -rf を実行することを要求し始めたら、何かがおかしくなっている可能性があります。これは Pi Coding Agent の場合は当てはまりません。Pi Coding Agent はデフォルトで YOLO モード（You Only Live Once＝無茶をするモード）で動作するため、アクセスできるあらゆるものを自由に読み書きする権限を与えられます。仮想マシンや Raspberry Pi といった専用の開発環境であれば、このリスクは許容範囲かもしれません。しかし、そうでない場合は、エージェントを適切なサンドボックス内で実行することを検討すべきです。コンテナ化はこのための簡単な手段を提供します。Docker コンテナを簡単に起動し、作業ディレクトリをそこに渡すのは比較的簡単です。Docker 自体はまた別の大きな問題を抱えていますが、以下の起動コマンドは、サンドボックス環境の合理的な出発点となるはずです。お好みの OS への Docker のインストール手順はこちらで見つけることができます。 これは新しい Ubuntu Docker コンテナを起動し、作業ディレクトリをコンテナに渡します。変更はそのフォルダ内またはコンテナ内に限定されます。エージェントサンドボックスの構築に関する包括的なガイドをご覧になりたい場合は、コメント欄でお知らせください。®

従量課金モデルがプロジェクトの雰囲気を損なう？ローカル AI コーディングエージェントを自作する方法

背景や根拠まで確認しますか？

調べる

選ぶ

サイト