ローカルでCode Llamaを実行する

メタ・プラットフォームズ社は本日、プログラミングタスクに特化した大規模言語モデル「Code Llama」を公開した。これは同社の既存モデル「Llama 2」を基盤としており、オープンモデルの中で最先端の性能を提供する。主な特徴として、コードの穴埋め（インフィリング）機能、大規模な入力コンテキストのサポート、プログラミングタスクにおけるゼロショットでの指示追従能力が挙げられる。

Code Llamaは、ローカル環境で簡単に実行できるツール「Ollama」を通じて利用可能となった。ユーザーはまずOllamaをダウンロードし、インストールする必要がある。その後、コマンドラインから特定のモデルを取得（プル）することで、Code Llamaの機能を試すことができる。

提供されるモデルは、パラメータ数によって3種類が用意されている。7B（70億パラメータ）モデル、13B（130億パラメータ）モデル、そして34B（340億パラメータ）モデルだ。13Bモデルを実行するには16GB以上のメモリ、34Bモデルには32GB以上のメモリが必要となる。これらのモデルは、一般的なコード生成や補完タスクに使用できる基盤（Foundation）モデルとして利用可能である。

さらに、Pythonプログラミングに特化した専用モデルも提供されている。ユーザーは、使用したいモデルのサイズに応じて、ターミナルで「ollama pull codellama:7b-python」、「ollama pull codellama:13b-python」、または「ollama pull codellama:34b-python」というコマンドを実行することで、対応するPython特化モデルを自分のマシンにダウンロードできる。

要約すると、今回のリリースは、高性能なコード生成AIを誰でも自分のコンピュータ上でプライベートに実行できるようにした点が核心である。特に、コードの一部を自動で補完・生成する「インフィリング」や、具体的なプログラミング質問（例：過去1ヶ月間に変更されたテキストファイルを一覧表示するBashコマンドは？）に答える能力は、開発者の作業効率化に直接寄与する可能性が高い。オープンソースモデルとして公開されたことで、カスタマイズや研究用途での利用も期待される。