OllamaでローカルLLMを動かす導入ガイド

生成AIをクラウドではなく手元のパソコンで動かしたい——そんなときに便利なのが Ollama です。コマンド1行でモデルをダウンロードし、オフラインでも対話できます。この記事では Ollama の導入から最初の対話までを、初めての方にもわかるように解説します。

動作の目安

• メモリ8GBで小型モデル、16GB以上で中型モデルが快適
• GPUがなくても動作しますが、あると高速です
• Windows・macOS・Linux に対応

手順1：Ollamaをインストールする

1. 公式サイトから、お使いのOS用のインストーラーをダウンロードします。
2. インストーラーを実行し、画面の指示に従って進めます。
3. ターミナル（Windowsは PowerShell）を開き、次のコマンドで導入を確認します。

ollama --version

手順2：モデルをダウンロードして対話する

1. 軽量なモデルを取得します。初回はダウンロードに数分かかります。

ollama run llama3.2

2. プロンプトが表示されたら、そのまま日本語で質問を入力できます。
3. 終了するときは /bye と入力します。

モデルはディスク容量を消費します。使わないモデルは ollama rm モデル名 で削除できます。

手順3：安全に使うための設定

• 機密情報はローカルで完結しますが、拡張機能やUIを追加する場合は配布元を確認します。
• 外部からアクセスさせない限り、既定ではネットワークに公開されません。

よくあるつまずき

AIツールをブラウザから使いたい場合は、VS Codeの拡張機能と組み合わせると開発が快適になります。