ローカルLLM入門｜Ollama・LM Studioの使い方

導入

ChatGPTやClaudeなどのクラウドAIサービスは便利ですが、「データをサーバーに送りたくない」「月額料金を払い続けたくない」という方もいるでしょう。そんな方におすすめなのが、自分のPCでAIを動かす「ローカルLLM」です。

本記事では、ローカルLLMの基本概念から、OllamaやLM Studioを使った具体的なセットアップ方法、そして実践的な活用例まで詳しく解説します。

ローカルLLMとは

基本概念

ローカルLLM（Large Language Model）とは、クラウドサービスに接続せず、自分のPC上で動作するAIモデルのことです。

クラウドAI（ChatGPT等）

• インターネット経由でサーバーに接続
• 入力データがサーバーに送信される
• 月額料金が発生（有料プランの場合）
• 最新・最高性能のモデルを利用可能

ローカルLLM

• 自分のPC上で完結
• データが外部に送信されない
• 一度セットアップすれば追加費用なし
• PC性能に応じたモデルを使用

主なオープンソースモデル

ローカルで実行可能なオープンソースのAIモデルには、以下のようなものがあります。

必要なPC性能

ローカルLLMを快適に動かすには、それなりのPC性能が必要です。

最低限の要件

• メモリ：16GB以上
• ストレージ：50GB以上の空き容量
• CPU：最新世代のマルチコアプロセッサ

推奨環境

• メモリ：32GB以上
• GPU：NVIDIA RTX 3060以上（8GB VRAM以上）
• ストレージ：SSD 100GB以上

Apple Siliconの場合

• M1/M2/M3 MacはGPUを効率的に活用可能
• 16GB以上のユニファイドメモリがあると快適

メリット

プライバシーの保護

最大のメリットは、データが外部に送信されないことです。

プライバシーが重要なケース

• 機密性の高いビジネス文書の処理
• 個人情報を含むデータの分析
• 社内規定でクラウドAI使用が制限されている場合
• 医療・法律など専門分野での利用

コストの削減

一度セットアップすれば、利用量に関係なく追加費用がかかりません。

コスト比較

• ChatGPT Plus：月額20ドル × 12ヶ月 = 年間約36,000円
• Claude Pro：月額20ドル × 12ヶ月 = 年間約36,000円
• ローカルLLM：初期投資（PC性能向上）のみ

オフライン利用

インターネット接続なしで利用できます。

オフラインが便利なシーン

• 飛行機内や通信環境の悪い場所
• セキュリティ上ネット接続できない環境
• 通信コストを気にする必要がない

カスタマイズ性

モデルの調整や拡張が自由にできます。

• 特定分野のデータでファインチューニング
• 複数のモデルを切り替えて使用
• 他のローカルアプリケーションとの連携

セットアップ

Ollamaのインストール

Ollamaは最も簡単にローカルLLMを始められるツールです。

Macの場合

# Homebrewでインストール
brew install ollama

# または公式サイトからダウンロード
# https://ollama.ai

Windowsの場合 公式サイト（https://ollama.ai）からインストーラーをダウンロードして実行。

Linuxの場合

curl -fsSL https://ollama.ai/install.sh | sh

モデルのダウンロードと実行

# Llama 3 8Bモデルをダウンロード・実行
ollama run llama3

# Mistralモデルを実行
ollama run mistral

# 日本語に強いモデル
ollama run llama3:8b-instruct-q4_0

LM Studioのセットアップ

LM Studioは、GUIで操作できるローカルLLMアプリケーションです。

インストール手順

1. 公式サイト（https://lmstudio.ai）からダウンロード
2. インストーラーを実行
3. アプリを起動

モデルのダウンロード

1. 左側メニューの「Discover」タブを選択
2. 使いたいモデルを検索
3. 「Download」ボタンをクリック

チャットの開始

1. ダウンロードしたモデルを選択
2. 「Chat」タブで会話を開始

おすすめのモデル設定

一般的な用途（8GB VRAM以上）

• Llama 3 8B Instruct
• Mistral 7B Instruct

軽量環境（8GB未満）

• Phi-3 Mini
• Gemma 2B

日本語重視

• ELYZA-japanese-Llama-2-7b
• Japanese StableLM

コード生成

• CodeLlama
• DeepSeek Coder

活用例

日常的な文章作成

[Ollama / LM Studio]
以下のメールを丁寧な表現に書き直してください：

「明日の会議、14時でいいですか？」

コードの補助

[Ollama]
Pythonで、CSVファイルを読み込んで
売上の月別集計をするコードを書いてください。

文書の要約

機密文書もローカルで安全に処理できます。

[LM Studio]
以下の契約書の要点を箇条書きでまとめてください：
[契約書テキスト]

ブレインストーミング

[Ollama]
新しい健康食品のマーケティングアイデアを
10個挙げてください。ターゲットは30代女性です。

プログラミング学習

[Ollama]
ReactのuseStateフックについて、
初心者にもわかるように説明してください。
具体的なコード例も示してください。

他ツールとの連携

VS Codeとの連携

• Continue拡張機能：Ollamaと連携してコード補完
• 設定でローカルモデルを指定可能

Raycastとの連携（Mac）

• Raycast AI拡張機能でOllamaを利用
• ショートカットキーで素早くAI呼び出し

クラウドAIとの使い分け

ローカルLLMが適しているケース

• 機密データの処理
• コストを抑えたい日常的な作業
• オフライン環境での利用
• 特定用途に特化したカスタムモデルの利用

クラウドAIが適しているケース

• 最高性能が必要な複雑なタスク
• マルチモーダル（画像処理等）が必要
• 最新情報へのアクセスが必要
• PC性能が十分でない場合

併用のすすめ

両者を使い分けることで、最適なワークフローを構築できます。

例：文書作成フロー

1. アイデア出し・下書き：ローカルLLM（コスト節約）
2. 最終仕上げ・校正：Claude（高品質な結果）

例：開発ワークフロー

1. 日常的なコード補完：ローカルLLM
2. 複雑なアーキテクチャ相談：ChatGPT / Claude

まとめ

ローカルLLMは、プライバシー保護とコスト削減を両立できる魅力的な選択肢です。

始め方のおすすめ

1. まずはOllama：最も簡単に始められる
2. LM Studioも試す：GUIで使いやすい
3. 自分のPC性能に合ったモデルを選ぶ：無理に大きなモデルを使わない

適したユースケース

• 機密文書の処理
• 日常的な文章作成の補助
• オフラインでの利用
• AIへの月額費用を抑えたい

ローカルLLMはクラウドAIの完全な代替ではありませんが、うまく使い分けることで、よりセキュアで効率的なAI活用が可能になります。まずはOllamaをインストールして、その手軽さを体験してみてください。