ローカルLLMを動かすのに必要なメモリはどれくらい？

用途とモデルの大きさによる。要約や翻訳など軽い用途なら3Bクラス（メモリ8GB程度）、RAGやコード相談など"実用の底"は7〜8Bクラス（16GBの統合メモリ、またはVRAM 8GB）が目安。大きいモデルほど賢いが、より多くのメモリが要る。

ローカルLLMは具体的に何に使える？

自分のファイルへの質問（RAG）、コードの相談・補完、要約や翻訳、外に出したくない文章の処理、オフラインや大量処理、画像の読み取りなど。機密・大量・オフライン・課金ゼロが得意分野。

ローカルLLMとClaudeやChatGPTはどっちがいい？

使い分け。最高品質の一発や、自律的に長く走るエージェントはクラウドが上。逆に、機密データ・大量処理・オフライン・従量課金を避けたい場面ではローカルが有利。ハイブリッドが現実解。

ローカルLLMは結局何に使える？2026年の実用的な使い道7つと、必要メモリの目安

目次 / INDEX

ローカルLLM（自分のPCやMacの中だけで動くAI）を入れてみたはいいけど、結局何に使うのか分からず放置してる。そういう人は多いと思う。「動いた、すごい」で満足して、そのままになりがちなんだよね。

この記事は、僕が使い方を一通り調べ直して、**用途ごとに「何ができて・どのツールとモデルで・どのくらいのマシンが要るか」**をまとめた決定版だ。薄い感想じゃなくて、その通りやれば試せる解像度で書く。先に必要メモリの話だけ押さえてから、7つの使い道に入る。

結論ローカルLLMが得意なのは「機密・大量・オフライン・課金ゼロ」。自分のファイルへの質問（RAG）・コード補助・要約翻訳・画像の読み取りなどに使える。実用の底は7〜8Bクラス（メモリ16GBが目安）。最高品質の一発や自律エージェントはクラウドの方が上。

まず、必要メモリの早見表

ローカルLLMは「モデルの大きさ（パラメータ数）」でだいたい必要なメモリが決まる。モデルの大きさは「3B」「8B」のようにB（10億個）の単位で表される。そのままだと重いので、量子化（数値を粗くしてファイルを小さくする圧縮のこと。難しく考えなくていい）した状態で動かすのが普通で、いま標準なのは「Q4」という4bit量子化だ。その前提での目安がこれ。

モデルの大きさ	Q4での容量	必要メモリの目安	だいたい何ができるか
3Bクラス	約2GB	メモリ8GBのPC / 8GBのMacでも可	要約・翻訳・整形・簡単な分類。会話の賢さは限定的
7〜8Bクラス	約5GB	VRAM 8GB / 統合メモリ16GB	ここが実用の底。RAG・コード相談・日常のQ&A
12〜14Bクラス	約8GB	VRAM 12GB / 統合メモリ16〜24GB	指示の理解が一段しっかり。翻訳・要約の質が上がる
27〜32Bクラス	約19GB	VRAM 24GB / 統合メモリ32GB	クラウドの下位モデルに肉薄。コードもかなり戦える

「VRAM」はグラフィックボード（GPU）の専用メモリ、「統合メモリ」はApple SiliconのMacがCPUとGPUで共有しているメモリのこと。Macは総メモリの7割くらいをAIに回せるイメージなので、16GBのMacなら8Bが快適、32GBなら27Bも動く、という感じになる。

このメモリの話は、そのままPC選び・Mac選びに直結する。どれくらい積むべきかは別記事で実測を含めて詳しくまとめた。

入口になるツールは、だいたいこの3つ

使い道の前に、道具を先に。ローカルLLM界隈のツールは山ほどあるけど、入口は実質この3つで足りる。

Ollama：一番の土台。ollama pull（モデルを落とす）と ollama run（動かす）だけで使える。他の多くのツールが裏でこれを使っている。まず入れるべきはこれ。
LM Studio：全部を画面（GUI）で完結したい人向け。モデル探し・チャット・PDFへの質問・APIサーバーまで全部入り。Macだと「MLX」という仕組みで速く動く。
Open WebUI / AnythingLLM：Ollamaに「自分の文書に質問する」機能を足すためのWeb画面。

コマンドが苦手なら LM Studio 一本が一番つまずかない。慣れてるなら Ollama を土台にして必要な画面を足していく形がいい。では、具体的な使い道に入る。

使い道1：自分のファイル・PDF・ノートに質問する（RAG）

何ができるか：手元のPDFやノートを読み込ませて、「この資料のどこに〇〇が書いてある？」と自然な言葉で聞ける。答えの根拠になった箇所も示してくれる。この仕組みを「RAG」と呼ぶ（自分の文書を検索して、それを見ながらAIが答える方式、くらいの理解でいい）。

どう実現するか：文書への質問が主役なら AnythingLLM が分かりやすい。「税務」「講義」みたいにワークスペースを分けられて、面倒な初期設定なしで使える。構成は、答えを作るモデルにOllamaのqwen3:8b、文書を検索用に変換する埋め込みモデル（nomic-embed-text）を組み合わせるのが定番。すでにチャット画面としてOpen WebUIを使ってるなら、そこに文書機能を後付けでもいい。とにかく手軽にやりたいなら、LM StudioにPDFを添付するだけでも動く。

必要メモリ：答えを作る7〜8Bが主役（統合16GB / VRAM 8GB）。埋め込みモデルは軽いので誤差。

クラウドとの使い分け：契約書や個人的なノートみたいに外に出したくない文書は迷わずローカル。逆に、公開情報を高精度で要約したいだけならクラウドの方が賢い。

使い道2：コードの相談・補助

何ができるか：チャットでのコード生成・説明・デバッグに加えて、エディタでのタブ補完（書きかけの続きをAIが提案するやつ）。

モデル選び：コードは Qwen2.5-Coder 系が本命。チャットや編集ならqwen2.5-coder:7b（16GB）〜:32b（VRAM 24GB / Mac 32GB）、軽いタブ補完ならqwen2.5-coder:1.5bで8GB機でも動く。

エディタ連携の道具：VS Codeなら Cline（ファイルをまたいで編集してくれる）や Twinny（軽量でOllama前提）、エディタ本体でいくなら Zed（Ollama接続が最初から入っている）。ターミナル派には aider（gitと連携）。※ 長く定番だった Continue.dev は2026年に別会社に買収されて縮小方向なので、新しく選ぶなら上の代替が無難。

必要メモリ：補完だけなら1.5〜3B（8GB機）、まともなチャット相談は7B（16GB）が下限、質を求めるなら14〜32B。

クラウドとの使い分け：現実解はハイブリッド。ルーチンの補完はローカルのQwen、難しい設計や大規模なリファクタはクラウドのClaudeやGPTに投げる。ローカル単独が輝くのは「オフラインの機内」「コードを絶対に外に出せない案件」だ。

使い道3：要約・翻訳・下書き

何ができるか：長文の要約、外に出したくない文章の清書、日英・日中の翻訳、定型メールの下書きなど。

向いてるモデル：翻訳を1モデルでこなすならqwen3:7b（多言語対応で日本語も強い）。とにかく軽く速く整形・要約したいならgemma3:4b。質を上げたいならgemma3:12bやqwen3:14bで、要約の粒度指定などがしっかり効くようになる。

必要メモリ：短文の整形・翻訳は3〜4B（8GB機）で十分。長文要約の質を求めるなら12〜14B（16〜24GB）。

クラウドとの使い分け：翻訳の「最後の精度」はまだクラウド（ClaudeやDeepL）が上。ただし「大量処理・私的データ・従量課金の回避」が揃うとローカルが現実解になる。

使い道4：外に出したくない作業（プライバシー重視）

なぜローカルなのか：推論が全部手元で完結するので、入力した文章が一切ネットに出ない。クラウドは「学習には使わない」と規約に書いてあっても、“物理的に送っていない”という安心はローカルでしか得られない。機微な情報や、NDAのあるコードなんかが典型だ。

実現：ここまでに出たツール（Ollama / LM Studio / AnythingLLM）は全部ローカル完結。Ollamaは初期状態だと自分のPCの中（localhost）でしか動かず、外に送らない。注意点として、Web検索プラグインなどを足すと、そこから外部に問い合わせが出る。「完全にローカルで」を守るなら、後から足す機能の通信先だけ気にすればいい。

使い道5：オフライン・従量課金を気にせず回す

何ができるか：ネットのない場所（機内・電波の悪い所）で使う。あるいは、何万回叩いても電気代だけという強みを活かして、大量のデータ整形や分類をバッチで回す。

実現：一度モデルをollama pullしておけば、以降はオフラインで動く。OllamaもLM Studioも「OpenAI互換API」というものを立てるので、OpenAI向けに書いた自作スクリプトの接続先を差し替えるだけで、ローカルモデルに切り替えられる。ここが、課金を気にせず回せる肝になる。

必要メモリ：常時回すバッチなら速度が効くので、少し小さめで速い3〜8Bが実務的。

クラウドとの使い分け：単発の高品質より「回数・常時稼働」が価値になる場面がローカルの独壇場。逆に「月に数回、最高品質で」ならクラウド従量の方が安い。

使い道6：簡単な自動化（ツール利用・関数呼び出し）

何ができるか：AIに「天気を取ってきて整形」みたいな道具（関数）を使わせる。Ollamaは関数呼び出しに正式対応していて、自作の関数をAIに選ばせて実行できる。

向いてるモデル：ローカルで一番安定して道具を使えるのは Qwen3系。実用にするなら7〜8B（16GB）が下限、14B以上あると取りこぼしが減る。

まだ弱いこと：正直に書くと、5ステップ以上の長い自動処理は、途中で脱線したり引数を間違えたりしやすい。「自律的に長時間、勝手に完遂」はまだ信頼性が足りないので、**要所で人が確認する”半自動”**が現実的な使い方になる。

使い道7：画像を扱う（マルチモーダル）

何ができるか：画像に質問する、スクショや書類のOCR（文字起こし）、図表や手書きの読み取り。

モデルと使い分け：OCRや帳票の読み取りに強いのが qwen2.5vl（:3b/:7b/:32b）。テキストも画像も扱える汎用なら gemma3。超軽量でCPUでも動く moondream はお試しやスクショOCRに向く。手順はこれだけ。

ollama pull qwen2.5vl:7b
ollama run qwen2.5vl:7b "この請求書の合計金額と日付を抜き出して" --image invoice.png

必要メモリ：qwen2.5vl:3bなら4〜8GB、:7b級で8GB VRAM。画像は文字より少しメモリを食うので、同じ大きさでも重めに見ておく。

まず何から試すか

1つだけ選ぶなら、ollama pull qwen3:8b を入れて、LM Studio か Open WebUI でチャットするところから。メモリ16GBあれば動いて、汎用チャット・要約・翻訳・簡単なコード相談まで、“実用の底”を一通り体験できる。画面で完結したいなら LM Studio 一本が一番つまずかない。そこから「文書への質問を本格化するならAnythingLLM」「コードならQwen2.5-Coder＋Cline」「画像ならqwen2.5vl」と枝を伸ばしていくのが王道だ。まだ環境が無いなら、入れ方はこっちにまとめてある。

ローカルLLMが向かない・クラウドの方がいい場面（正直に）

いいことばかり書いても仕方ないので、向かない場面も正直に。

とにかく最高品質の一発が欲しい：緻密な長文推論・難しい翻訳・複雑なコードの一発生成は、クラウド上位モデル（Claude / GPT）がまだ明確に上。ローカル32Bでも届かない領域がある。
自律的に長く走らせたい：多段の自動処理の信頼性はクラウドが上。ローカルは半自動が現実。
マシンが非力（メモリ8GB以下・GPUなしの古いPC）：動くのは3Bまでで、体感は”それなり”。無理して使うより素直にクラウド。
たまにしか使わない：月に数回なら、電気代やメモリ投資よりクラウド従量の方が安くて速い。
最新の情報が要る：ローカルモデルの知識は学習時点で止まっている。時事や最新の仕様はWeb検索付きのクラウドが有利。

まとめると、「機密・大量・オフライン・課金ゼロ」がローカルの勝ち筋、「最高品質・自律エージェント・たまに使う」がクラウドの勝ち筋。この線引きさえ分かっていれば、放置してたモデルにもちゃんと居場所ができると思う。まず1個、自分の用途に一番近いところで試すのが早い。