ローカルLLMとは？パソコンでAIを動かすメリット・デメリットと必要なスペック

AIのニュースやSNSで、「ローカルLLM」という言葉を見かけることが増えてきました。ChatGPTのようなAIを自分のパソコンで動かせると聞いても、どれくらいのパソコンが必要なのか、何がうれしいのかは分かりにくいですよね。

当記事では、ローカルLLMとは何か、どんなモデルや道具で動かすのか、メリット・デメリットと必要なパソコンの目安を、AI初心者向けにわかりやすく解説します。

ローカルLLMとは？自分のパソコンの中で動かすAI

ローカルLLMとは、インターネットの向こうのサーバーではなく、自分のパソコンの中で動かすLLM（大規模言語モデル）のことです。「ローカル」は「手元の」という意味で、手元のパソコンだけでAIが文章を作ります。

ふだん使っているChatGPT・Claude・Geminiは、質問を各社のサーバーに送り、サーバーの上で動くLLMが答えを作って送り返す「クラウド」の仕組みです。ローカルLLMでは、AIの頭脳にあたるモデルのファイルを自分のパソコンに入れて、パソコンの中だけで答えを作ります。

	クラウドのAI（ChatGPTなど）	ローカルLLM
AIが動く場所	各社のサーバー	自分のパソコン
質問の送り先	インターネットで各社に送る	パソコンの外に送らない（設定による）
インターネット	必要	モデルを入れたあとは、なくても使える
賢さ	各社の最新・最上位のモデル	パソコンで動く大きさのモデル

※編集部による整理。道具によってはクラウドの機能も持っているため、設定の確認が必要

たとえるなら、クラウドのAIは「腕のいいシェフがいるレストランに注文する」こと、ローカルLLMは「自分の台所で料理する」ことです。台所の広さ（パソコンの性能）によって、作れる料理（動かせるモデル）が決まります。

▶ 関連記事：LLMとは？大規模言語モデルの仕組みとChatGPTとの違い、得意・苦手を解説

ローカルLLMで使うモデルは？オープンウェイトのGemma・gpt-ossなど

ローカルLLMで使うのは、モデルの中身（ウェイト＝学習で調整された数値）が公開されていて、ダウンロードして使える「オープンウェイト」のモデルです。ChatGPTのGPT-6やClaude Opus 5.5のような各社の主力モデルは、中身が公開されていないので、自分のパソコンでは動かせません。

主なオープンウェイトのモデルを、公式の説明をもとに整理すると次の通りです（2026年11月1日時点）。

モデル	会社	公式の説明（要点）
Gemma 4	Google	軽量なオープンモデルのシリーズ。スマホやブラウザ向けの小さいもの（E2B・E4B）から、12B・26B・31Bまで
gpt-oss	OpenAI	gpt-oss-120bとgpt-oss-20bの2つ。Apache 2.0ライセンス。20bは16GBのメモリに収まるよう設計
Llama	Meta	Llama 4などのシリーズ。Linux・Mac・Windowsで動かすためのガイドがある
Mistral Small 4 など	Mistral AI	Apache 2.0ライセンスのモデルとして、Mistral Small 4やMinistral 3（3B・8B・14B）などを公開

※2026年11月1日時点・各社の公式ドキュメントより編集部が整理

モデル名についている「12B」「20b」などは、パラメーター（調整つまみ）の数で、Bは10億（billion）を表します。数字が大きいほど賢くなりやすい一方で、必要なメモリも増えます。

なお、オープンウェイトのモデルは無料でダウンロードできるものが多いですが、使ってよい範囲はモデルごとの利用条件（ライセンス）で決まっています。仕事で使うときは、各モデルの公式ページでライセンスを確認しましょう。

>>Google公式「Gemma 4 モデルの概要」（英語）

>>OpenAI公式「gpt-oss」（GitHub・英語）

ローカルLLMを動かす道具は？OllamaとLM Studioの概要

モデルのファイルだけでは、AIと会話できません。モデルを読み込んで動かす「道具（アプリ）」を使います。代表的なのが次の2つです。

道具	特徴（公式の説明より）
Ollama	オープンモデルを手元で動かすための道具。macOS・Windows・Linux向けの説明がある。クラウドで動くモデルも使える
LM Studio	画面（アプリ）でモデルを選んで会話できる道具。モデルのファイルを先に入れておけば、完全にオフラインで動かせる

※2026年11月1日時点・Ollama公式FAQ、LM Studio公式ドキュメントより編集部が整理

どちらも、大まかな流れは「道具をインストールする → 使いたいモデルを選んでダウンロードする → 会話を始める」の3ステップです。くわしい手順や最新の対応状況は、それぞれの公式サイトで確認してください。

Ollamaは「クラウドのモデル」との違いに注意

Ollamaの公式FAQによると、手元で動かしている場合は、利用者の質問やデータをOllama側が見ることはないと説明されています。一方で、Ollamaにはクラウドで動くモデルやWeb検索の機能もあり、それらを使うと質問はOllamaのサーバーで処理されます（内容は保存・学習に使わないと説明）。データを外に出したくないなら、クラウドの機能をオフにして手元だけで動かす設定ができることも、公式FAQに書かれています。

>>Ollama公式「FAQ」（英語）

ローカルLLMのメリット・デメリット

メリット

• データを外に出さない：質問や資料がパソコンの外に出ないので、社外に出せない資料や個人情報を含む文章も扱いやすい
• オフラインで使える：モデルを入れておけば、インターネットがない場所でも使える
• 使った分の料金がかからない：クラウドのAPIのように、使った量（トークン）に応じた料金はかからない。かかるのはパソコン代と電気代
• サービスの都合に左右されにくい：提供会社の障害やモデルの提供終了の影響を受けにくい

▶ 関連記事：AIの個人情報漏洩対策！調べもの中にメールアドレスを送る事故と防ぎ方

デメリット

• メモリと性能が必要：大きいモデルほど、たくさんのメモリと速い処理装置（GPUなど）が必要
• クラウドの最新モデルほど賢くない：パソコンで動く大きさのモデルなので、各社の最上位モデルにはかなわないことが多い
• 答えが遅くなることがある：パソコンの性能が足りないと、文章が出てくるまで時間がかかる
• 自分で管理する手間：モデルの選び方・更新・設定を自分で行う必要がある

ローカルLLMも、しくみはクラウドのLLMと同じです。もっともらしいウソをつくこと（ハルシネーション）や、学習した時期より新しいことを知らない点は変わりません。

ローカルLLMに必要なパソコンの目安は？公式の数字で確認

必要なパソコンの性能は、動かすモデルの大きさで大きく変わります。ここでは、公式に書かれている数字だけを紹介します。

道具の動作条件（LM Studio）

パソコン	LM Studio公式の条件・推奨
Mac	Apple シリコン搭載のMac、macOS 14.0以降。メモリ16GB以上を推奨（8GBでも小さいモデルなら動く場合がある）。Intel搭載のMacは非対応
Windows	メモリ16GB以上を推奨。専用のGPUメモリ（VRAM）4GB以上を推奨

※2026年11月1日時点・LM Studio公式ドキュメント「System Requirements」より編集部が整理

モデルを読み込むのに必要なメモリ（Gemma 4の例）

Googleの公式ドキュメントには、Gemma 4のモデルを読み込むのに必要なメモリのおおよその量が書かれています。データを小さく圧縮した形式（4ビット・Q4_0）の場合は次の通りです。

モデル	必要なメモリの目安（4ビット）
Gemma 4 E2B	約2.9GB
Gemma 4 E4B	約4.5GB
Gemma 4 12B	約6.7GB
Gemma 4 26B A4B	約14.4GB
Gemma 4 31B	約17.5GB

※2026年11月1日時点・Google公式ドキュメントより。モデルの読み込みだけの量で、会話の内容を覚えておくためのメモリや道具の動作分は含まない

また、OpenAIの公式リポジトリによると、gpt-oss-20bは16GBのメモリで動くように、gpt-oss-120bは80GBのGPUを1枚使って動くように設計されています。これらの数字はモデルを動かすための目安で、実際には会話が長くなるほど、さらにメモリを使います。まずは小さいモデルから試し、足りなければ大きいモデルへ、と進めるのが安心です。

ローカルLLMを動かしっぱなしにして、家の中のほかのパソコンやスマホから使う、という使い方もあります。置き場所の選び方は次の記事で解説しています。

▶ 関連記事：Mac miniを常時稼働させるメリットは？AIを24時間動かすならMacBookより向いている理由

>>LM Studio公式「System Requirements」（英語）

ローカルLLMと一緒に知っておきたい関連用語

用語	ひとことで言うと
LLM（大規模言語モデル）	大量の文章を学んで、次の言葉を予測しながら文章を作るAI
トークン	LLMが文章を読むときの細かい単位
コンテキストウィンドウ	LLMが一度に見られる文章の量。長いほどメモリを使う
APIキー	クラウドのAIをプログラムから使うときの合い言葉。ローカルLLMでは基本的に不要

※編集部による整理

▶ 関連記事：トークンとは？AIが文章を数える単位、料金や文字数の目安と数え方

▶ 関連記事：コンテキストウィンドウとは？AIが一度に覚えられる量と会話を忘れる理由

▶ 関連記事：APIキーとは？AIを使う合いかぎの仕組みと料金、漏れたときの危険と守り方

▶ 関連記事：AI用語集！LLM・トークン・AIエージェントなど、よく使う言葉の意味をひとことで

【まとめ】ローカルLLMは「データを外に出さないAI」、ただしパソコンの性能が必要

ローカルLLMは、Gemma・gpt-oss・Llama・Mistralなどのオープンウェイトのモデルを、OllamaやLM Studioなどの道具で自分のパソコンの中で動かすAIです。データを外に出さない・オフラインで使える・使った分の料金がかからない、というメリットがある一方、メモリと性能が必要で、クラウドの最新モデルほど賢くはありません。大事な資料を扱う作業はローカル、難しい作業はクラウド、と使い分けるのがおすすめです。