メモリ8GBのPCでローカルAIを動かすための実践ガイド:実測データに基づくモデル選び
「自分のPCでローカルAIは動くのだろうか」という不安を抱えている方は少なくありません。特にメモリ容量が限られている場合、どのモデルを選べばスムーズに動作するのかを見極めることが重要です。本記事では、メモリ8GBのPCを想定した実測データをもとに、実用的なモデル選びの基準を詳しく解説します。
- OSの動作分を差し引いた「実用的な空きメモリ」を意識する
- モデルの「使用メモリ」と「生成速度」の両面から判断する
- CPUのみの環境でも「快適」な速度が出るモデルを優先する

メモリ8GBのPCにおける「使えるメモリ」の考え方
ローカルAI(自分のPC内で直接動作する人工知能)を動かす際、最も重要なリソースの一つがメモリです。しかし、PCに搭載されているメモリの全量をAIに割り当てられるわけではありません。
例えば、メモリ8GBのPCを使用する場合、OS(WindowsやmacOSなど)の基本的な動作だけで約4GBのメモリを消費すると想定するのが一般的です。つまり、AIモデルを動かすために自由に使えるメモリは、実質的に4GB程度となります。
この「実用的な空きメモリ」を基準に考えることが、スムーズな動作への第一歩です。
- チェックリスト1:モデルの使用メモリが4GB以下であるか
- チェックリスト2:CPUのみの動作でも「快適」な速度が出るか
- チェックリスト3:GPU(画像処理などを行うための専用部品)がある場合、さらに高速に動作するか
- チェックリスト4:自分の用途に合ったモデルサイズ(能力の大きさ)か
【実測データ】メモリ8GB環境で動作するモデル一覧
ここでは、メモリ8GBのPC(OSに約4GB使用と想定)で動作可能な主要なモデルの実測値を比較します。モデルの能力やサイズによって、消費メモリと生成速度には大きな差があります。
生成速度については、以下の体感目安を参考にしてください。
・30トークン/秒以上:一瞬で出力される
・15〜30トークン/秒:読むよりも速く、快適に動作する
・5〜15トークン/秒:少し待つが、実用的に使える
・5トークン/秒未満:待ち時間が気になり、ストレスを感じる可能性がある
※トークンとは、AIが文字を生成する際の最小単位のことです。
- gemma3:1b
- 使用メモリ:0.9GB
- CPUのみの速度:一瞬(61.7トークン/秒)
- GPUありの速度:一瞬(216.9トークン/秒)
- llama3.2:3b
- 使用メモリ:2.3GB
- CPUのみの速度:快適(27.3トークン/秒)
- GPUありの速度:一瞬(189.7トークン/秒)
- qwen3.5:2b
- 使用メモリ:2.3GB
- CPUのみの速度:快適(27.7トークン/秒)
- GPUありの速度:一瞬(170.4トークン/秒)
- gemma3:4b
- 使用メモリ:2.8GB
- CPUのみの速度:快適(21.5トークン/秒)
- GPUありの速度:一瞬(142.0トークン/秒)
- qwen3.5:4b
- 使用メモリ:3.1GB
- CPUのみの速度:快適(19.3トークン/秒)
- GPUありの速度:一瞬(132.1トークン/秒)
このサイトの実測データ
実用性を重視したモデル選びのポイント
実測データから分かることは、メモリ8GBの環境であれば、上記に挙げたモデルはいずれも「実用的な速度」で動作するという点です。しかし、より快適な体験を求めるのであれば、以下のポイントに注目して選ぶのがおすすめです。
まず、CPUのみで動作させる環境であれば、15〜30トークン/秒の範囲に入るモデルを選ぶことで、ストレスのない対話が可能になります。今回のデータでは、llama3.2:3b、qwen3.5:2b、gemma3:4b、qwen3.5:4bのすべてがこの「快適」な範囲に収まっています。
一方で、より高速なレスポンスを求める場合は、gemma3:1bのような軽量なモデルが適しています。これらはCPUのみでも「一瞬」で出力されるため、瞬発的な反応が必要なタスクに向いています。
最終的には、単に「動くかどうか」だけでなく、「自分のやりたいことに対して、実用的な速度で回答が返ってくるか」を基準にモデルを絞り込んでいくのが、ローカルAIを使いこなすコツです。
- 速度重視(一瞬)なら:gemma3:1b
- バランス重視(快適)なら:llama3.2:3b、qwen3.5:2b、gemma3:4b、qwen3.5:4b
- メモリ節約を最優先するなら:gemma3:1b
- メモリ8GBのPCを持っていて、ローカルAIを試してみたい初心者の方
- 自分のPCでどのモデルがスムーズに動くのか知りたい方
- すでに高性能なGPUを搭載したPCを所有しており、より巨大なモデルを動かしたい方
よくある質問
Q. メモリ8GBで、4GB以上のモデルは動かせませんか?
OSの動作分を差し引いた空きメモリを基準とするため、実用的な動作を保証する範囲としては4GB以下をおすすめしています。4GBを超えるモデルを動かそうとすると、メモリ不足により動作が極端に遅くなったり、強制終了したりする可能性があります。
Q. GPUを持っていない場合でも快適に動きますか?
今回の実測データでは、llama3.2:3bやqwen3.5:2bなどのモデルは、CPUのみでも「快適」な速度(15〜30トークン/秒)で動作することが確認されています。GPUがなくても、適切なモデルを選べば十分に実用的な速度で利用可能です。
メモリ8GBのPCでローカルAIを運用する際は、OSの消費分を考慮し、実質的に使えるメモリを4GBと想定しましょう。gemma3:1bは「一瞬」の速さを、llama3.2:3bやqwen3.5:2bなどは「快適」な速度を実現しており、用途に合わせてこれらの中から最適なモデルを選択することが成功の鍵となります。
続きはThreadsで。新しいAIの実測と、仕事で使えた使い方を毎日投稿しています。
@shachiku_tech_lab をフォロー関連記事
AIサービスの有料版と無料版、仕事でどう使い分ける?失敗しないための判断基準
AIを仕事に取り入れたいけれど、いきなり有料プランに入るべきか迷っている方へ。無料版でまず「体験」することの重要性と、有料版に移行する際の主なチェックポイントを解説します。
CPUのスレッド数を減らしてもAIの生成速度が変わらない理由について
AIモデルを自分のPCで動かす際、CPUのスレッド数を調整することで速度が変わるのか、実測データをもとに解説します。
ローカルAIのモデル名にある「Q4」「Q8」の意味とは?量子化の仕組みを分かりやすく解説
AIモデルの名称によく見られる「Q4」や「Q8」という表記。これらはAIを軽量化するための「量子化」という技術に関係しています。初心者の方向けに、それぞれの違いや選び方の基準を解説します。
新しいモデルの実測や解説を毎日投稿しています
Threadsでフォロー以上、今日の実験ログでした。![]()