メモリ8GBのPCでもローカルAIは動く?実測データから判明した「ちょうどいい」モデルの選び方
「自分のPCのスペックでは、AIを動かすのは無理だろう」と諦めていませんか?実は、メモリが8GBであっても、モデルのサイズを適切に選べば、驚くほどスムーズに動かすことが可能です。
- OSの動作分(約4GB)を差し引いても、4GB以下のモデルなら十分に実用範囲
- 軽量モデル(1B〜2Bクラス)ならCPUのみでも「一瞬」で回答が出る
- 3B〜4Bクラスのモデルなら、人間が読む速度を上回る「快適」な操作感を実現
- GPU(ビデオカード)があれば、さらに数倍〜数十倍の高速化が見込める

メモリ8GBのPCで動かすための「前提条件」
ローカルAI(自分のPC上で直接動かすAI)を動かす際、最も重要なのは「メモリ」の空き容量です。PCのメモリは、OS(WindowsやMacなど)やブラウザなどが動作するために、最初から一定の量を消費しています。
今回は、OSなどの動作分として約4GBのメモリをあらかじめ使用していると想定し、残りのメモリで動かせるモデルを調査しました。メモリ8GBのPCであれば、モデルが使用するメモリが4GB以下に収まるものを選べば、実用的な範囲で動作させることができる計算になります。
- OSの基本動作:約4GB消費(想定)
- 動作の目安:モデルの使用メモリが4GB以下であれば、メモリ8GBのPCでも動作可能
【実測】モデル別の動作速度とメモリ使用量
実際に複数のモデルを動かしてみたところ、モデルのサイズ(パラメータ数)によって、メモリの消費量と生成速度に明確な差が出ることが分かりました。以下は、CPUのみで動かした場合の数値です。
ここでいう「トークン」とは、AIが文章を扱う際の最小単位です。日本語の場合、だいたい1〜2文字程度に相当します。このトークンの速さ(秒間に出る量)で、体感的な快適さを判断します。
- gemma3:1b(極めて軽量)
- ・使用メモリ:0.9GB
- ・CPU速度:61.7トークン/秒(一瞬で文字が出てくるレベル)
- llama3.2:3b(バランス型)
- ・使用メモリ:2.3GB
- ・CPU速度:27.3トークン/秒(読むより速く、非常に快適)
- qwen3.5:2b(軽量・高効率)
- ・使用メモリ:2.3GB
- ・CPU速度:27.7トークン/秒(読むより速く、非常に快適)
- gemma3:4b(少し大きめ)
- ・使用メモリ:2.8GB
- ・CPU速度:21.5トークン/秒(読むより速いくらいの快適さ)
- qwen3.5:4b(少し大きめ)
- ・使用メモリ:3.1GB
- ・CPU速度:19.3トークン/秒(快適に動作する速度)
このサイトの実測データ
結論:メモリ8GBならこの選び方が正解
実測データから分かるポイントは、メモリ8GBの環境であっても「モデルの選び方」次第で、ストレスのないAI環境を構築できるということです。
特に、使用メモリが3GB前後のモデルであれば、CPUのみの動作であっても人間が文章を読むスピードを上回る速度で回答が得られます。これは、日常的な作業の補助として使うには十分すぎるほど快適な速度です。
もし、さらに高速な動作(一瞬で文章を生成させるなど)を求める場合は、GPU(映像処理を専門に行うパーツ)の有無が重要になります。GPUがあれば、これらの数値は数倍から数十倍へと跳ね上がるため、より高度な作業にも対応しやすくなります。
- 最速を求めるなら:gemma3:1b(CPUでも一瞬)
- バランス重視なら:llama3.2:3b や qwen3.5:2b(快適な操作感)
- 少し賢いモデルを試すなら:gemma3:4b や qwen3.5:4b(実用的な速度)
まとめ
「自分のPCでは動かない」と諦める前に、まずは軽量なモデルから試してみることをおすすめします。メモリ8GBという制約があっても、適切なモデルを選べば、ローカル環境でAIを動かすという体験は十分に可能です。
まずは、自分のPCのメモリが何GBあるかを確認し、今回ご紹介した「ちょうどいいサイズ」のモデルから手をつけてみてください。
- 自分のPCのスペックを把握する
- モデルのサイズ(使用メモリ)を確認する
- まずは3GB前後のモデルから試してみる
- メモリ8GBのPCを持っていて、ローカルAIを動かせるか不安な人
- 自分のPCのスペックでどこまでできるか知りたい人
- 有料サービスに頼らず、手元の環境でAIを試してみたい人
- 最新の超高性能GPUを搭載した環境での高度なカスタマイズを求める人
- クラウドサービス(ChatGPT等)の高度な機能のみを求める人
よくある質問
Q. メモリ8GBでも本当に快適に動きますか?
はい、モデルのサイズを適切に選べば快適に動きます。今回の実測では、3GB前後のモデルであればCPUのみでも「読むより速い」快適な速度で動作することが確認できました。
Q. GPUを持っていない場合はどうなりますか?
GPUがない場合でも、軽量なモデル(1B〜4Bクラス)であればCPUのみで実用的な速度で動かすことが可能です。ただし、GPUがある場合と比較すると速度は緩やかになります。
続きはThreadsで。新しいAIの実測と、仕事で使えた使い方を毎日投稿しています。
@shachiku_tech_lab をフォロー関連記事
AIサービスの有料版と無料版、仕事でどう使い分ける?失敗しないための判断基準
AIを仕事に取り入れたいけれど、いきなり有料プランに入るべきか迷っている方へ。無料版でまず「体験」することの重要性と、有料版に移行する際の主なチェックポイントを解説します。
CPUのスレッド数を減らしてもAIの生成速度が変わらない理由について
AIモデルを自分のPCで動かす際、CPUのスレッド数を調整することで速度が変わるのか、実測データをもとに解説します。
ローカルAIのモデル名にある「Q4」「Q8」の意味とは?量子化の仕組みを分かりやすく解説
AIモデルの名称によく見られる「Q4」や「Q8」という表記。これらはAIを軽量化するための「量子化」という技術に関係しています。初心者の方向けに、それぞれの違いや選び方の基準を解説します。
新しいモデルの実測や解説を毎日投稿しています
Threadsでフォロー以上、今日の実験ログでした。![]()