CPUのスレッド数を減らしてもAIの生成速度が変わらない理由について
自分のPCでAIを動かそうと考えたとき、CPUのスペックやスレッド数がどれほど影響するのか気になったことはありませんか。一般的には、処理能力をフルに使うほど速くなると思われがちですが、実測では意外な結果が出ることがあります。今回は、CPUのスレッド数を制限しても生成速度がほとんど変わらなかったという実測結果と、その背景にある仕組みについて解説します。
- 実測では、CPUのスレッド数を制限しても生成速度への影響は極めて小さかった。
- AIの文章生成処理は、CPUの計算能力よりもメモリのデータ転送速度に左右されやすい傾向がある。
- PC環境に合わせてスレッド数を調整することも、一つの選択肢となり得る。

実測データによる比較:8コアと4スレッドの結果
実際に特定のPC環境において、CPUのみでAIモデルを動かした際の生成速度を比較しました。比較の条件として、CPUの処理能力を「8コア」と「4スレッド」の2パターンに制限して測定を行いました。
測定に使用したモデルとそれぞれの速度(トークン/秒)は以下の通りです。
まず、gemma4:12bというモデルでは、8コアの時に4.6トークン/秒、4スレッドに制限した時も4.6トークン/秒という結果になりました。この数値は「待ち時間が気になる」程度の速度であり、スレッド数を半分に減らしても速度に変化が見られなかったことを示しています。
次に、qwen3.5:9bというモデルでは、8コアで11.2トークン/秒、4スレッドで11.0トークン/秒という結果となりました。こちらは「読むより速く快適」な速度であり、こちらもスレッド数を絞っても速度の低下はごくわずかでした。
- gemma4:12b(8コア):4.6トークン/秒(待ち時間が気になる)
- gemma4:12b(4スレッド):4.6トークン/秒(待ち時間が気になる)
- qwen3.5:9b(8コア):11.2トークン/秒(読むより速く快適)
- qwen3.5:9b(4スレッド):11.0トークン/秒(読むより速く快適)
なぜスレッド数を減らしても速度が変わらないのか
なぜCPUの処理能力を制限したにもかかわらず、速度が変わらなかったのでしょうか。その理由は、AIが文章を作る際の処理の性質にあります。
AIモデルが次の言葉を生成する処理は、高度な「計算の速さ」だけで決まるわけではありません。むしろ、メモリ(データを一時的に保管する場所)から必要なデータをいかに素早く読み出せるかという「メモリからのデータ転送速度」に大きく左右されやすいとされています。
今回の実測結果は、この「メモリ転送速度」が全体の処理におけるボトルネック(処理を遅らせる原因となる箇所)になっている可能性を示唆しています。つまり、CPUの計算能力をどれだけ高く設定しても、メモリからのデータ供給が追いつかなければ、生成速度は頭打ちになってしまうのです。
- AIの生成処理は、CPUの計算速度よりもメモリからのデータ読み出し速度に依存しやすい。
- メモリ転送速度がボトルネックになると、スレッド数を増やしても速度向上が見られない。
このサイトの実測データ
自分のPC環境に合わせた調整のヒント
今回の検証から、必ずしもCPUの全スレッドをフル活用することが、AIの生成速度に直結するわけではないことが分かりました。スペックを過度に気にしてAIの導入をためらってしまう必要はないかもしれません。
自分のPC環境でAIを動かす際は、スレッド数をあえて制限することで、他の作業との並行処理をスムーズにするなどの調整を試してみるのも一つの手です。公式の情報では、AIの処理がメモリ速度に左右されやすいとされているため、まずは現在の環境でスレッド数を調整しながら、自分にとって最適なバランスを探ってみることをお勧めします。
- スペック不足を過度に心配せず、まずは自分の環境で試してみることが大切。
- スレッド数を制限することで、他のアプリケーションとの共存を優先する調整も可能。
- 自分のPCでAIを動かしたい初心者の方
- PCのスペックとAIの速度の関係を知りたい方
- 既に高度なGPU環境でAIを運用している専門家
- 特定の数値計算のアルゴリズムを深く追求したい方
よくある質問
Q. スレッド数を減らしても本当に速度は変わりませんか?
今回の実測では、メモリの転送速度がボトルネックとなっているため、スレッド数を減らしても速度はほぼ同じという結果になりました。ただし、モデルやPCの構成によっては変化が出る可能性もあります。
Q. 速度を上げるにはどうすればいいですか?
今回の情報源では、計算の速さよりもメモリからのデータ読み出し速度が重要であるとされています。そのため、CPUのスレッド数を増やすことよりも、メモリの性能や速度が影響する可能性が高いと考えられます。
AIの文章生成はCPUの計算力よりもメモリの読み出し速度に左右されやすいため、スレッド数を減らしても速度が低下しない場合があります。自分の環境に合わせてスレッド数を調整することも有効な手段です。
続きはThreadsで。新しいAIの実測と、仕事で使えた使い方を毎日投稿しています。
@shachiku_tech_lab をフォロー関連記事
AIサービスの有料版と無料版、仕事でどう使い分ける?失敗しないための判断基準
AIを仕事に取り入れたいけれど、いきなり有料プランに入るべきか迷っている方へ。無料版でまず「体験」することの重要性と、有料版に移行する際の主なチェックポイントを解説します。
ローカルAIのモデル名にある「Q4」「Q8」の意味とは?量子化の仕組みを分かりやすく解説
AIモデルの名称によく見られる「Q4」や「Q8」という表記。これらはAIを軽量化するための「量子化」という技術に関係しています。初心者の方向けに、それぞれの違いや選び方の基準を解説します。
【実測データ公開】GPUなしのPCでもローカルAIを快適に動かすためのモデル選び
「自分のPCにはグラフィックボード(GPU)が入っていないから、ローカルAIは諦めるしかない」と考えていませんか?実は、モデルのサイズを適切に選ぶことで、CPUのみの環境でも十分に実用的な速度でAIを動かすことが可能です。本記事では、実測データに基づいた「GPUなしで動かすための条件」を詳しく解説します。
新しいモデルの実測や解説を毎日投稿しています
Threadsでフォロー以上、今日の実験ログでした。![]()