ローカルAIが動かない原因を切り分ける
ローカルAIが動かない・遅い・エラーになるとき、問題がどの段階(ダウンロード・形式・メモリ・加速・生成・品質)にあるかを順に絞り込みます(詳細は Loop 4)。
視覚図
- 1ダウンロード・ファイルモデルファイルは見える?
- 2形式・互換性対応形式ですか?
- 3メモリload時にエラー?
- 4実行・加速極端に遅い?
- 5出力品質答えがおかしい?
図は装飾です。問題の所在を順に絞り込みます。テキスト同等物は下を参照してください。
図のテキスト説明
- ダウンロード:モデルファイルが手元にあるか。
- 形式:ツールが読める形式か。
- メモリ:メモリ不足でloadできないか。
- 加速:GPU/CPU offloadの設定は合っているか。
- 品質:プロンプトやモデルの適性か。
押さえておく用語
- offload
- モデルの一部をGPUとCPU/RAMに分けて載せる方式。
- context
- 一度に扱える入力の長さ。長いとメモリを消費。
注意点
- 製品UIを固定的に書かず、段階で切り分ける。
- 詳細手順は Compass へ。
詳しく知りたいときは Local AI Compass へ
確認した主な情報源とこのページの範囲
- LM Studio 公式ドキュメント — https://lmstudio.ai/docs/app
- Ollama 公式ドキュメント — https://github.com/ollama/ollama
- Mind the Gap: A Practical Attack on GGUF Quantization (arXiv:2505.23786) — https://arxiv.org/abs/2505.23786
製品別の長い手順ではなく、問題の所在(段階)を切り分ける入口として整理。製品UIの固定的な記述は避け、詳細手順はCompassへ。セキュリティ面は悪性モデル供給の前提を明示。
詳細な手順・最新仕様は、各公式ドキュメントおよび Local AI Compass を参照してください。