Files
server-ops/ollama-local-llm.md
2026-06-22 21:40:05 +08:00

796 B
Raw Blame History

Ollama 本地大模型部署说明

部署日期2026-06-22 部署位置冯先生笔记本Redmi Pro14 Ultra5, 32GB, Intel Arc 130T GPU

模型列表

模型 规模 量化 大小 用途
qwen3.5:9b 9B Q4_K_M 5.7 GB 主力甜点
qwen3:14b 14.8B Q4_K_M 9.3 GB 备用

存储路径

D:/ollama/model_data/models (模型文件) C:/Users/32779/.ollama → D:/ollama/model_data (目录链接)

环境变量

OLLAMA_MODELS=D:/ollama/model_data/models OLLAMA_HOST=0.0.0.0:11434 OLLAMA_IGPU_ENABLE=1 OLLAMA_CONTEXT_LENGTH=65536

踩坑

  1. OLLAMA_MODELS 必须用 Windows 反斜杠路径
  2. 桌面端和命令行端会抢端口 11434
  3. C盘 .ollama 目录链接不可删除
  4. 默认上下文 4096需手动改大