DeepSeek模型加载失败怎么解决?
确认Ollama服务是否真实运行
在终端执行 systemctl is-active ollama(Linux/macOS)或打开Windows服务管理器检查 Ollama Service 状态。若显示 inactive 或 Stopped,说明守护进程根本未启动。
此时直接运行 ollama serve,并保持该终端窗口常开——关闭窗口即终止服务,后续所有加载都会失败。
用 curl -v http://localhost:11434/ 验证:必须看到 HTTP/1.1 200 OK 响应头,且含 X-Ollama-Version 字段。无此字段说明服务虽运行但未正确初始化,需重启 ollama serve。
核对模型名称与标签是否完全一致
方法一:用命令行强制拉取带完整tag的模型
ollama pull deepseek-coder:6.7b ——不要省略 :6.7b,Ollama 不解析 latest 别名,也不自动补全。
方法二:列出本地已有模型并逐字比对
运行 ollama list,输出第一列是 NAME,第二列是 TAG。VSCode插件配置页填的模型名必须与这两列拼接结果(如 deepseek-coder:6.7b)完全相同,包括大小写、连字符、冒号位置。
macOS/Linux下 DeepSeek-Coder 和 deepseek-coder 被视为两个不同模型,填错必报404。
检查磁盘空间与模型目录权限
一:查看 ~/.ollama 目录剩余空间
df -h ~/.ollama ——6.7b模型解压后占约5.2GB,可用空间必须 ≥ 8GB,否则拉取中途静默失败,list里却显示模型存在。
二:确认模型目录归属与权限
ls -ld ~/.ollama/models ——输出中第三字段(属主)必须是当前用户名,末尾权限位必须含 rwx(如 drwxr-xr-x)。若属主为 root 或权限为 drw-r--r--,则 ollama 无法写入模型文件,加载必然失败。
修复命令:sudo chown -R $USER:$USER ~/.ollama && chmod -R u+rwx ~/.ollama/models
排查CUDA与PyTorch兼容性
若报错含 “CUDA driver version is insufficient” 或 “Illegal instruction”,立即运行 nvidia-smi 查驱动版本。DeepSeek 6.7b 要求驱动 ≥ 535.104.05(对应 CUDA 12.2)。
PyTorch版本必须严格匹配:运行 python -c "import torch; print(torch.__version__, torch.version.cuda)",输出应为类似 2.4.0 12.2。版本不匹配会导致模型权重加载时崩溃,错误堆栈常卡在 torch.load() 内部。
重装命令(CUDA 12.2):pip install torch==2.4.0+cu122 torchvision==0.19.0+cu122 --index-url https://download.pytorch.org/whl/cu122
推荐阅读:
deepseek本地部署教程
DEEPSEEK是干嘛的?