Windows 10/11 部署 Ollama + Qwen2.5-VL 7B

为【业务管宝】系统部署本地 AI 智能识别:截图/拍照自动填表、扫描件识别、合同信息提取,数据不出内网

Windows 10/11 qwen2.5vl:7b(约 14GB) 内存 ≥ 16GB 建议 32GB 默认端口 11434

1安装 Ollama 下载安装包,双击安装,一路下一步

① 下载

打开官网 https://ollama.com/download,点击 Windows 下载 OllamaSetup.exe

② 安装

双击安装包 → 一路「下一步」→ 安装完成(默认安装到 C:\Users\你的用户名\AppData\Local\Programs\Ollama

③ 验证安装

Win + R 输入 cmd 回车,打开命令提示符,输入:

ollama --version
# 正常输出类似:
ollama version 0.5.x
✅ 看到版本号即安装成功。Ollama 安装后自动开机启动,右下角托盘有 Ollama 图标。

2设置环境变量 让 Ollama 允许局域网访问(多台电脑共享)

业务管宝可能运行在局域网某台服务器上,其他电脑浏览器访问,此时需要让 Ollama 监听局域网地址,否则业务管宝会连不上。

① 打开环境变量设置

右键「此电脑」→ 属性 → 高级系统设置 → 环境变量

② 新增系统变量(推荐两条都加)

变量名变量值作用
OLLAMA_HOST0.0.0.0:11434监听所有网卡,局域网内其他电脑可访问
OLLAMA_MODELSD:\ollama_models(可选)模型存放到非系统盘,避免 C 盘占满
在「系统变量」区点「新建」→ 填入变量名和值 → 确定保存
⚠️ 修改环境变量后:先在任务管理器结束 ollama.exe,再重新启动 Ollama(或重启电脑),配置才会生效。
💡 如果模型下载到了 D 盘(OLLAMA_MODELS),重启后确认 ollama list 仍能看到模型;看不到说明路径配置有问题,检查变量名拼写。

3下载 Qwen2.5-VL 7B 模型 命令:ollama pull qwen2.5vl:7b

① 拉取模型

在命令提示符中执行(注意模型名没有连字符,是 qwen2.5vl 不是 qwen2.5-vl):

ollama pull qwen2.5vl:7b

模型约 14GB,下载时间取决于网速,耐心等待进度条走完。

⚠️ 国内下载慢/卡住? 使用清华镜像加速:
① 打开 %USERPROFILE%\.ollama\config.json(没有就新建),写入:
{
  "services": {
    "registry": "https://mirrors.tuna.tsinghua.edu.cn/ollama/"
  }
}
② 保存后,在任务管理器结束 ollama.exe 进程,再重新启动 Ollama(或运行 ollama serve)→ 重新执行 pull 命令。

② 查看已下载的模型

ollama list
# 正常输出:
NAME             ID          SIZE    MODIFIED
qwen2.5vl:7b     xxxx        14GB     x分钟前

4测试模型是否可用 文字对话 + API 接口

① 命令行对话测试

ollama run qwen2.5vl:7b
# 进入对话后输入:
>>> 你好,介绍一下你自己
# 模型回复后,输入 /bye 或 Ctrl+D 退出

② API 接口测试(业务管宝实际调用的接口)

保持 Ollama 运行,浏览器打开(本机):

http://127.0.0.1:11434/api/tags

应返回 JSON,包含 qwen2.5vl:7b 模型信息,说明 API 正常。

再验证「生成」接口(命令提示符执行):

curl http://127.0.0.1:11434/api/generate -d "{\"model\":\"qwen2.5vl:7b\",\"prompt\":\"你好\",\"stream\":false}"
# 返回 JSON 中 response 字段有回复内容即正常
✅ 以上都能正常返回,说明 Ollama + 模型就绪,可以进行系统配置。

5业务管宝系统配置 AI 后台「系统设置」→ 大模型(AI)设置

① 进入设置

浏览器打开业务管宝 → 登录后台 → 左侧「系统设置」→ 找到「大模型(AI)设置」区域

② 填写配置(Ollama 本地模式)

📋 系统设置表单填写

AI 功能开关勾选开启
AI 类型选择 Ollama 本地模型
Ollama 地址http://127.0.0.1:11434
模型名称qwen2.5vl:7b

📋 字段与系统默认值对照

ai_type= ollama
ollama_url= http://127.0.0.1:11434
ollama_model= qwen2.5vl:7b
💡 局域网多机共享:如果业务管宝跑在服务器 A,Ollama 也装在 A,就填 http://127.0.0.1:11434;如果 Ollama 装在别的机器 B,则填 http://B的IP:11434(前提:B 已按第 3 步设置 OLLAMA_HOST=0.0.0.0:11434,且防火墙放行 11434 端口)。
⚠️ 防火墙提示:局域网访问 Ollama 时,首次会弹防火墙询问,勾选「专用网络」并允许;若没弹,手动在「Windows 防火墙 → 允许应用」中放行 Ollama 的 11434 端口。

③ 保存并验证

点「保存」→ 到软件里随便用一次 AI 功能(如截图识别工作记录 / 扫描件识别),能正常返回结果即部署完成 🎉

!常见问题

现象解决办法
业务管宝提示「无法连接 Ollama」① 确认 ollama.exe 在运行(托盘有图标)② 确认系统设置里地址/端口正确 ③ 本机测试 http://127.0.0.1:11434/api/tags
局域网其他电脑连不上设置 OLLAMA_HOST=0.0.0.0:11434 并重启 Ollama;防火墙放行 11434
AI 识别返回乱码/英文确认系统设置里模型名填 qwen2.5vl:7b(带冒号 tag),且 ollama list 里有该模型
识别速度慢7B 模型首次加载约需 10-30 秒(取决于 CPU/GPU);推荐 NVIDIA 显卡 8G+ 显存,Ollama 自动用 GPU 加速
C 盘空间不足按第 2 步设置 OLLAMA_MODELS 指向 D 盘后重新 pull 模型