简介这份资源面向需要在 Linux 或 macOS 环境下部署 Ollama 的开发者与运维人员提供一套轻量化的安装辅助材料帮助解决从获取安装包到执行安装脚本的完整流程问题。压缩包共 3 个文件约 13KB包含 1 个 sh 脚本、1 个 php 脚本和 1 个 txt 文档shell 脚本用于自动化执行安装与配置命令php 文件承担安装包的下载分发职责txt 文档则记录安装前的准备事项、步骤说明与常见问题处理思路。资源虽小但覆盖了环境检查、依赖获取、权限设置、脚本执行及安装后验证等关键环节读者可据此快速理解 Ollama 的安装逻辑并在此基础上按自身环境调整脚本参数。目前已有 437 人学习下载适合希望以脚本化方式完成部署、减少手工操作的中高级用户参考。1. ollama安装这件事卡住新手的从来不是那行命令很多人第一次接触本地大模型都是从ollama开始的。网上教程一搜一大把清一色写着「一行命令搞定」可真到自己机器上ollama下载慢、ollama安装到其他盘、windows ollama安装报错、linux ollama修改模型存储路径找不到配置文件问题一个接一个冒出来。这篇笔记不聊虚的就把ollama安装这件事从头到尾拆开Windows、Linux、macOS 三端怎么装模型默认存哪、怎么挪到别的盘ollama国内镜像源怎么配ollama离线安装包怎么用以及装完之后怎么接dify、fastapi、idea这些常见工具。适合刚上手本地部署、被下载速度折磨过、或者想把模型从 C 盘挪走的人。装是第一步装不对后面全是坑。2. 装之前先想清楚ollama 到底把东西放哪了2.1 ollama 的目录结构决定了你后面所有的迁移操作ollama安装本身很轻Windows 上就是一个OllamaSetup.exeLinux 上一条curl脚本macOS 一个.dmg。真正占空间的是模型文件。默认情况下模型存在这些位置系统默认模型目录可执行文件位置WindowsC:\Users\用户名\.ollama\modelsC:\Users\用户名\AppData\Local\Programs\OllamaLinux/usr/share/ollama/.ollama/models/usr/local/bin/ollamamacOS~/.ollama/models/usr/local/bin/ollama一个 7B 的模型量化后大概 4GB 左右14B 的接近 9GB32B 的直接 20GB 起步。C 盘稍微小一点装两三个模型就红了。所以ollama安装到其他盘这个需求非常真实不是矫情。提示模型目录和程序目录是两回事。迁移模型目录只需要改环境变量不用重装 ollama。2.2 为什么推荐先改路径再拉模型很多人是装完 ollama、拉了两三个模型、C 盘爆了才想起来迁移。这时候你得先把已有模型复制过去再改环境变量再验证步骤多一倍还容易因为权限问题翻车。正确顺序是装完 ollama → 立刻改模型目录 → 再拉模型。这样模型从一开始就落在你指定的盘省掉迁移这一步。Linux 下还有个坑ollama默认以ollama用户运行 systemd 服务模型目录的属主必须是ollama:ollama否则服务起不来日志里会报 permission denied。这个后面避坑章节会细说。2.3 版本选择别追最新追稳定ollama更新很频繁新版本偶尔会引入一些回归问题比如某个量化格式加载失败、GPU 识别异常。生产环境或者你只是想安安静静跑个模型建议选一个发布超过两周、社区没爆出大问题的版本。Windows 用户直接去 GitHub Releases 下OllamaSetup.exeLinux 用户可以用固定版本的安装脚本把curl里的latest换成具体版本号。这不是保守是血泪经验——半夜被一个自动更新搞崩服务的事发生过一次就够了。3. Windows 与 Linux 双端安装实操命令、参数与验证3.1 Windows 安装安装包、路径与首次验证Windows 安装最简单的方式是下载OllamaSetup.exe双击一路下一步。但有几个细节值得注意。如果你要装到非默认盘安装界面其实不给你选路径。常见做法是先用默认路径装完然后把整个Programs\Ollama目录移到目标盘再改环境变量OLLAMA_MODELS指向新的模型目录。程序目录本身不大不挪也行重点是模型目录。安装完成后打开 PowerShell验证# 查看 ollama 版本确认安装成功 ollama --version # 查看当前模型列表首次安装应该是空的 ollama list # 拉一个最小的模型测试qwen2.5:0.5b 只有几百 MB ollama pull qwen2.5:0.5b # 运行模型进入交互式对话 ollama run qwen2.5:0.5bollama --version如果提示「不是内部或外部命令」说明安装时没勾选「添加到 PATH」或者你需要重开一个终端。ollama pull如果卡住不动大概率是网络问题下一节讲镜像源。改模型目录的环境变量设置# 在 PowerShell 中设置用户级环境变量指向 D 盘 [Environment]::SetEnvironmentVariable(OLLAMA_MODELS, D:\ollama\models, User) # 设置完后需要重启 ollama 服务或者重启终端 # 验证是否生效 echo $env:OLLAMA_MODELS设置完记得把 ollama 托盘图标右键退出重新启动否则环境变量不生效。这是 Windows 上最常见的「我明明改了怎么没用」的原因。3.2 Linux 安装脚本安装、systemd 服务与目录权限Linux 下官方提供了一键脚本# 官方安装脚本会自动检测架构并安装 curl -fsSL https://ollama.com/install.sh | sh # 验证安装 ollama --version # 查看 systemd 服务状态 systemctl status ollama脚本会做几件事下载对应架构的二进制、创建ollama用户和用户组、注册 systemd 服务、启动服务。安装完成后ollama服务是开机自启的。改模型目录在 Linux 下要改 systemd 配置不是改.bashrc# 编辑 systemd 服务配置 sudo systemctl edit ollama.service # 在打开的编辑器中加入以下内容 [Service] EnvironmentOLLAMA_MODELS/data/ollama/models # 保存退出后重载配置并重启服务 sudo systemctl daemon-reload sudo systemctl restart ollama # 验证环境变量是否生效 sudo systemctl show ollama | grep OLLAMA_MODELS关键点/data/ollama/models这个目录的属主必须是ollama用户否则服务启动会失败。# 创建目录并授权 sudo mkdir -p /data/ollama/models sudo chown -R ollama:ollama /data/ollamasystemctl edit会创建一个 override 文件不会动原始服务文件升级 ollama 时你的配置不会丢。这是比直接改/etc/systemd/system/ollama.service更稳妥的做法。3.3 验证安装是否真的可用三个层次装完不能只看--version要分三层验证第一层命令可用ollama --version有输出。 第二层服务可用ollama list能返回列表不报连接错误。 第三层推理可用ollama run qwen2.5:0.5b能正常对话输入「你好」有回复。三层都过才算真正装好。很多人卡在第二层ollama list报could not connect to ollama app说明后台服务没起来。Windows 上看托盘图标Linux 上看systemctl status ollama。4. 下载慢、离线装、换镜像网络问题的三种解法4.1 ollama下载慢的根因与镜像源配置ollama下载慢基本是拉模型时慢不是装 ollama 本身慢。模型文件托管在境外 CDN国内直连速度不稳定。解决办法是配镜像源。ollama本身没有内置的镜像源配置项常见做法是通过设置OLLAMA_HOST或者用反向代理。但更直接的方式是如果你的网络环境支持可以用一些社区维护的镜像加速地址把模型下载走加速通道。具体做法因环境而异核心思路是让ollama pull的请求走更快的线路。另一种更可控的方式是手动下载模型文件再导入。ollama的模型在 registry 里是以 blob 形式存储的手动导入比较麻烦不推荐新手折腾。注意镜像源地址会变不要硬编码到脚本里。用之前先确认当前可用的地址。4.2 ollama离线安装包内网环境的正确姿势内网机器没法直连外网ollama离线安装包就是刚需。完整离线安装需要两部分ollama 程序本身 模型文件。程序部分Linux 下可以直接下载对应架构的二进制# 在有网的机器上下载 Linux amd64 二进制 # 具体版本号去 GitHub Releases 页面确认 curl -L -o ollama-linux-amd64 https://github.com/ollama/ollama/releases/download/v0.5.x/ollama-linux-amd64 # 传到内网机器后赋予执行权限 chmod x ollama-linux-amd64 sudo mv ollama-linux-amd64 /usr/local/bin/ollama # 手动创建 systemd 服务或直接前台运行 ollama serve模型部分在有网机器上先ollama pull好然后把整个~/.ollama/models目录打包复制到内网机器的对应目录。注意目录结构要保持一致manifests和blobs两个子目录都不能少。# 有网机器上打包模型目录 tar -czf ollama-models.tar.gz ~/.ollama/models # 内网机器上解压到目标目录 mkdir -p /data/ollama/models tar -xzf ollama-models.tar.gz -C /data/ollama/models --strip-components3--strip-components3是为了去掉 tar 包里的home/user/.ollama前缀具体层数看你打包时的路径。解压完确认manifests和blobs直接在/data/ollama/models下。4.3 验证离线安装不联网也能跑起来离线环境验证的关键是确认 ollama 不会尝试联网。启动服务后# 确认模型列表能读到离线导入的模型 ollama list # 运行模型观察是否有网络请求超时 ollama run qwen2.5:0.5b如果ollama list能列出模型但run报错检查模型文件是否完整blobs目录下的大文件有没有缺失。离线导入最常见的翻车就是 tar 打包时漏了软链接或者大文件没打进去。5. 装完之后接 dify、fastapi、idea 的配置要点5.1 让 dify 和 fastapi 调用本地 ollamaollama默认只监听127.0.0.1:11434本机访问没问题。但dify如果跑在 Docker 里容器内的127.0.0.1指向容器自己连不到宿主机的 ollama。解决办法是让 ollama 监听所有网卡# Linux 下通过 systemd override 设置 [Service] EnvironmentOLLAMA_HOST0.0.0.0:11434Windows 下设置环境变量OLLAMA_HOST0.0.0.0:11434重启 ollama。然后在 dify 的模型配置里填宿主机的局域网 IP比如http://192.168.1.100:11434。fastapi调用 ollama 的 API 很简单import httpx # ollama 的 generate 接口streamFalse 表示一次性返回 async def ask_ollama(prompt: str): async with httpx.AsyncClient() as client: resp await client.post( http://localhost:11434/api/generate, json{ model: qwen2.5:0.5b, prompt: prompt, stream: False }, timeout60.0 ) return resp.json()[response]model字段必须和ollama list里的名字完全一致包括 tag。streamFalse适合短回复长文本建议用streamTrue逐块读取避免超时。5.2 idea 和 vscode 里配置 ollama 补全idea配置 ollama 一般是通过插件比如 Continue 或者 CodeGPT。核心配置就三项API 地址http://localhost:11434、模型名、API 类型选 ollama。vscode类似Continue 插件的config.json里{ models: [ { title: Qwen Local, provider: ollama, model: qwen2.5:0.5b, apiBase: http://localhost:11434 } ] }模型名写错是最常见的翻车点qwen2.5和qwen2.5:0.5b是两个不同的东西不写 tag 会拉默认版本。5.3 多模型共存时的显存与端口管理一台机器上同时跑多个模型显存是硬约束。ollama默认会在模型闲置 5 分钟后卸载可以通过OLLAMA_KEEP_ALIVE调整# 设置为 -1 表示常驻内存不自动卸载 EnvironmentOLLAMA_KEEP_ALIVE-1但常驻多个大模型会爆显存建议只常驻一个常用的其他的按需加载。端口方面ollama默认 11434如果和别的服务冲突用OLLAMA_HOST改端口。6. ollama安装避坑五条踩出来的经验6.1 现象Windows 改了 OLLAMA_MODELS 但模型还是下到 C 盘原因环境变量设置后没有重启 ollama 服务。Windows 上 ollama 是托盘程序设置环境变量后它不会自动读取必须右键退出再启动。另外如果你用的是「用户变量」而不是「系统变量」某些情况下服务账户读不到。解决设置完后彻底退出 ollama托盘右键 Quit重新从开始菜单启动。验证方法是在 PowerShell 里echo $env:OLLAMA_MODELS确认变量存在然后ollama pull一个小模型看目标目录下有没有生成文件。6.2 现象Linux 下改了 systemd 配置服务启动失败原因模型目录属主不对。ollama服务以ollama用户运行如果/data/ollama/models是 root 属主服务没有写权限启动时直接失败。解决sudo chown -R ollama:ollama /data/ollama然后systemctl restart ollama。看日志用journalctl -u ollama -f权限问题会明确报出来。6.3 现象ollama pull 卡在某个百分比不动原因网络到 registry 的连接不稳定或者镜像源失效。有时候是 DNS 解析问题。解决先CtrlC中断重新 pullollama 支持断点续传。如果反复卡在同一位置换镜像源或者换网络环境。内网环境直接用离线导入别跟网络较劲。6.4 现象ollama run 报错 model requires more system memory原因模型太大内存不够。7B 模型量化后运行大概需要 8GB 内存14B 需要 16GB32B 需要 32GB 以上。这是硬门槛不是配置能绕过的。解决换更小的模型或者用量化程度更高的版本比如 q4 换成 q2。ollama的模型 tag 里通常带量化信息选之前看清楚。6.5 现象Docker 里的 dify 连不上宿主机的 ollama原因容器网络隔离localhost在容器内指向容器自身。解决ollama 设置OLLAMA_HOST0.0.0.0:11434dify 里填宿主机的局域网 IP。如果宿主机有防火墙放行 11434 端口。Linux 下还要确认net.ipv4.ip_forward是否开启。7. 把 ollama 用顺手的两个进阶习惯装好只是开始用顺手靠的是习惯。第一个习惯给模型目录单独挂一块盘或者一个分区。模型文件只会越来越大和系统盘混在一起早晚要迁移。我现在的做法是/data专门放模型和数据集系统盘只放程序和配置重装系统时模型不用动。第二个习惯用ollama ps和ollama show摸清模型状态。ollama ps看当前加载了哪些模型、占用多少显存ollama show model看模型的参数、量化方式、上下文长度。这两个命令比翻文档快得多。# 查看当前运行的模型和资源占用 ollama ps # 查看模型详细信息包括量化方式和参数规模 ollama show qwen2.5:0.5b还有一个技巧如果你经常切换模型可以写一个简单的 shell 函数把常用的 pull、run、rm 组合起来。比如# 快速切换模型先卸载当前再加载指定模型 ollama_switch() { ollama ps | tail -n 2 | awk {print $1} | xargs -r ollama stop ollama run $1 }这个函数先停掉所有正在运行的模型释放显存再加载新的。对于显存紧张的机器比手动 stop 再 run 省事。最后说一个我自己的教训别在 C 盘装模型别在 C 盘装模型别在 C 盘装模型。我第一台跑 ollama 的机器就是 C 盘 256G 的笔记本拉了三个模型之后系统更新都装不下最后只能重装系统重新配。现在不管什么机器装完 ollama 第一件事就是改OLLAMA_MODELS这已经成了肌肉记忆。希望帮到你。本文还有配套的精品资源点击获取