ollama 本都部署模型ollama 是什么ollama 是一个开源的运行大模型的框架可以让我们在不依赖GPU的情况下运行模型ollama官网运行ollama有两种方式第一个官网下载安装包 linux/macos/windows 都有第二种就是通过docker 方式运行 ,官方镜像ollama官方docker 镜像拉取命令docker pull ollama/ollama我们直接下载安装包运行即可下载运行模型在官网搜索你想运行的模型这里使用deepseek我电脑内存32G运行一个 7b的跑起来还可以很流畅找到模型点进去详细页复制这条命令即可运行运行效果如下直接控制台输入接入ui界面这里选择 open-web-ui 直接使用docker 运行 open-webui docker镜像docker pull openwebui/open-webui docker run open-webui运行起来之后访问localhost:3000端口选择模型就可以开始聊天了