使用 Ollama 本地部署 DeepSeek-R1 模型

概述

本教程将详细介绍如何使用 Ollama 在本地计算机上部署 DeepSeek-R1 推理模型。DeepSeek-R1 是 DeepSeek AI 开发的第一代推理模型，擅长复杂的推理任务，对标 OpenAI o1 正式版。通过本地部署，您可以享受完全离线、数据私有的 AI 体验。

环境要求

硬件要求

根据模型版本不同，硬件要求有所差异：

| 模型版本 | 最低显卡要求 | 显存需求 | 硬盘空间 |

|---------|------------|---------|---------|

| DeepSeek-R1-1.5B | NVIDIA RTX 3060 | 12GB | 约 1.1GB |

| DeepSeek-R1-7B | NVIDIA RTX 3060 | 12GB | 约 4.7GB |

| DeepSeek-R1-8B | NVIDIA RTX 3060 | 12GB | 约 4.9GB |

| DeepSeek-R1-14B | NVIDIA RTX 3060 | 12GB | 约 9GB |

| DeepSeek-R1-32B | NVIDIA RTX 4090 | 24GB | 约 20GB |

| DeepSeek-R1-70B | 双 NVIDIA RTX 4090 | 2×24GB | 约 43GB |

| DeepSeek-R1-671B | NVIDIA A100 | 80GB×16 | 约 404GB |

普通用户建议：选择 7B 或 8B 版本，适合日常对话、写作等任务。

软件要求

  • 操作系统：Windows 10/11、macOS 10.14+ 或 Linux

  • 依赖工具：Ollama（安装方法见下文）

安装 Ollama

Windows 系统安装

方法一：命令行安装（推荐，可自定义安装目录）

# 以管理员身份运行CMD，导航到OllamaSetup.exe所在目录

OllamaSetup.exe /DIR="D:\Your\Custom\Path"
方法二：图形界面安装

  1. 访问 Ollama 官网 下载 Windows 安装包

  2. 双击安装包，点击"Install"按钮完成安装

Linux/macOS 系统安装


# 使用一键安装脚本

curl -fsSL https://ollama.com/install.sh | sh

验证安装

安装完成后，打开终端/命令行验证：


ollama -v

正常显示版本号即表示安装成功。

配置 Ollama（可选）

修改模型存储位置

默认情况下，模型存储在系统盘，如需更改位置：

  1. 打开系统环境变量设置

  2. 新建用户变量：

    • 变量名：OLLAMA_MODELS

    • 变量值：自定义的存储路径（如 D:\Ollama\Models）

配置 Ollama 服务地址

如需远程访问，修改 Ollama 服务绑定地址：


# 编辑服务配置文件（Linux系统）

sudo systemctl edit ollama

# 添加以下内容

[Service]

Environment="OLLAMA_HOST=0.0.0.0"

# 重启服务

sudo systemctl daemon-reload

sudo systemctl restart ollama

部署 DeepSeek-R1 模型

选择模型版本

根据硬件配置选择合适的版本：

  • 无独立显卡：可尝试 1.5B 模型

  • 中端显卡：建议 7B 或 8B 模型

  • 高性能显卡：可尝试 14B 或更高版本

下载并运行模型

在终端中执行相应命令：


# 1.5B 版本（约 1.1GB）

ollama run deepseek-r1:1.5b

# 7B 版本（约 4.7GB）

ollama run deepseek-r1:7b

# 8B 版本（约 4.9GB）

ollama run deepseek-r1:8b

# 14B 版本（约 9GB）

ollama run deepseek-r1:14b

# 其他版本类似

首次运行会自动下载模型，显示"success"表示部署完成。

管理模型


# 查看已安装的模型

ollama list

# 删除模型

ollama rm deepseek-r1:1.5b

# 更新模型

ollama pull deepseek-r1:7b

可视化界面安装

Chatbox AI 客户端

  1. 访问 Chatbox 官网 下载安装包

  2. 安装后打开设置，配置模型：

    • API 类型：Ollama API

    • API 域名：http://127.0.0.1:11434（默认）

    • 模型名称：选择已安装的 DeepSeek-R1 模型

Open WebUI（Docker 方式）


# 基本安装

docker run -d -p 3000:8080 \

  --add-host=host.docker.internal:host-gateway \

  -v open-webui:/app/backend/data \

  --name open-webui \

  --restart always \

  ghcr.io/open-webui/open-webui:main

# 使用GPU加速

docker run -d -p 3000:8080 \

  --gpus all \

  --add-host=host.docker.internal:host-gateway \

  -v open-webui:/app/backend/data \

  --name open-webui \

  --restart always \

  ghcr.io/open-webui/open-webui:cuda

高级用法

API 调用

Ollama 提供 REST API，可通过编程方式调用：


import requests

import json

def ask_deepseek(prompt, model="deepseek-r1:7b"):

    url = "http://localhost:11434/api/generate"

    data = {

        "model": model,

        "prompt": prompt,

        "stream": False

    }

    

    response = requests.post(url, json=data)

    return response.json()["response"]

# 使用示例

answer = ask_deepseek("请解释机器学习的基本概念")

print(answer)

与 Dify 集成


# 启动 Dify 服务

docker run -d --name dify \

  -p 7860:7860 \

  -v /data/dify:/data \

  deepseek/dify:latest

配置模型端点：http://host.docker.internal:11434

性能优化技巧

加速下载

如果下载速度变慢，可以：

  1. 按 Ctrl+C 停止下载

  2. 重新运行下载命令

模型量化


# 使用量化版本减少显存占用

ollama pull deepseek-coder:6.7b-q4_0

系统优化

  • 关闭其他大型程序，释放内存

  • 复杂问题分步提问

  • 定期重启 Ollama 释放内存

常见问题解决

Q1：运行时提示显存不足？

A：尝试使用更小的模型版本（如从 14B 切换到 7B），或升级显卡驱动。

Q2：AI 回答出现乱码？

A：在客户端设置中切换编码为 UTF-8。

Q3：模型下载中断？

A：重新执行下载命令，会继续从中断处开始。

Q4：如何确认模型正常运行？

A：部署完成后，输入测试问题，观察是否返回包含<think>标签的推理过程。

本地部署的优势

  1. 数据隐私与安全：所有数据处理和存储都在本地完成，敏感数据不会外泄

  2. 响应速度：无网络延迟，响应更快，避免"服务器繁忙"问题

  3. 成本效益：一次性部署，无持续API调用费用

  4. 离线可用：无网络环境仍可正常使用

  5. 自定义灵活：可自由修改模型参数和提示词

结语

通过本教程，您已成功在本地部署了 DeepSeek-R1 模型，并配置了可视化界面。本地部署不仅保障了数据安全，还提供了完全离线的 AI 体验。现在您可以开始探索 DeepSeek-R1 在复杂推理、代码生成、文本创作等方面的强大能力了！