如何在 Windows 上本地运行 DeepSeek AI 模型

DeepSeek是人工智能领域的后起之秀，其强大的语言模型足以与行业巨头相媲美，引起了轰动。虽然您可以通过其网站或移动应用程序访问 DeepSeek，但在 Windows PC 上本地运行这些模型具有明显的优势。本指南将引导您完成在自己的计算机上安装和使用 DeepSeek R1 和 V3 的过程，让您对 AI 交互有更多的控制和隐私。

DeepSeek R1 是一种以推理为中心的模型，擅长解决复杂的问题解决任务。以下是如何让它在 Windows 系统上运行：

安装奥拉玛

步骤一：访问奥拉马网站 (https://llama.com/）并下载 Windows 安装程序。运行该文件并按照屏幕上的提示完成安装。

步骤2：安装 Ollama 后，返回 Ollama 网站并导航至“模型”选项卡。

选择并安装您的 DeepSeek R1 型号

步骤一：在模型部分中，找到 DeepSeek-R1 选项。您会看到各种可用尺寸（1.5b、7b、8b、14b 等）。选择最适合您的计算机功能的型号。对于大多数用户，建议从 1.5b 或 7b 版本开始。

步骤2：复制您选择的型号的安装命令。例如，要安装 1.5b 版本，命令为：

ollama run deepseek-r1:1.5b

步骤3：在 Windows PC 上打开命令提示符。粘贴复制的命令并按 Enter。安装过程将开始，这可能需要一些时间，具体取决于您的互联网速度和型号大小。

运行 DeepSeek R1

步骤一：安装完成后，您可以直接在命令提示符中开始使用 DeepSeek R1。只需运行与安装相同的命令即可：

ollama run deepseek-r1:1.5b

步骤2：现在，您可以通过在命令提示符中键入查询或提示来与 DeepSeek R1 模型进行交互。

虽然通过命令提示符使用 DeepSeek R1 非常简单，但它不会保存您的聊天历史记录。为了通过持久对话获得更加用户友好的体验，您可能需要设置图形界面。

为 DeepSeek R1 设置用户界面

DeepSeek R1添加图形界面主要有两种方法：

方法一：使用Chatbox AI

步骤一：从其官方网站下载并安装 Chatbox AI（https://chatboxai.app/en）。

步骤2：启动 Chatbox AI 并导航至其“设置”。

步骤3：在“模型”选项卡下，选择“DeepSeek API”。

第4步：您需要输入 DeepSeek API 密钥。访问 DeepSeek API 文档页面 (https://api-docs.deepseek.com/）来获取您的密钥。

第5步：在 Chatbox AI 中输入您的 API 密钥并保存更改。您现在可以通过此界面使用 DeepSeek R1。

方法二：使用Docker

步骤一：从官方 Docker 网站下载并安装适用于 Windows 的 Docker Desktop。

步骤2：如果您还没有 Docker 帐户，请创建一个。

步骤3：启动 Docker Desktop 并登录。

第4步：打开命令提示符并运行以下命令来设置 DeepSeek Web UI：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

第5步：命令完成后，打开 Docker Desktop 并转到“容器”部分。您应该会看到一个端口号为 3000:8080 的新容器。

第6步：在 Docker Desktop 中单击端口号 3000:8080。这将在默认 Web 浏览器中打开一个新选项卡，其地址为 localhost:3000。

第7步：输入您的姓名、电子邮件和密码，在此本地 Web 界面上设置帐户。请记住这些详细信息，因为每次在本地使用 DeepSeek R1 时都需要它们。

要通过此 Web 界面使用 DeepSeek R1，请确保 Ollama 和 Docker 都在后台运行。首先启动 Ollama，然后启动 Docker，并确保相关容器在 Docker 中运行，然后再在 Web 浏览器中访问 localhost:3000。

本地安装并运行 DeepSeek V3

DeepSeek V3 是一种先进的专家混合 (MoE) 语言模型，可提供多种 AI 功能。以下是在 Windows PC 上进行设置的方法：

步骤一：从 Python 官方网站安装 Python 3.9。在安装过程中，请确保选中将 Python 添加到系统 PATH 的选项。

步骤2：安装 Git 从git-scm.com。安装后，通过打开命令提示符并键入以下内容来验证其是否正常工作：

git --version

步骤3：如果您有 NVIDIA GPU，请从以下位置下载并安装 CUDA Toolkit 版本 11.8：开发者.nvidia.com。

第4步：打开命令提示符并运行以下命令来设置 DeepSeek V3 环境：

推荐阅读：从 Windows 11 卸载 DeepSeek 模型的 2 种方法

git clone https://github.com/khanfar/DeepSeek-Windows.git
cd DeepSeek-Windows
python -m venv venv
venvScriptsactivate

第5步：安装 PyTorch 和其他所需的软件包：

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
pip install -r requirements.txt

第6步：下载 DeepSeek V3 模型权重：

python download_model.py

第7步：启动 DeepSeek V3 服务器：

python windows_server.py --model model_weights_bf16 --trust-remote-code

步骤8：在新的命令提示符窗口中，测试模型：

python test_client.py

您现在可以访问 DeepSeek V3 服务器：https://127.0.0.1:30000。

在本地运行 DeepSeek 模型可以让您直接在 Windows PC 上获得强大的 AI 功能。虽然它需要一些设置，但隐私和离线访问的好处使其对许多用户来说是值得的。请记住选择最适合您计算机功能的模型大小，无需依赖云服务即可享受探索 AI 世界的乐趣。