如何在 Windows 11 和 10 上本地運行 Qwen AI

Qwen AI 是阿里巴巴集團最新的人工智能模型，為文本生成、信息檢索和創意任務提供了令人印象深刻的功能。雖然它主要作為 Web 應用程序提供，但您實際上可以在 Windows 11 或 10 PC 上本地運行 Qwen AI。這為您提供了離線訪問、改​​進的隱私性以及可能更好的性能。讓我們逐步完成在本地計算機上設置 Qwen AI 的過程。

你需要什麼

在我們深入之前，請確保您具備以下條件：

• 具有足夠處理能力和存儲空間的 Windows 11 或 10 電腦。
• 對您計算機的管理訪問權限。
• 用於初始設置的穩定的互聯網連接。

方法一：使用Ollama和Docker

此方法提供了更強大的用戶界面設置以及保存聊天歷史記錄的功能。

第1步：安裝Ollama

步驟一：訪問 Ollama 網站並下載 Windows 安裝程序。

步驟2：運行安裝程序並按照屏幕上的提示完成安裝。

步驟3：安裝後，啟動 Ollama 並讓它在後台運行。

第2步：安裝Qwen AI模型

步驟一：打開網絡瀏覽器並導航至 Ollama 網站。單擊“模型”選項卡。

步驟2：在搜索欄中輸入“Qwen”即可查找可用的 Qwen AI 模型。

步驟3：選擇您要使用的 Qwen 型號。在本指南中，我們將使用 Qwen2.5。單擊它可查看可用的參數大小。

第4步：選擇您的計算機可以處理的參數大小。較小的尺寸（如 0.5b）速度更快，但不太先進，而較大的尺寸提供更多功能，但需要更多資源。

第5步：複製您選擇的型號和參數大小的安裝命令。例如，要安裝具有 5 億個參數的 Qwen2.5，命令為：

另請閱讀：Qwen 與 DeepSeek：下一代人工智能模型之戰

ollama run qwen2.5:0.5b

第6步：以管理員身份打開命令提示符，粘貼複製的命令，然後按 Enter。安裝過程將開始。在完成之前請勿關閉命令提示符。

第三步：安裝Docker

步驟一：訪問 Docker 官方網站並下載適用於 Windows 的 Docker Desktop。

步驟2：安裝 Docker Desktop，如有必要，請按照提示創建帳戶。

步驟3：安裝後，啟動 Docker Desktop 並確保它在後台運行。

第 4 步：設置 Qwen AI 容器

步驟一：以管理員身份打開命令提示符並運行以下命令為 Qwen AI 創建 Docker 容器：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

步驟2：等待命令完成。這可能需要幾分鐘的時間，具體取決於您的互聯網速度和計算機性能。

第5步：本地訪問Qwen AI

步驟一：打開 Docker Desktop 應用程序並在“容器”部分中查找新創建的容器。

步驟2：單擊容器旁邊的“3000:8080”鏈接。這將打開您的默認網絡瀏覽器localhost:3000。

步驟3：創建一個帳戶以供本地 Qwen AI 使用。請記住這些登錄詳細信息，因為每次使用本地版本時都需要它們。

您現在可以通過此本地 Web 界面與 Qwen AI 進行交互。請記住讓 Ollama 和 Docker 容器在後台運行，以便系統正常工作。

方法二：命令行使用

如果您喜歡更簡單的設置或不需要圖形界面，您可以直接從命令行使用 Qwen AI。

步驟一：按照方法 1 中的 Ollama 安裝和 Qwen AI 模型安裝步驟進行操作。

步驟2：要與 Qwen AI 聊天，請打開命令提示符並運行用於安裝模型的相同命令。例如：

ollama run qwen2.5:0.5b

步驟3：現在，您可以直接在命令提示符中輸入查詢並接收來自 Qwen AI 的響應。

此方法設置速度更快，但不保存聊天記錄或提供圖形界面。

在本地運行 Qwen AI 可以讓您更好地控制數據，並允許離線訪問這個強大的 AI 工具。雖然它需要一些初始設置，但隱私的好處和潛在的性能改進使其成為許多用戶值得選擇的選擇。請記住選擇您的計算機可以輕鬆處理的模型尺寸，以獲得最佳體驗。