一、基礎部署方案(Ollama + Chatbox)
適用場景:個人用戶快速部署,支持離線使用,無需復雜配置。
硬件要求:
- 顯卡:NVIDIA GPU(推薦4GB以上顯存),CPU模式需8GB內存。
- 存儲:至少預留20GB空間(7B模型約12GB,70B模型約65GB)。
步驟:
- 安裝Ollama
- 下載地址:Ollama官網
- 選擇對應系統版本(Windows/macOS/Linux),雙擊安裝包完成安裝。
- 拉取DeepSeek模型
- 打開終端(Windows按
Win+R
輸入cmd
,macOS/Linux打開Terminal),輸入以下命令:ollama run deepseek-r1:7b # 7B輕量版,適合低配設備 ollama run deepseek-r1:70b # 70B高性能版,需高端顯卡 - 等待模型下載完成(約10-60分鐘,取決于網絡速度)。
- 打開終端(Windows按
- 配置Chatbox(可視化界面)
- 下載地址:Chatbox官網
- 安裝后打開,選擇“Ollama”作為模型提供方,API地址填寫
http://localhost:11434
。 - 在模型列表中選擇已下載的
deepseek-r1
,即可開始對話。
效果:
- 支持文本生成、邏輯推理、代碼編寫等任務。
- 響應速度:7B模型約3-5 tokens/s(CPU模式),70B模型約10-15 tokens/s(GPU模式)。
二、進階部署方案(Docker + Open WebUI)
適用場景:開發者或團隊需要局域網共享或遠程訪問。
硬件要求:
- 服務器:至少2核4GB內存(推薦4核8GB以上)。
- 顯卡:NVIDIA GPU(可選,提升推理速度)。
步驟:
- 安裝Docker
- 下載地址:Docker官網
- 按向導安裝,并啟動Docker服務。
- 部署Open WebUI
- 打開終端,輸入以下命令:
docker run -d -p 3000:8080 \ –add-host=host.docker.internal:host-gateway \ -v open-webui:/app/backend/data \ –name open-webui –restart always \ ghcr.io/open-webui/open-webui:main - 等待容器啟動完成(約1-2分鐘)。
- 打開終端,輸入以下命令:
- 配置模型路徑
- 訪問
http://localhost:3000
,在設置中指定Ollama地址為http://host.docker.internal:11434
。 - 選擇已下載的
deepseek-r1
模型,即可通過網頁交互。
- 訪問
局域網共享:
- 修改Ollama環境變量,允許局域網訪問:
# Windows(管理員CMD) setx OLLAMA_HOST “0.0.0.0” setx OLLAMA_ORIGINS “*” # macOS/Linux(Terminal) export OLLAMA_HOST=“0.0.0.0” export OLLAMA_ORIGINS=“*” - 其他設備通過
http://[服務器IP]:3000
訪問。
效果:
- 支持多用戶同時訪問,適合團隊內部使用。
- 可擴展功能:添加知識庫、聯網搜索、插件集成等。
三、企業級部署方案(寶塔面板 + Nginx反向代理)
適用場景:企業需要域名訪問、HTTPS加密、高并發支持。
硬件要求:
- 云服務器:4核8GB內存以上,帶寬10Mbps以上。
- 域名:已備案域名(如
deepseek.yourcompany.com
)。
步驟:
- 安裝寶塔面板
- 選擇對應系統版本的安裝腳本,在終端運行:
# CentOS/Ubuntu wget -O install.sh http://download.bt.cn/install/install_6.0.sh && bash install.sh - 安裝完成后,訪問面板地址(如
https://服務器IP:8888
),登錄并初始化。
- 選擇對應系統版本的安裝腳本,在終端運行:
- 部署DeepSeek服務
- 在寶塔面板中安裝“Docker”和“Nginx”插件。
- 通過SSH連接服務器,拉取模型并啟動容器:
docker run -d -p 11434:11434 –name deepseek-ollama ollama/ollama ollama pull deepseek-r1:70b
- 配置Nginx反向代理
- 在寶塔面板中創建網站,域名填寫
deepseek.yourcompany.com
。 - 在網站設置中添加反向代理規則:
代理地址:http://127.0.0.1:11434 代理設置:啟用WebSocket支持 - 申請SSL證書(如Let’s Encrypt),啟用HTTPS。
- 在寶塔面板中創建網站,域名填寫
- 訪問控制(可選)
- 通過寶塔面板的“防火墻”插件,限制訪問IP范圍。
- 或配置Basic Auth認證,防止未授權訪問。
效果:
- 通過域名安全訪問,支持HTTPS加密。
- 可承載100+并發請求(70B模型,4核8GB服務器)。
四、常見問題解決
- 模型下載慢
- 使用代理或切換網絡(如手機熱點)。
- 手動下載模型文件(GGUF格式),通過
ollama import
導入。
- GPU加速無效
- 確認已安裝NVIDIA驅動和CUDA工具包。
- 在Ollama啟動命令中添加
--gpu
參數:ollama run –gpu deepseek-r1:70b
- 端口沖突
- 修改Ollama或WebUI的端口號(如將11434改為11435)。
- 在防火墻中放行新端口。
- 模型響應慢
- 降低模型參數量(如從70B切換至7B)。
- 啟用量化(如
deepseek-r1:70b-q4_0
),減少顯存占用。
域名頻道為客戶提供服務器代維服務,為客戶節約服務器維護成本,費用不到專職人員的十分之一。
服務器托管與單獨構建機房和租用專線上網相比、其整體運營成本有較大降低。
網站空間可隨意增減空間大小,空間升級可以按照對應的產品號升級到相對應的空間類型。隨時隨地能達到用戶的使用要求。
您有自己的獨立服務器,需要托管到國內機房,我們為你提供了上海電信五星級骨干機房,具體請查看http://www.sirendai.cn/server/ai-server.asp