一、基礎(chǔ)部署方案(Ollama + Chatbox)
適用場景:個人用戶快速部署,支持離線使用,無需復(fù)雜配置。
硬件要求:
- 顯卡:NVIDIA GPU(推薦4GB以上顯存),CPU模式需8GB內(nèi)存。
- 存儲:至少預(yù)留20GB空間(7B模型約12GB,70B模型約65GB)。
步驟:
- 安裝Ollama
- 下載地址:Ollama官網(wǎng)
- 選擇對應(yīng)系統(tǒng)版本(Windows/macOS/Linux),雙擊安裝包完成安裝。
- 拉取DeepSeek模型
- 打開終端(Windows按
Win+R
輸入cmd
,macOS/Linux打開Terminal),輸入以下命令:ollama run deepseek-r1:7b # 7B輕量版,適合低配設(shè)備 ollama run deepseek-r1:70b # 70B高性能版,需高端顯卡 - 等待模型下載完成(約10-60分鐘,取決于網(wǎng)絡(luò)速度)。
- 打開終端(Windows按
- 配置Chatbox(可視化界面)
- 下載地址:Chatbox官網(wǎng)
- 安裝后打開,選擇“Ollama”作為模型提供方,API地址填寫
http://localhost:11434
。 - 在模型列表中選擇已下載的
deepseek-r1
,即可開始對話。
效果:
- 支持文本生成、邏輯推理、代碼編寫等任務(wù)。
- 響應(yīng)速度:7B模型約3-5 tokens/s(CPU模式),70B模型約10-15 tokens/s(GPU模式)。
二、進階部署方案(Docker + Open WebUI)
適用場景:開發(fā)者或團隊需要局域網(wǎng)共享或遠程訪問。
硬件要求:
- 服務(wù)器:至少2核4GB內(nèi)存(推薦4核8GB以上)。
- 顯卡:NVIDIA GPU(可選,提升推理速度)。
步驟:
- 安裝Docker
- 下載地址:Docker官網(wǎng)
- 按向?qū)О惭b,并啟動Docker服務(wù)。
- 部署Open WebUI
- 打開終端,輸入以下命令:
docker run -d -p 3000:8080 \ –add-host=host.docker.internal:host-gateway \ -v open-webui:/app/backend/data \ –name open-webui –restart always \ ghcr.io/open-webui/open-webui:main - 等待容器啟動完成(約1-2分鐘)。
- 打開終端,輸入以下命令:
- 配置模型路徑
- 訪問
http://localhost:3000
,在設(shè)置中指定Ollama地址為http://host.docker.internal:11434
。 - 選擇已下載的
deepseek-r1
模型,即可通過網(wǎng)頁交互。
- 訪問
局域網(wǎng)共享:
- 修改Ollama環(huán)境變量,允許局域網(wǎng)訪問:
# Windows(管理員CMD) setx OLLAMA_HOST “0.0.0.0” setx OLLAMA_ORIGINS “*” # macOS/Linux(Terminal) export OLLAMA_HOST=“0.0.0.0” export OLLAMA_ORIGINS=“*” - 其他設(shè)備通過
http://[服務(wù)器IP]:3000
訪問。
效果:
- 支持多用戶同時訪問,適合團隊內(nèi)部使用。
- 可擴展功能:添加知識庫、聯(lián)網(wǎng)搜索、插件集成等。
三、企業(yè)級部署方案(寶塔面板 + Nginx反向代理)
適用場景:企業(yè)需要域名訪問、HTTPS加密、高并發(fā)支持。
硬件要求:
- 云服務(wù)器:4核8GB內(nèi)存以上,帶寬10Mbps以上。
- 域名:已備案域名(如
deepseek.yourcompany.com
)。
步驟:
- 安裝寶塔面板
- 選擇對應(yīng)系統(tǒng)版本的安裝腳本,在終端運行:
# CentOS/Ubuntu wget -O install.sh http://download.bt.cn/install/install_6.0.sh && bash install.sh - 安裝完成后,訪問面板地址(如
https://服務(wù)器IP:8888
),登錄并初始化。
- 選擇對應(yīng)系統(tǒng)版本的安裝腳本,在終端運行:
- 部署DeepSeek服務(wù)
- 在寶塔面板中安裝“Docker”和“Nginx”插件。
- 通過SSH連接服務(wù)器,拉取模型并啟動容器:
docker run -d -p 11434:11434 –name deepseek-ollama ollama/ollama ollama pull deepseek-r1:70b
- 配置Nginx反向代理
- 在寶塔面板中創(chuàng)建網(wǎng)站,域名填寫
deepseek.yourcompany.com
。 - 在網(wǎng)站設(shè)置中添加反向代理規(guī)則:
代理地址:http://127.0.0.1:11434 代理設(shè)置:啟用WebSocket支持 - 申請SSL證書(如Let’s Encrypt),啟用HTTPS。
- 在寶塔面板中創(chuàng)建網(wǎng)站,域名填寫
- 訪問控制(可選)
- 通過寶塔面板的“防火墻”插件,限制訪問IP范圍。
- 或配置Basic Auth認證,防止未授權(quán)訪問。
效果:
- 通過域名安全訪問,支持HTTPS加密。
- 可承載100+并發(fā)請求(70B模型,4核8GB服務(wù)器)。
四、常見問題解決
- 模型下載慢
- 使用代理或切換網(wǎng)絡(luò)(如手機熱點)。
- 手動下載模型文件(GGUF格式),通過
ollama import
導(dǎo)入。
- GPU加速無效
- 確認已安裝NVIDIA驅(qū)動和CUDA工具包。
- 在Ollama啟動命令中添加
--gpu
參數(shù):ollama run –gpu deepseek-r1:70b
- 端口沖突
- 修改Ollama或WebUI的端口號(如將11434改為11435)。
- 在防火墻中放行新端口。
- 模型響應(yīng)慢
- 降低模型參數(shù)量(如從70B切換至7B)。
- 啟用量化(如
deepseek-r1:70b-q4_0
),減少顯存占用。
域名頻道為客戶提供服務(wù)器代維服務(wù),為客戶節(jié)約服務(wù)器維護成本,費用不到專職人員的十分之一。
服務(wù)器托管與單獨構(gòu)建機房和租用專線上網(wǎng)相比、其整體運營成本有較大降低。
網(wǎng)站空間可隨意增減空間大小,空間升級可以按照對應(yīng)的產(chǎn)品號升級到相對應(yīng)的空間類型。隨時隨地能達到用戶的使用要求。
您有自己的獨立服務(wù)器,需要托管到國內(nèi)機房,我們?yōu)槟闾峁┝松虾k娦盼逍羌壒歉蓹C房,具體請查看http://www.sirendai.cn/server/ai-server.asp