以下是?DeepSeek 本地部署詳細(xì)教程,涵蓋 Windows 和 Mac 系統(tǒng),基于 Ollama 工具實(shí)現(xiàn)快速部署,支持離線使用和數(shù)據(jù)隱私保護(hù):
一、部署前準(zhǔn)備
- 硬件要求
- 顯卡:推薦 8GB 顯存以上(如 RTX 3060、AMD RX 6600),CPU 部署需 16GB 內(nèi)存(速度較慢)。
- 存儲(chǔ):預(yù)留 20GB 以上空間(模型文件較大)。
- 系統(tǒng):Windows 10/11(64 位)或 macOS(Intel/M 系列芯片)。
- 模型選擇
- DeepSeek-R1:專(zhuān)注邏輯推理與實(shí)時(shí)問(wèn)題解決,參數(shù)規(guī)模 671 億,支持多任務(wù)處理。
- 版本推薦:
1.5b
:適合低配電腦(2GB 顯存)。7b
:平衡性能與資源占用(8GB 顯存)。14b
/32b
:高端設(shè)備推薦(16GB+ 顯存)。
二、Windows 系統(tǒng)部署步驟
1. 安裝 Ollama
- 下載:訪問(wèn)?Ollama 官網(wǎng),選擇 Windows 版本下載安裝包。
- 安裝:雙擊運(yùn)行,按提示完成安裝,桌面出現(xiàn)?Ollama 圖標(biāo)(小羊駝)即表示成功。
- 環(huán)境變量設(shè)置(可選):
- 在 D 盤(pán)新建文件夾?
OllamaAI
,右鍵“此電腦”→“屬性”→“高級(jí)系統(tǒng)設(shè)置”→“環(huán)境變量”。 - 新建系統(tǒng)變量:
- 變量名:
OLLAMA_MODELS
- 變量值:
D:\OllamaAI
- 變量名:
- 重啟電腦生效(避免模型默認(rèn)下載到 C 盤(pán))。
- 在 D 盤(pán)新建文件夾?
2. 下載 DeepSeek 模型
- 打開(kāi)命令提示符(CMD):按?
Win + R
,輸入?cmd
?回車(chē)。 - 輸入下載命令:
ollama run deepseek-r1:7b # 示例:下載 7B 參數(shù)版本 - 其他版本替換?
7b
?為?1.5b
、14b
?等。 - 下載時(shí)間取決于網(wǎng)速和模型大小(約 10-30 分鐘)。
- 其他版本替換?
3. 運(yùn)行模型
- 命令行交互:下載完成后,直接在 CMD 輸入:
ollama run deepseek-r1:7b - 輸入問(wèn)題后回車(chē),模型會(huì)實(shí)時(shí)生成回答。
- 退出:輸入?
/exit
?或按?Ctrl + C
?終止。
4. 進(jìn)階:搭建 Web 界面(可選)
- 安裝 Docker:訪問(wèn)?Docker 官網(wǎng)?下載并安裝。
- 下載 Open-WebUI:
git clone https://github.com/open-webui/open-webui.git cd open-webui - 運(yùn)行 Web 服務(wù):
docker compose up -d - 瀏覽器訪問(wèn)?
http://localhost:8080
,選擇已部署的 DeepSeek 模型即可使用圖形界面。
- 瀏覽器訪問(wèn)?
三、Mac 系統(tǒng)部署步驟
1. 安裝 Ollama
- 下載:訪問(wèn)?Ollama 官網(wǎng),選擇 macOS 版本(Intel 或 M 系列芯片)。
- 安裝:雙擊?
.pkg
?文件,按提示完成安裝。 - 驗(yàn)證:打開(kāi)“終端”,輸入?
ollama
,出現(xiàn)幫助信息即表示成功。
2. 下載 DeepSeek 模型
- 終端命令:
ollama run deepseek-r1:7b # 示例:下載 7B 參數(shù)版本 - 其他版本替換?
7b
?為?1.5b
、14b
?等。
- 其他版本替換?
3. 運(yùn)行模型
- 終端交互:下載完成后,直接在終端輸入:
ollama run deepseek-r1:7b - 輸入問(wèn)題后回車(chē),模型會(huì)實(shí)時(shí)生成回答。
- 退出:輸入?
/exit
?或按?Ctrl + C
?終止。
四、模型管理與優(yōu)化
- 查看已安裝模型:
ollama list - 刪除模型:
ollama rm deepseek-r1:7b # 替換為實(shí)際模型名 - 停止運(yùn)行:
ollama stop
五、常見(jiàn)問(wèn)題解決
- 下載失敗:
- 檢查網(wǎng)絡(luò)連接,或使用國(guó)內(nèi)鏡像源(如魔搭社區(qū))。
- 確保命令拼寫(xiě)正確(如?
deepseek-r1
?而非?deepseek
)。
- 顯存不足:
- 降低模型參數(shù)(如從?
14b
?切換到?7b
)。 - 關(guān)閉其他占用顯存的程序。
- 降低模型參數(shù)(如從?
- 命令行不熟悉:
- 直接使用?DeepSeek 官方 App?或網(wǎng)頁(yè)版(官網(wǎng)鏈接),無(wú)需部署。
六、適用場(chǎng)景推薦
- 本地部署優(yōu)勢(shì):
- 數(shù)據(jù)安全:敏感信息不離本地,避免泄露。
- 離線使用:無(wú)網(wǎng)絡(luò)環(huán)境下仍可運(yùn)行。
- 高頻任務(wù):降低 API 調(diào)用成本(如企業(yè)級(jí)應(yīng)用)。
- 個(gè)性化定制:調(diào)整模型參數(shù)或微調(diào)數(shù)據(jù)。
- 云端使用推薦:
- 日常輕量級(jí)任務(wù)(如簡(jiǎn)單問(wèn)答)。
- 設(shè)備性能不足時(shí)(如舊電腦或手機(jī))。