最近國(guó)產(chǎn) AI 大模型 DeepSeek 爆火出圈,登頂中美 App Store 下載榜,還在性能、性價(jià)比上碾壓了 ChatGPT 和 Google Gemini 等硅谷巨頭,直接殺入科技圈C位,成為現(xiàn)象級(jí)應(yīng)用!
然而,不少小伙伴在使用的時(shí)候,經(jīng)常會(huì)出現(xiàn)響應(yīng)遲緩甚至宕機(jī)的情況??
這可怎么辦?
萬(wàn)幸的是,DeepSeek 是一個(gè)開(kāi)源模型,這意味著我們可以將它部署在自己的電腦上,以便隨時(shí)使用!
今天就跟大家分享一下,如何將 DeepSeek 部署在你的電腦上??
Step 1 Ollama環(huán)境搭建
首先我們需要安裝 Ollama,Ollama 是一個(gè)用于本地管理和運(yùn)行大模型的工具,能夠簡(jiǎn)化模型的下載和調(diào)度操作。
進(jìn)入 Ollama 官網(wǎng)(ollama.com)。
點(diǎn)擊【Download
】,選擇適合自己系統(tǒng)的版本(Windows/mac/Linux)。
下載后點(diǎn)擊安裝,等待安裝完成即可。最好安裝到 C 盤(pán),安裝在其它盤(pán),否則安裝后可能需要重新配置環(huán)境變量。
Step 2 選擇要安裝的模型
接著返回 Ollama 官網(wǎng),點(diǎn)擊右上角的【Models
】,再選擇【deepseek-r1
】。
下拉可以看到多個(gè)參數(shù)版本,數(shù)字越大,模型參數(shù)越多,性能越強(qiáng),對(duì)顯存要求越高。
比如 1.5b 版本擁有15億參數(shù),顯存要求相對(duì)較低( 2G 顯存甚至核顯也能跑),而更大參數(shù)的模型對(duì)顯存要求自然水漲船高。
選中適合你電腦配置的版本(這里以 1.5b 為例),復(fù)制頁(yè)面中顯示的命令。
Step 3 安裝模型
在 Windows 系統(tǒng)中,按下【Win
+R
】彈出如下窗口??
輸入【cmd
】,點(diǎn)擊【確定
】,打開(kāi)命令行。
在命令行中粘貼剛才復(fù)制的命令,按下回車(chē)鍵后,系統(tǒng)會(huì)自動(dòng)開(kāi)始下載模型。
等待下載完成即可。
下載過(guò)程中若發(fā)現(xiàn)速度突然變慢,試著關(guān)閉命令行再重新打開(kāi)。
Step 4 開(kāi)始對(duì)話
下載完成后,你的電腦就成功擁有了一個(gè)離線 DeepSeek,就算斷網(wǎng)也能使用。
此時(shí),你可以直接在命令行里輸入問(wèn)題,與模型開(kāi)始互動(dòng)。
Step 5 后續(xù)運(yùn)行模型的小技巧
每次關(guān)機(jī)后,下次想與 DeepSeek 聊天,你還得重復(fù)啟動(dòng)命令行,輸入下載時(shí)的命令即可。
這一點(diǎn)要牢記:點(diǎn)擊桌面的 Ollama 圖標(biāo)只是啟動(dòng)了軟件,要想真正開(kāi)始對(duì)話,還得用命令行來(lái)“喊話”。
再次按下【Win
+R
】,在彈出的窗口里輸入【cmd
】,點(diǎn)擊【確定
】打開(kāi)命令行。
在命令行界面,輸入剛剛的命令【ollama run deepseek-r1:1.5b
】,即可開(kāi)始對(duì)話。
如果你不習(xí)慣在命令行窗口里面對(duì)話,或者希望有個(gè)更美觀的交互界面,可以考慮安裝 Open-WebUI。
不過(guò)這不是必須的,不熟悉電腦操作的小伙伴可以暫時(shí)跳過(guò)。
Step 6 安裝 Docker
首先安裝 Docker。
進(jìn)入官網(wǎng)(www.docker.com),下載并安裝適用于你系統(tǒng)的 Docker 桌面版。
按步驟下載安裝即可,安裝完成后需要重啟電腦。
Step 7 安裝 Open WebUI
進(jìn)入 Open-WebUI 官網(wǎng)(openwebui.com)。
點(diǎn)擊【Get Open WebUI】,來(lái)到 Open WebUI 的代碼頁(yè)。
下滑找到【If Ollama is on your computer, use this command】,點(diǎn)擊右邊按鈕復(fù)制這個(gè)指令。
再次打開(kāi)命令窗口,粘貼復(fù)制的命令,安裝 Open WebUI 即可。
Step 8 運(yùn)行Open WebUI
安裝完成后,雙擊桌面上的 Docker 圖標(biāo)啟動(dòng) Docker,再點(diǎn)擊圖片里框選的端口,即可運(yùn)行 Open-WebUI。
接著點(diǎn)擊左上角,選擇模型,就可以開(kāi)始對(duì)話啦。
注意事項(xiàng) 一定要進(jìn)行本地部署嗎?
本地部署聽(tīng)起來(lái)酷炫,但并不是所有人都適用。
如果你使用AI的頻率并不高,那么直接下載 DeepSeek APP 或使用網(wǎng)頁(yè)版,也許是更好的選擇,因?yàn)樗鼈兪褂闷饋?lái)更方便。
部署 DeepSeek 到本地電腦主要適用于以下情況??
1、 硬件條件充足
電腦配置較高,尤其是擁有獨(dú)立顯卡,能夠滿足較大模型的顯存要求。
2、數(shù)據(jù)安全需求高
需要處理敏感或私密數(shù)據(jù),不希望數(shù)據(jù)上傳至云端。
3、高頻調(diào)用任務(wù)
日常使用頻率較高且調(diào)用 API 會(huì)產(chǎn)生較高成本,本地部署可以降低費(fèi)用。
4、個(gè)性化定制需求
希望在開(kāi)源模型基礎(chǔ)上進(jìn)行二次開(kāi)發(fā)或定制調(diào)整,滿足特殊業(yè)務(wù)需求。
通過(guò)本地部署,小伙伴們可以更好地保障數(shù)據(jù)安全、降低使用成本并實(shí)現(xiàn)定制化需求,如有需要,按著教程步驟試試吧~