deepseek本地部署流程(解決服務(wù)器繁忙以及隱私等問題)
前文
由于官網(wǎng)deepseek老是出問題
所以我決定本地部署deepseek
很簡(jiǎn)單，不需要有什么特殊技能
正文開始
Ollama
首先到這個(gè)ollama的官網(wǎng)
然后點(diǎn)擊中間這個(gè)大大的Download
然后再次點(diǎn)擊中間這個(gè)大大的Download for Windows
等待下載完成
下載完成
完成后去自己的下載目錄文件夾里找下載好的文件，雙擊打開
點(diǎn)擊Install
等待安裝完成
安裝完成
安裝完成后查看任務(wù)欄向上小箭頭
羊駝圖標(biāo)就是ollama的進(jìn)程
然后進(jìn)行下一步（不要關(guān)ollama進(jìn)程）
ChatBoxAI
打開它的官網(wǎng)
然后點(diǎn)擊這個(gè)免費(fèi)下載 (for Windows)
下載開始，等待下載完成
下載完成
打開自己下載文件夾
雙擊打開下載好的文件
下一步
選個(gè)安裝位置，點(diǎn)瀏覽
然后就會(huì)打開這個(gè)
在里面找好自己的目錄，點(diǎn)確定
就會(huì)跳回這個(gè)界面，點(diǎn)安裝
等待安裝完成
安裝完成后，點(diǎn)完成，稍等一會(huì)
就會(huì)出現(xiàn)這個(gè)界面（這就是以后跟deepseek對(duì)話的地方），關(guān)了它進(jìn)行下一步驟
DeepSeek-R1
拉取模型需要在命令行里操作
同時(shí)按下Win+R啟動(dòng)運(yùn)行命令窗口
輸入cmd
回車
出現(xiàn)這個(gè)（命令提示符）窗口，然后輸入以下命令
ollama --version
然后就會(huì)出現(xiàn)如上提示
如果是這樣的，那就說明你沒輸對(duì)命令，如果反復(fù)檢查是輸對(duì)了，那你只能回到Ollama章節(jié)把那一章的內(nèi)容重來(lái)一遍了
然后再次回到Ollama的官網(wǎng)（不要關(guān)閉命令提示符）
點(diǎn)擊Models（左上角）
然后自己選自己的AI，一般就是第一個(gè)顯示的那個(gè)AI-deepseek-r1
點(diǎn)擊deepseek-r1
點(diǎn)擊下拉框選擇適合自己的蒸餾版
選擇哪個(gè)呢，在Decide章節(jié)，自行閱讀后選擇
選好之后點(diǎn)擊上圖紅框中的copy按鈕
回到命令提示符中，點(diǎn)擊右鍵復(fù)制內(nèi)容
好了之后回車
等待拉取模型
模型拉取成功（這里的success表示成功）
然后在命令行里會(huì)出現(xiàn)Send a message字樣，然后不用管它了
下一步
組裝
打開桌面上的ChatBoxAI
點(diǎn)擊設(shè)置
打開模型提供方下拉框
選擇上圖紅框中這個(gè)Ollama API
打開模型下拉框
可以看到這里有我們剛剛拉取的deepseek，選擇它
保存
這里也變成自己剛剛拉取的AI了
然后輸入一個(gè)試試
以后自己打開ChatBoxAI就可以開始對(duì)話了
關(guān)閉會(huì)自己殺死AI進(jìn)程
Decide
- CPU: 至少 8 核，推薦 16 核或以上。
- GPU: 至少 16GB 顯存，推薦 24GB 或以上（如 NVIDIA RTX 3090、A100 等）。
- 內(nèi)存: 至少 32GB，推薦 64GB 或以上。
- 存儲(chǔ): 至少 100GB SSD，推薦 NVMe SSD 以加快加載速度。
- 小型蒸餾版: 適合低資源環(huán)境，顯存需求約 8GB，內(nèi)存需求約 16GB。（1.5b、7b、8b）
- 中型蒸餾版: 顯存需求約 16GB，內(nèi)存需求約 32GB。（14b）
- 大型蒸餾版: 顯存需求約 24GB，內(nèi)存需求約 64GB。（32b）
- 需求配置更高的蒸餾版不推薦個(gè)人拉取本地部署使用
- 實(shí)際配置可以更低，不過可能會(huì)降低配置根據(jù)配置自己選擇即可
- 好了，至此就完成了deepseek的本地部署了
總結(jié)
以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。
- 如何在本地部署DeepSeek大模型實(shí)現(xiàn)聯(lián)網(wǎng)增強(qiáng)的AI應(yīng)用
- deepseek本地部署使用步驟詳解
- 一文教你如何本地部署DeepSeek
- DeepSeek本地部署流程詳細(xì)指南
- Nodejs本地部署DeepSeek的教程詳解
- 在linux服務(wù)器本地部署Deepseek及在mac遠(yuǎn)程web-ui訪問的操作
- Linux 服務(wù)器本地部署 DeepSeek-R1 大模型并在遠(yuǎn)端Web-UI訪問保姆級(jí)教程
- 0基礎(chǔ)租個(gè)硬件玩deepseek,藍(lán)耘元生代智算云|本地部署DeepSeek?R1模型的操作流程
- MAC快速本地部署Deepseek的實(shí)現(xiàn)步驟
相關(guān)文章
本文主要介紹了音視頻 pts dts基本概念及理解，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2022-08-08
這篇文章主要介紹了程序員鼓勵(lì)師插件Rainbow Fart（彩虹屁）的相關(guān)知識(shí)，本文給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-06-06
申請(qǐng)Jetbrains系列軟件無(wú)限期免費(fèi)用的方法
這篇文章主要介紹了如何申請(qǐng)Jetbrains系列軟件無(wú)限期免費(fèi)用,本文給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2020-09-09
踩坑記錄關(guān)于"authentication failed "的解決方法
今天給大家分享我的踩坑記錄關(guān)于報(bào)錯(cuò) authentication failed，這個(gè)報(bào)錯(cuò)的原因是“身份驗(yàn)證失敗”，本文給大家分享我的解決方法，感興趣的朋友跟隨小編一起看看吧2023-01-01
相信大家一定碰到過，打開某個(gè)網(wǎng)頁(yè)，卻顯示一堆像亂碼，如"бЇЯАзЪСЯ"、"�????????"？還記得HTTP中的Accept-Charset、Accept-Encoding、Accept-Language、Content-Encoding、Content-Language等消息頭字段？這些就是接下來(lái)我們要探討的2012-04-04
Apache?Beam是一個(gè)用于批處理和流處理的統(tǒng)一編程模型,可以處理實(shí)時(shí)數(shù)據(jù)流和批量數(shù)據(jù)，本文給大家介紹ApacheBeam中的延遲數(shù)據(jù)處理方法，感興趣的朋友跟隨小編一起看看吧2024-03-03
2019-nCoV 全國(guó)新型肺炎疫情每日動(dòng)態(tài)趨勢(shì)可視圖
大家被新型冠狀病毒搞的人心慌慌，每天宅在家里那也去不了，今天小編給大家分享2019-nCoV 全國(guó)新型肺炎疫情每日動(dòng)態(tài)趨勢(shì)可視圖，需要的朋友可以參考下2020-02-02
Win10環(huán)境借助DockerDesktop部署大數(shù)據(jù)時(shí)序數(shù)據(jù)庫(kù)Apache Druid的操作方法
文章介紹了如何在Windows 10環(huán)境下使用Docker Desktop部署最新版的大數(shù)據(jù)時(shí)序數(shù)據(jù)庫(kù)Apache Druid 32.0.0,通過官方提供的docker-compose.yml文件和環(huán)境配置,成功啟動(dòng)了Zookeeper、PostgreSQL和6個(gè)Druid容器,感興趣的朋友一起看看吧2025-02-02
這篇文章主要介紹了v語(yǔ)言初體驗(yàn)小結(jié)，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-08-08
deepseek本地部署流程(解決服務(wù)器繁忙以及隱私等問題)
本文介紹了如何在本地部署DeepSeek,并詳細(xì)說明了下載和安裝Ollama、ChatBoxAI以及拉取DeepSeek-R1模型的步驟,同時(shí),還提供了所需的硬件配置建議2025-02-02