DeepSeek結(jié)合LM Studio實(shí)現(xiàn)本地部署全套教程

DeepSeek 發(fā)布的推理大模型 DeepSeek - R1 ，它的功能堪稱全能，日常寫作、翻譯、問答輕松拿捏，獨(dú)特的 “深度思考” 模式加上聯(lián)網(wǎng)搜索，在編程、解題、文獻(xiàn)解讀等復(fù)雜任務(wù)里也游刃有余，推理思考能力一絕！使用體驗(yàn)更是拉滿，既有便捷的電腦網(wǎng)頁版 AI 助手和 API 服務(wù)，近期 iOS、Android 手機(jī)版 APP 重磅上線，新增拍照識字、文檔上傳分析功能，響應(yīng)速度超快，國內(nèi)還能直連暢用，毫無網(wǎng)絡(luò)阻礙，實(shí)用性直接爆棚，快來體驗(yàn)吧！

本次分享的是DeepSeek R1 本地部署版本，包括windowst和Mac及web-ui版本可以斷網(wǎng)使用。

有多個(gè)版本：1.5b 7b 8b 14b 32b 70b 671b，對于顯卡好、顯存大的可選擇高的版本，反之選擇低一點(diǎn)的版本，不過低的版本效果不如在線網(wǎng)頁版的好。

功能特點(diǎn)：

號稱它現(xiàn)在不但比OpenAI開放，也比它有活力；

功能堪稱全能日常寫作、翻譯、編程輕松搞定；

獨(dú)特的 “深度思考” 模式加上聯(lián)網(wǎng)搜索；

既有便捷的電腦網(wǎng)頁版 AI 助手和 API 服務(wù)；

近期 iOS、Android 手機(jī)版 APP 重磅上線；

新增拍照識字、文檔上傳分析功能；

響應(yīng)速度超快，國內(nèi)還能直連使用。

安裝說明：

CPU適配版本：

沒有GPU：1.5B Q8推理 或者 8B Q4推理
4G GPU：8B Q4推理
8G GPU：32B Q4推理 或者 8B Q4推理
16G GPU：32B Q4推理 或者 32B Q8推理
24G GPU: 32B Q8推理 或者 70B Q2推理  

根據(jù)個(gè)人配置安裝合適版本。

安裝命令：

1.5B Qwen DeepSeek R1

安裝命令：ollama run deepseek-r1:1.5b   

7B Qwen DeepSeek R1

安裝命令：ollama run deepseek-r1:7b  

8B Llama DeepSeek R1

安裝命令：ollama run deepseek-r1:8b

14B Qwen DeepSeek R1

安裝命令：ollama run deepseek-r1:14b

32B Qwen DeepSeek R1

安裝命令：ollama run deepseek-r1:32b

70B Llama DeepSeek R1

安裝命令：ollama run deepseek-r1:70b

如果出現(xiàn)403，以管理員身份運(yùn)行即可。

然后，會有一個(gè)漫長的下載模型的時(shí)間，下載后看到如下界面，證明你成功了！

搭建 web ui 用于網(wǎng)頁對話

明顯命令行這樣的方式很不方便，無法滿足對我們的聊天內(nèi)容進(jìn)行管理。這時(shí)，一個(gè)類似于Chat GPT這樣的網(wǎng)頁對話功能就顯得十分重要了。

這里我選擇的是Open web ui，具體效果如下。

下面講解如何搭建，在此之前我們需要安裝 docker 。

安裝完成后，我們打開docker，注冊登錄一下docker，然后在右下角點(diǎn)擊Terminal，打開控制臺，然后輸入下面命令，然后等待安裝完成。

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

docker 容器啟動后，會有歡迎頁面，點(diǎn)擊開始使用，開啟體驗(yàn)之路！

其他Open WebUI可視化交互界面工具

目前我知道的大概有幾種方式：

1、使用Docker-desktop,不僅是open-webui，其他絕大多數(shù)Github的開源項(xiàng)目都支持用docker一鍵部署，docker的好處是自帶虛擬環(huán)境，不需要在本地額外安裝一堆其他環(huán)境、依賴等，是管理、部署項(xiàng)目的神器。

2、自行安裝Python環(huán)境，使用Pip的方式安裝即可

3、不需要安裝Docker-desktop，也不需要安裝Python環(huán)境，直接使用瀏覽器Web UI插件就能搞定（下方就是教程，大家可以點(diǎn)擊查看）

本地部署DeepSeek-R1聯(lián)網(wǎng) 超簡單的DeepSeek離線部署聯(lián)網(wǎng)搜索教程

4、還可以使用ChatBox、Cherry Studio等桌面客戶端都可以（下面也給大家提供了教程，點(diǎn)擊查看）

DeepSeek服務(wù)器繁忙怎么解決？CherryStudio&DeepSeek 告別不響應(yīng)