最近DeepSeek爆火，試用DeepSeek的企業(yè)和個人越來越多。最常見的應用場景就是知識庫和知識問答。所以本人也試用了一下，在筆記本電腦上部署DeepSeek并使用開源工具搭建一套知識庫，實現(xiàn)完全在本地環(huán)境下使用本地文檔搭建個人知識庫。操作過程共享出來，供大家參考。

部署環(huán)境

筆記本電腦，具體配置如下：

處理器：Intel(R) Core(TM) i7-10510U CPU @ 1.80GHz   2.30 GHz

內(nèi)存：16G

硬盤：500G

顯卡：集成顯卡

操作系統(tǒng)：Windows 11

軟件清單

構建本地知識庫，除了DeepSeek還需要安裝知識庫軟件。網(wǎng)上推薦比較多的是RagFlow，軟件開源，功能也很強大，可以使用本地文檔構建外掛知識庫。另外，同時也安裝了Cherry Studio，可以作為操作DeepSeek的交互工具。

安裝DeepSeek

從官網(wǎng)下載并安裝Ollama，過程略。可參考 https://ollama.com/

安裝完畢后，執(zhí)行命令：

ollama run deepseek-r1:7b

安裝成功后，就可以在命令行里操作deepseek了。

操作很簡單。至此，deepseek就安裝完畢。

安裝Cherry Studio

如果不習慣使用命令行，希望使用客戶端與本地安裝的deepseek交互，可以安裝一個對話界面軟件，我試用了Chatbox和Cherry Studio都不錯，可以更直觀地調整模型的參數(shù)和提示詞，同時也支持將對話內(nèi)容完全存檔在本地，本文以Cherry Studio為例。

前往https://cherry-ai.com/，根據(jù)你的操作系統(tǒng)（支持 Windows、Mac 和 Linux）下載對應的安裝包。默認下一步安裝完畢就好。

啟動Cherry Studio，添加嵌入模型。

在模型服務中選擇Ollama

點擊“管理”進行模型選擇，從模型列表中選擇與你本地部署的 DeepSeek-R1 模型版本對應的選項，如果沒有直接匹配項，選擇支持自定義模型配置的入口。

在“API地址”中，將 API 地址設置為http://localhost:11434 ，這是 Ollama 服務的默認接口地址，確保 Cherry Studio 能連接到本地運行的 DeepSeek-R1 模型。

保存后，就可以創(chuàng)建助手與本地deepseek進行對話了。

安裝RAGFlow

RAGFlow使用Docker部署運行，因此需要先在電腦上部署Docker環(huán)境。同時本文采用從GitHub倉庫直接拉取鏡像部署的方式，因此也需要提前安裝Git。

可訪問官方 GitHub 倉庫的 README 頁面拉取鏡像，并按照文檔中的指引安裝部署：https://github.com/infiniflow/ragflow/blob/main/README_zh.md

如果遇到問題，可訪問網(wǎng)絡上部署 RAGFlow 的踩坑帖子，如：http://chabaoo.cn/program/337628r08.htm

如果電腦沒裝Docker，可以參考Windows | Docker Docs 自行安裝，本文使用WSL。

安裝完畢后，要記得啟動“Docker Desktop”，否則后面執(zhí)行docker命令時會報錯。

如果電腦沒裝Git，可以從Git - Downloading Package下載安裝文件進行安裝。

安裝完畢后，進入命令行，將RAGFlow工程Clone到本地文件夾下。

$ git clone https://github.com/infiniflow/ragflow.git

進入 docker 文件夾

$ cd ragflow/docker 

利用提前編譯好的 Docker 鏡像啟動服務器：

運行以下命令會自動下載 RAGFlow slim Docker 鏡像 v0.16.0-slim。

$ docker compose -f docker-compose.yml up -d

如需下載不同于 v0.16.0-slim 的 Docker 鏡像，請在運行 docker compose 啟動服務之前先更新 docker/.env 文件內(nèi)的 RAGFLOW_IMAGE 變量。比如，你可以通過設置 RAGFLOW_IMAGE=infiniflow/ragflow:v0.16.0 來下載 RAGFlow 鏡像的 v0.16.0 完整發(fā)行版。

如果遇到 Docker 鏡像拉不下來的問題，可以在 docker/.env 文件內(nèi)根據(jù)變量  RAGFLOW_IMAGE  的注釋提示選擇華為云的相應鏡像。

華為云鏡像名：swr.cn-north-4.myhuaweicloud.com/infiniflow/ragflow

運行成功后，打開瀏覽器，登錄localhost進入RAGFlow頁面。注冊賬號后，就可以登錄使用了。

設置知識庫

使用RAGFlow設置知識庫，首先要在“模型提供商”中添加模型。必須要添加的有兩個模型，一個是LLM模型，使用DeepSeek；另一個是嵌入模型，使用bge-m3。

在“待添加的模型”列表中選擇“Ollama”，添加LLM.

“最大token數(shù)”可以通過如下命令獲取后填入。

ollama show deepseek-r1:7b

“基礎Url”需要注意如果填寫“http://localhost:11434”，會遇到“[Errno 111] Connection refused”的異常。原因是Docker中的程序訪問不到本機的11434端口，可以參考

[Question]: Fail to access model(deepseek-r1:8b).**ERROR**: [Errno 111] Connection refused因此，此處要注意“基礎Url”處填寫：

 http://host.docker.internal:11434 

添加嵌入模型前，首先使用Ollama 安裝bge-m3

ollama pull bge-m3

然后配置嵌入模型。

模型添加成功后，進入“系統(tǒng)模型設置”，選擇添加的模型。

然后就可以創(chuàng)建知識庫了。

在知識庫設置中修改語言、權限、嵌入模型。

在“數(shù)據(jù)集”中上傳所需的文檔。

上傳成功后，選擇文檔進行“解析”。

上傳了幾個PDF文檔，解析的效果還不錯。解析分段如果有不準確的地方，可以人工修正。

數(shù)據(jù)集準備就緒后，就可以“新建助理”，然后問問題了。

相比于互聯(lián)網(wǎng)模型，個人知識庫會從結合本地文檔訓練的數(shù)據(jù)集進行分析，更加符合個人專業(yè)訴求。

總結

DeepSeek確實很香，搭配開源工具不花一分錢就搭建了一個定制化的知識庫。從回答的邏輯和文檔解析的效果看，都很不錯。當然，本案例個人嘗鮮可以，作企業(yè)商用還不行，拋開企業(yè)定制化和運維需求之外，主要問題有兩個：

1. 個人筆記本的配置部署7b小模型已經(jīng)是極限了，使用Cherry Studio做問答速度還可以。但使用RAGFlow做的個人知識庫做問答，確實慢的要死。正式使用或企業(yè)商用，還是需要試用商用推薦配置。

2. 數(shù)據(jù)集質量極大影響知識庫問答效果，因此高價值的原始數(shù)據(jù)以及對原始數(shù)據(jù)的解析整理十分重要?，F(xiàn)在工具能力相當不錯了，但數(shù)據(jù)工程將是企業(yè)數(shù)據(jù)庫構建的主要挑戰(zhàn)。

到此這篇關于使用DeepSeek搭建個人知識庫(在筆記本電腦上)的文章就介紹到這了,更多相關DeepSeek搭建知識庫內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家！

最新評論