桌面端 Deepseek 建立知識庫

在手機端部署本地 Deepseek 大模型相對復雜，但只要按照步驟操作，實際上可以很快完成部署。與此相比，桌面端的 Deepseek 部署要簡單得多。桌面端不需要建立額外的環(huán)境，Windows 和 Mac 端的步驟大致相同，因此本文將重點介紹如何通過本地 Deepseek R1 模型在 Mac 端搭建自己的知識庫。

下載 Ollama 模型

首先，訪問 Ollama 官網(wǎng)，選擇并下載適合 Mac 系統(tǒng)的版本。下載完成后，按照提示完成安裝，安裝后將解壓得到的 Ollama 程序拖動到“應用程序”中。

接著，打開 Mac 系統(tǒng)的“終端”應用(Windows 用戶則打開 CMD)，在終端中輸入需要下載的 Ollama 模型對應的代碼。具體的代碼可以參考 Ollama 官網(wǎng)提供的說明。如果電腦配置較強，可以選擇下載較大的模型版本。

需要注意的是，如果在下載過程中發(fā)現(xiàn)下載速度變慢，可以關(guān)閉當前的“終端”窗口，再重新打開并輸入相同的指令。這樣可以恢復更高的下載速度，并且下載進度會被保留，不會丟失。

搭建本地知識庫

完成 Ollama 模型的下載后，接下來是搭建知識庫。首先，訪問 “AnythingLLM” 官網(wǎng)，根據(jù)操作系統(tǒng)下載并安裝對應的版本。

安裝完成后，打開程序，選擇 “Ollama” 作為模型提供方，并選擇 “8b （依據(jù)電腦配置）模型”。進入下一步時，跳過郵箱填寫界面，直接創(chuàng)建一個新的工作區(qū)(Workspace)。

創(chuàng)建工作區(qū)后，進入到對話界面。接下來，點擊工作區(qū) “Test001”的設(shè)置按鈕，進入“聊天設(shè)置”頁面。在聊天提示框中對 AI 助手進行一些基本設(shè)定，以便模型能夠更快速、更精準地回答用戶的問題。同時，可以設(shè)置回答語言為中文，并保存這些設(shè)置。

接下來，需要上傳并嵌入知識庫文件。小編通過 AI 創(chuàng)建了一家虛擬的游戲公司，并將公司簡介整理成一個 Word 文檔。在準備好文件后，返回“Test001”工作區(qū)，點擊右側(cè)的上傳按鈕，將文件上傳至“My Documents”。選中該文件后，點擊 “Move to Workspace”，然后選擇 “Saved and Embed” 以保存文件，最后執(zhí)行“Pin to Workspace”操作。這些操作都會有提示，確保每個步驟都正確完成。

測試和提問

知識庫搭建完成后，回到對話框，在工作區(qū)“Test001”中選擇 “New Thread” 創(chuàng)建一個新的對話框。此時，可以開始向模型提問與知識庫相關(guān)的問題。大模型將根據(jù)文檔內(nèi)容做出準確回答，確保知識庫的內(nèi)容能夠被有效利用。

（知識庫內(nèi)容）

（AI 依據(jù)數(shù)據(jù)庫的核心人員回答）

（AI 依據(jù)數(shù)據(jù)庫的回答）

總結(jié)

以上是手機端部署本地 Deepseek 的教程以及通過 Mac 端部署 Deepseek R1 大模型并建立本地知識庫的完整教程。從下載模型、搭建知識庫到最后的測試與提問，每一步都很關(guān)鍵，只要按照步驟操作，就能夠順利完成整個過程。希望這篇教程能夠幫助大家順利搭建屬于自己的本地知識庫，提升使用 AI 模型的效率和體驗。

最新評論