從去年年底開(kāi)始，國(guó)產(chǎn) AI 大模型迅速嶄露頭角，其中由幻方量化旗下深度求索公司研發(fā)的 Deepseek，憑借其卓越表現(xiàn)，在上個(gè)月震撼了整個(gè)人工智能行業(yè)。這家位于杭州的中國(guó)公司將中國(guó) AI 技術(shù)推向了世界一流的水準(zhǔn)，并于 2025 年 1 月 20 日開(kāi)源了 Deepseek R1 大模型。關(guān)于 Deepseek，這段時(shí)間也傳來(lái)不少新聞，包括它曾遭遇黑客攻擊，因此限制國(guó)外手機(jī)號(hào)注冊(cè) Deepseek 賬號(hào)等問(wèn)題。

與此同時(shí)，OpenAI 首席執(zhí)行官 Sam Altman 在社交平臺(tái) X 上發(fā)布了關(guān)于 ChatGPT 的未來(lái)規(guī)劃，透露將為所有用戶(hù)提供免費(fèi)版 ChatGPT 的無(wú)限聊天 權(quán)限，但需遵守濫用閾值，并計(jì)劃推出 ChatGPT-4.5 和 ChatGPT-5。這些消息從側(cè)面印證了 Deepseek R1 已經(jīng)達(dá)到與 ChatGPT-4 相媲美的國(guó)際水平。

本文將介紹如何在安卓手機(jī)和桌面設(shè)備上分別部署本地運(yùn)行的 Deepseek R1 模型，并搭建知識(shí)庫(kù)。那么，為什么選擇在本地部署 AI 大模型呢？本地部署 Deepseek 具有諸多顯著優(yōu)勢(shì)。

• 第一點(diǎn)，數(shù)據(jù)隱私得到更好的保障，用戶(hù)的私人數(shù)據(jù)無(wú)需上傳至云端或第三方服務(wù)器，從而大大降低了數(shù)據(jù)泄露的風(fēng)險(xiǎn)。
• 第二點(diǎn)，本地部署能夠顯著提高響應(yīng)速度，因?yàn)闊o(wú)需依賴(lài)網(wǎng)絡(luò)連接和遠(yuǎn)程服務(wù)器，特別是在網(wǎng)絡(luò)不穩(wěn)定時(shí)，用戶(hù)體驗(yàn)更加流暢，尤其是現(xiàn)在 Deepseek 的官網(wǎng)由于大量用戶(hù)訪(fǎng)問(wèn)已經(jīng)造成了大概率都是“服務(wù)器繁忙，請(qǐng)稍后再試。”此外，離線(xiàn)使用是另一個(gè)重要優(yōu)勢(shì)，用戶(hù)可以在沒(méi)有網(wǎng)絡(luò)環(huán)境的情況下，依然享受模型的服務(wù)，適用于高安全性或特殊場(chǎng)景。
• 最后一點(diǎn)，通過(guò)本地部署，用戶(hù)可以建立自己的數(shù)據(jù)庫(kù)，實(shí)現(xiàn)對(duì)數(shù)據(jù)的完全控制和管理，進(jìn)一步提高數(shù)據(jù)處理的靈活性與安全性。

當(dāng)然，與此同時(shí)，運(yùn)行 DeepseekAI 大模型需要強(qiáng)大的計(jì)算資源，如高性能的 CPU、GPU，以及大容量的內(nèi)存和存儲(chǔ)設(shè)備。這對(duì)于普通筆記本電腦而言，可能需要升級(jí)硬件，增加了成本和復(fù)雜性。部署完成的 R1 模型在推理能力、網(wǎng)絡(luò)資源整合等方面肯定是不如直接從網(wǎng)頁(yè)訪(fǎng)問(wèn)回答的準(zhǔn)確和智能。

安卓端

部署 Ubuntu 環(huán)境

首先，需要準(zhǔn)備相關(guān)工具。進(jìn)入 Github 官網(wǎng)，搜索 Termux，找到最新的 APK 應(yīng)用包并進(jìn)行安裝。Termux 是一款終端模擬器應(yīng)用程序，專(zhuān)為 Android 系統(tǒng)設(shè)計(jì)，提供完整的 Linux 環(huán)境，允許用戶(hù)在 Android 設(shè)備上運(yùn)行 Linux 命令和工具，無(wú)需 root 權(quán)限。后續(xù)將通過(guò) Termux 環(huán)境部署 Deepseek R1 模型。建議使用驍龍 8 Gen2 以上的設(shè)備進(jìn)行部署，以保證性能。

進(jìn)入 Termux 軟件，輸入termux-change-repo指令并運(yùn)行：

應(yīng)用程序內(nèi)會(huì)彈出一個(gè)窗口，選擇運(yùn)行單個(gè)鏡像文 “Single mirror Choose a single mirror to use”，并點(diǎn)擊:

在下一個(gè)界面，找到清華大學(xué)鏡像文件源(Tsinghua University)，如果沒(méi)有找到，可以通過(guò)雙手捏和將顯示界面縮小找到，隨后同樣點(diǎn)擊：

此時(shí)重新回到命令行界面，輸入“pkg update && pkg upgrade”，更新升級(jí)至最新的軟件包，等待完成后，輸入“y”，

下一步，部署 Ubuntu 環(huán)境，需要一定的網(wǎng)絡(luò)條件，分別安裝順序執(zhí)行一下操作部署安裝 Ubuntu工具，pkg i proot-distro，此命令使用 pkg 包管理器安裝 proot-distro 工具，proot-distro install ubuntu：使用 proot-distro 工具安裝 Ubuntu 發(fā)行版，安裝完成后，再輸入proot-distro login ubuntu：登錄到已安裝的 Ubuntu 環(huán)境，進(jìn)入 Ubuntu 的命令行界面。完成以上操作后在命令行界面會(huì)有“ root@localhost：～#”，即表示成功進(jìn)入U(xiǎn)buntu 環(huán)境，此次下載部署在本地的Deepseek R1模型即將運(yùn)行在此環(huán)境中。

下載 Deepseek 模型

在上一步最后的Ubuntu 環(huán)境命令行界面，輸入“curl -fsSL https://ollama.com/install.sh | sh”，通過(guò)ollama官網(wǎng)下載Deepseek模型，等待進(jìn)度條完成，需要一定的網(wǎng)絡(luò)條件，隨后進(jìn)入如下界面：

在分別執(zhí)行“OLLAMA_HOST=0.0.0.0”、“ OLLAMA_ORIGINS=* ”、“ollama serve”三個(gè)指令，更改接口并且運(yùn)行ollama服務(wù)。此時(shí)，回到桌面，長(zhǎng)按Termux圖標(biāo)，點(diǎn)擊“New session”，回到應(yīng)用內(nèi)輸入兩個(gè)指令，啟動(dòng)Ubuntu環(huán)境，并下載ollama模型，回到Termux應(yīng)用，輸入“proot-distro login ubuntu”和“ollama run deepseek-r1:1.5b”，再輸入回車(chē)，模型開(kāi)始下載，等待完成即可。

不建議下載過(guò)于復(fù)雜的模型，數(shù)字越大意味著部署的模型就越聰明，同時(shí)所需的手機(jī)性能也會(huì)越高。

通過(guò)Chatbox 與 Deepseek 交互

模型下載完成后，不要關(guān)閉Termux 進(jìn)程的后臺(tái)，進(jìn)入 Chatbox 官網(wǎng)，下載安卓版本 APK 文件完成應(yīng)用安裝，打開(kāi)應(yīng)用后，點(diǎn)擊“使用自己的 API Key 或本地模型”，模型提供方依次選擇 Ollama API，模型選擇“Deepseek-r1:1.5 b”，可以對(duì)模型進(jìn)行身份設(shè)定，方便回答用戶(hù)問(wèn)題，隨后關(guān)閉Termux 和 Chatbox 應(yīng)用。

每次啟動(dòng) Chatbox 之前，重新打開(kāi) Termux 進(jìn)入 Ubuntu 環(huán)境并 運(yùn)行 ollama 模型，輸入以下兩個(gè)指令：“proot-distro login ubuntu”和“ollama serve”，回到 Chatbox，即可與 Deepseek 交流了。

受限于手機(jī)性能，可能需要一定的響應(yīng)時(shí)間，請(qǐng)耐心等待，以下是實(shí)際體驗(yàn)，為了避免手機(jī)清理后臺(tái)，建議將 Termux 鎖定在后臺(tái)。ok，以上為手機(jī)端部署 Deepseek 的全部?jī)?nèi)容了。

桌面端 Deepseek 建立知識(shí)庫(kù)

在手機(jī)端部署本地 Deepseek 大模型相對(duì)復(fù)雜，但只要按照步驟操作，實(shí)際上可以很快完成部署。與此相比，桌面端的 Deepseek 部署要簡(jiǎn)單得多。桌面端不需要建立額外的環(huán)境，Windows 和 Mac 端的步驟大致相同，因此本文將重點(diǎn)介紹如何通過(guò)本地 Deepseek R1 模型在 Mac 端搭建自己的知識(shí)庫(kù)。

下載 Ollama 模型

首先，訪(fǎng)問(wèn) Ollama 官網(wǎng)，選擇并下載適合 Mac 系統(tǒng)的版本。下載完成后，按照提示完成安裝，安裝后將解壓得到的 Ollama 程序拖動(dòng)到“應(yīng)用程序”中。

接著，打開(kāi) Mac 系統(tǒng)的“終端”應(yīng)用(Windows 用戶(hù)則打開(kāi) CMD)，在終端中輸入需要下載的 Ollama 模型對(duì)應(yīng)的代碼。具體的代碼可以參考 Ollama 官網(wǎng)提供的說(shuō)明。如果電腦配置較強(qiáng)，可以選擇下載較大的模型版本。

需要注意的是，如果在下載過(guò)程中發(fā)現(xiàn)下載速度變慢，可以關(guān)閉當(dāng)前的“終端”窗口，再重新打開(kāi)并輸入相同的指令。這樣可以恢復(fù)更高的下載速度，并且下載進(jìn)度會(huì)被保留，不會(huì)丟失。

搭建本地知識(shí)庫(kù)

完成 Ollama 模型的下載后，接下來(lái)是搭建知識(shí)庫(kù)。首先，訪(fǎng)問(wèn) “AnythingLLM” 官網(wǎng)，根據(jù)操作系統(tǒng)下載并安裝對(duì)應(yīng)的版本。

安裝完成后，打開(kāi)程序，選擇 “Ollama” 作為模型提供方，并選擇 “8b （依據(jù)電腦配置）模型”。進(jìn)入下一步時(shí)，跳過(guò)郵箱填寫(xiě)界面，直接創(chuàng)建一個(gè)新的工作區(qū)(Workspace)。

創(chuàng)建工作區(qū)后，進(jìn)入到對(duì)話(huà)界面。接下來(lái)，點(diǎn)擊工作區(qū) “Test001”的設(shè)置按鈕，進(jìn)入“聊天設(shè)置”頁(yè)面。在聊天提示框中對(duì) AI 助手進(jìn)行一些基本設(shè)定，以便模型能夠更快速、更精準(zhǔn)地回答用戶(hù)的問(wèn)題。同時(shí)，可以設(shè)置回答語(yǔ)言為中文，并保存這些設(shè)置。

接下來(lái)，需要上傳并嵌入知識(shí)庫(kù)文件。小編通過(guò) AI 創(chuàng)建了一家虛擬的游戲公司，并將公司簡(jiǎn)介整理成一個(gè) Word 文檔。在準(zhǔn)備好文件后，返回“Test001”工作區(qū)，點(diǎn)擊右側(cè)的上傳按鈕，將文件上傳至“My Documents”。選中該文件后，點(diǎn)擊 “Move to Workspace”，然后選擇 “Saved and Embed” 以保存文件，最后執(zhí)行“Pin to Workspace”操作。這些操作都會(huì)有提示，確保每個(gè)步驟都正確完成。

測(cè)試和提問(wèn)

知識(shí)庫(kù)搭建完成后，回到對(duì)話(huà)框，在工作區(qū)“Test001”中選擇 “New Thread” 創(chuàng)建一個(gè)新的對(duì)話(huà)框。此時(shí)，可以開(kāi)始向模型提問(wèn)與知識(shí)庫(kù)相關(guān)的問(wèn)題。大模型將根據(jù)文檔內(nèi)容做出準(zhǔn)確回答，確保知識(shí)庫(kù)的內(nèi)容能夠被有效利用。

（知識(shí)庫(kù)內(nèi)容）

（AI 依據(jù)數(shù)據(jù)庫(kù)的核心人員回答）

（AI 依據(jù)數(shù)據(jù)庫(kù)的回答）

總結(jié)

以上是手機(jī)端部署本地 Deepseek 的教程以及通過(guò) Mac 端部署 Deepseek R1 大模型并建立本地知識(shí)庫(kù)的完整教程。從下載模型、搭建知識(shí)庫(kù)到最后的測(cè)試與提問(wèn)，每一步都很關(guān)鍵，只要按照步驟操作，就能夠順利完成整個(gè)過(guò)程。希望這篇教程能夠幫助大家順利搭建屬于自己的本地知識(shí)庫(kù)，提升使用 AI 模型的效率和體驗(yàn)。

最新評(píng)論