DeepSeek-R1 與 AnythingLLM 安裝部署本地知識(shí)庫(kù)詳細(xì)教程
我要評(píng)論DeepSeek R1是目前最火的大模型，近來(lái)有很多朋友問(wèn)怎么搭建DeepSeek 本地知識(shí)庫(kù)？今天給大家推薦一個(gè)“懶人神器”——AnythingLLM。這是一個(gè)全棧應(yīng)用程序，允許您將任何文檔、資源或內(nèi)容轉(zhuǎn)換為 LLM（大型語(yǔ)言模型）在聊天時(shí)可以使用的上下文。使用離線部署的DeepSeek R1，基于AnythingLLM在本地搭建私有知識(shí)庫(kù)，簡(jiǎn)單又好用，完全本地化。下面就整理了AnythingLLM+DeepSeek安裝本地部署教程，僅供參考！
詳細(xì)安裝教程
1、安裝Ollama
打開(kāi)Ollama官方網(wǎng)址：https://ollama.com/download，然后選擇當(dāng)前系統(tǒng)的版本，下載后直接安裝即可。網(wǎng)上此教程眾多這里就不贅述了。
打開(kāi)命令行界面，在命令行界面輸入
ollama --version
出現(xiàn)如下顯示說(shuō)明Ollama安裝成功
2、安裝DeepSeek
在命令行界面輸入：ollama run deepseek-r1:1.5b
可以快速安裝deepseek-r1:1.5b模型，安裝成功后如圖所示
3、安裝AnythingLLM
下載AnythingLLM安裝包，然后雙擊AnythingLLMDesktop.exe進(jìn)行安裝即可
安裝完成后退出程序
打開(kāi)軟件主界面，首次啟動(dòng)會(huì)出現(xiàn)Get started，點(diǎn)擊即可
接著直接點(diǎn)擊右箭頭，一直點(diǎn)擊即可
起一個(gè)工作區(qū)名稱然后點(diǎn)擊右箭頭進(jìn)入工作界面
點(diǎn)擊左下角的小扳手，進(jìn)入設(shè)置
依次選擇“人工智能提供商”-“LLM首選項(xiàng)”，然后選擇Ollama，配置模型地址http://127.0.0.1:11434
選擇DeepSeek-R1，token長(zhǎng)度4096，然后點(diǎn)擊Save changes即可
點(diǎn)擊剛剛創(chuàng)建的工作區(qū)，選擇本地文檔或者網(wǎng)頁(yè)鏈接
然后點(diǎn)擊Save and Embed
出現(xiàn)Workspace updated successfully就表示知識(shí)庫(kù)配置已經(jīng)完成
現(xiàn)在你可以開(kāi)始你的任意提問(wèn)了，LLM會(huì)結(jié)合自己的知識(shí)，以及文檔的內(nèi)容，生成你提問(wèn)的相應(yīng)回答。
進(jìn)入界面，點(diǎn)擊進(jìn)行測(cè)試基礎(chǔ)的模型對(duì)話
如果想確認(rèn)AI回答的知識(shí)來(lái)源，可以在回答底部點(diǎn)擊Show Citations查看引用的知識(shí)
修改中文語(yǔ)言，進(jìn)入設(shè)置，選擇Chinese即可
以上就是小編整理的關(guān)于使用DeepSeek-R1 與 AnythingLLM 搭建本地知識(shí)庫(kù)詳細(xì)教程，僅供參考，希望對(duì)大家有所幫助！歡迎繼續(xù)關(guān)注腳本之家相關(guān)軟件教程！
相關(guān)文章
如何實(shí)現(xiàn)deepseek本地部署？詳細(xì)教學(xué)deepseek本地環(huán)境搭建及設(shè)置
本文將詳細(xì)介紹deepseek本地部署的完整步驟，包括從環(huán)境配置到軟件安裝的全程指南，我們將細(xì)節(jié)和注意點(diǎn)做了介紹，確保你能夠在短時(shí)間內(nèi)完成高效、安全的配置，快速啟動(dòng)Deep2025-02-04
本地部署DeepSeek-R1聯(lián)網(wǎng) 超簡(jiǎn)單的DeepSeek離線部署聯(lián)網(wǎng)搜索教程
DeepSeek是近日熱門的AI大型語(yǔ)言模型，目前可實(shí)現(xiàn)本地部署版本，那么DeepSeek本地部署后如何實(shí)現(xiàn)聯(lián)網(wǎng)？這里要給大家介紹一個(gè)插件，簡(jiǎn)單快速部署deepseek-r1本地，無(wú)需網(wǎng)絡(luò)2025-02-06
過(guò)年這幾天，DeepSeek 算是徹底破圈了，火遍大江南北，火到人盡皆知，有不少讀者私信詢問(wèn)本地部署DeepSeek-R1的電腦配置要求，下面我們就一起看看DeepSeek每個(gè)版本的配置要2025-02-07
DeepSeek R1最全本地部署教程 適用于Mac/Windows/Linux平臺(tái)
本篇文章將以部署國(guó)產(chǎn)最新崛起的 AI 大模型 DeepSeek R1 為例，手把手教你如何利用 Ollama 在本地環(huán)境中快速搭建和運(yùn)行這些先進(jìn)的 AI 模型2025-02-07
本文將通過(guò)圖文結(jié)合的方式，詳細(xì)介紹 DeepSeek 的安裝、配置、基本使用、高級(jí)功能以及實(shí)用技巧，幫助你快速上手并掌握這一工具2025-02-08
全新DeepSeek R1 本地部署詳細(xì)圖文教程 支持Web-UI 可以斷網(wǎng)使用(附下
DeepSeek全球下載榜單登頂，因?yàn)樘^(guò)火爆了，導(dǎo)致DeepSeek這段時(shí)間用的時(shí)候幾乎天天崩潰，經(jīng)常出現(xiàn)“服務(wù)器繁忙，請(qǐng)稍后再試”的情況，這里為大家?guī)?lái)DeepSeek R1本地部署2025-02-07DeepSeek服務(wù)器繁忙怎么解決？手把手教你本地連接DeepSeek R1告別不響
近期DeepSeek經(jīng)常出現(xiàn)服務(wù)器繁忙，請(qǐng)稍后再試的情況，那么DeepSeek服務(wù)器繁忙怎么解決呢？本文手把手教你本地連接DeepSeek R1，告別不響應(yīng)，一起來(lái)看看吧2025-02-07看到滿血版價(jià)格想想還是算了! 本地部署 DeepSeek 電腦硬件配置清單
針對(duì)本地部署DeepSeek大模型的配置需求，需根據(jù)模型規(guī)模（如7B/13B/70B參數(shù)）和量化方案進(jìn)行區(qū)分,以下是三個(gè)層級(jí)的硬件配置建議2025-02-09不會(huì)用DeepSeek？建議收藏這20個(gè)神級(jí)操作指令!
如果你是內(nèi)容創(chuàng)作者，或者在數(shù)字營(yíng)銷、數(shù)據(jù)分析等領(lǐng)域工作，提升工作效率和創(chuàng)作水平是必不可少的，而掌握一些強(qiáng)大的創(chuàng)作指令，無(wú)疑能讓你事半功倍！今天，我整理了20個(gè)Deep2025-02-09DeepSeek R1 671B 完整版本地部署詳盡教程來(lái)了!
關(guān)于本地部署，大多數(shù)人使用的是蒸餾后的8B/32B/70B版本，本質(zhì)是微調(diào)后的Llama或Qwen模型，并不能完全發(fā)揮出DeepSeek R1的實(shí)力，下面我們就來(lái)看看DeepSeek R1 671B 完整版2025-02-09
