完全離線linux 版open webui 的搭建

1.在具有網(wǎng)絡連接的環(huán)境中下載whl

在有網(wǎng)絡的環(huán)境，使用pip download可以保存所有的依賴包,可以使用-i 指定清華的鏡像源加速下載速度。

# 命令：
pip download <package_name> --only-binary=:all: --wheel --platform <platform_tag> --python-version <python_version>
# 示例
pip download -d e:tempopenweuiwhi_linux open-webui --only-binary=:all:  --platform linux_x86_64 --python-version 311 -i  https://pypi.tuna.tsinghua.edu.cn/simple

注意：如果windows要下載linux的還要指定系統(tǒng) --platform

下圖是我依賴截圖其中幾個，我下載后依賴了200多個其他包：

下載的時候要注意，兩個環(huán)境python版本最好一致，因為很多包是要求python版本的

比如這里面的311就要求是Python3.11版本

2.拷貝whl 包到無網(wǎng)絡環(huán)境安裝

進入到上述依賴包的文件夾，執(zhí)行安裝，如下：

pip.exe install --no-index --find-links . .open_webui-0.3.28-py3-none-any.whl

該命令會自動的尋找openwebui 在當前路徑下的依賴安裝

2.1安裝中的小問題

安裝的時候報錯版本不符合要求，升級setuptools和pip（pip版本比較低的時候，無法安裝其中的tar.gz的文件）

pip install setuptools-75.1.0-py3-none-any.whl
python.exe -m pip install pip-24.2-py3-none-any.whl

如果中間遇到某一個tar.gz的包無法安裝成功，可以解壓縮，進入到解壓縮后的目錄，用包中的setup單獨安裝下：

python.exe setup.py install

然后重新安裝，出現(xiàn)如下就是安裝成功了

pip list也可以看到安裝的open webui了

如果open-webui 在powershell找不到，可以加到環(huán)境變量中：

3.啟動

open-webui.exe serve

3.1 啟動中的問題

啟動的時候肯定會報錯，如下：

openwebui默認需要聯(lián)網(wǎng)下載模型，聯(lián)網(wǎng)環(huán)境連不上hugging face，而我們完全離線的環(huán)境連網(wǎng)絡都上不去，解決方法如下：

• 從已經(jīng)下載好的聯(lián)網(wǎng)的電腦上拷貝或者提前下載好模型
  建議從下載好的電腦上拷貝，方法如下：
  python 安裝的openwebui下載的模型一般是保存在C:Users用戶名.cachehuggingfacehubmodels–sentence-transformers–all-MiniLM-L6-v2，拷貝出來傳到無網(wǎng)絡的環(huán)境即可

下載模型的話需要修改代碼，比較復雜一些

下載模型的方法如下：官網(wǎng)：https://hf-mirror.com/sentence-transformers/all-MiniLM-L6-v2/tree/main

• 修改openwebui的代碼，啟動時從本地環(huán)境加載模型 具體修改的位置可以參考報錯，比如加載模型的時候在下面報錯了：

在上面提示的路徑找到utils.py，打開這個文件，大致看一下，修改這行為固定地址：

model_repo_path = "D:\install\sentence-transformers\all-MiniLM-L6-v2"

然后再次啟動，出現(xiàn)如下，就是安裝成功了

默認的運行端口是 8080，所以啟動后，瀏覽器輸入127.0.0.1:8080，就可以使用openwebui了

點注冊，輸入賬號和密碼，第一個賬號默認為管理員，open web ui就可以使用了

總結(jié)

到此這篇關于完全離線搭建openwebui的文章就介紹到這了,更多相關離線搭建openwebui內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家！

最新評論