Ollama在Docker下的安裝與配置詳細(xì)教程
一、拉取 Ollama 鏡像
方式一:Docker 軟件在可視化界面中搜索并下載
方式二:官網(wǎng)推薦直接使用下面的指令拉取下載鏡像,本項(xiàng)目只需在CPU上即可運(yùn)行。
# CPU 或者 Nvidia GPU docker pull ollama/ollama # AMD GPU docker pull ollama/ollama:rocm
注:如果讀者想要使用具體的版本的鏡像,明確運(yùn)行環(huán)境,可以使用下面的指令:
# CPU 或 Nvidia GPU下載ollama 0.3.0 docker pull ollama/ollama:0.3.0 # AMD GPU下載ollama 0.3.0 docker pull ollama/ollama:0.3.0-rocm
二、運(yùn)行ollama鏡像
方式一:Docker在可視化界面中運(yùn)行鏡像
- 下載完成后,可以在
Images
中找到Ollama
鏡像,點(diǎn)擊run
標(biāo)識(shí)即可運(yùn)行,注意運(yùn)行前在彈出的可選設(shè)置里面,選定一個(gè)端口號(hào)(如8089)。
- 在
Containers
中找到該鏡像,點(diǎn)擊OLLM
即可進(jìn)入 Ollama 界面
- 驗(yàn)證安裝完成,在
Exec
處輸入:
ollama -h
輸出如下:即表示安裝成功??
Large language model runner Usage: ollama [flags] ollama [command] Available Commands: serve Start ollama create Create a model from a Modelfile show Show information for a model run Run a model pull Pull a model from a registry push Push a model to a registry list List models ps List running models cp Copy a model rm Remove a model help Help about any command Flags: -h, --help help for ollama -v, --version Show version information
- 終端使用 Ollama :
以下是 Ollama 使用常見的指令:
ollama serve #啟動(dòng)ollama ollama create #從模型文件創(chuàng)建模型 ollama show #顯示模型信息 ollama run #運(yùn)行模型 ollama pull #從注冊(cè)表中拉取模型 ollama push #將模型推送到注冊(cè)表 ollama list #列出模型 ollama cp #復(fù)制模型 ollama rm #刪除模型 ollama help #獲取有關(guān)任何命令的幫助信息
ollama run llama3
下載速度取決于你的帶寬,下載完畢即可使用?記得使用
control + D
退出聊天
方式二:命令行啟動(dòng)
- CPU 版本:
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
總結(jié)
到此這篇關(guān)于Ollama在Docker下的安裝與配置的文章就介紹到這了,更多相關(guān)Ollama在Docker下安裝與配置內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Docker安裝ClickHouse并初始化數(shù)據(jù)測(cè)試
clickhouse作為現(xiàn)在流行的數(shù)據(jù)分析數(shù)據(jù)庫,非常熱門,docker如何安裝ClickHouse,很多朋友并不是很明白,今天小編抽空給大家分享一篇教程關(guān)于Docker安裝ClickHouse并初始化數(shù)據(jù)測(cè)試的問題,一起看看吧2021-06-06使用Docker搭建Apache Kafka環(huán)境的詳細(xì)過程
這篇文章主要介紹了使用Docker搭建Apache Kafka環(huán)境,本文使用Docker技術(shù)創(chuàng)建單個(gè)Kafka節(jié)點(diǎn)和Kafka集群環(huán)境,并且使用可視化工具連接服務(wù)查看代理服務(wù)器的配置信息,需要的朋友可以參考下2022-10-10Deepin使用docker安裝mysql數(shù)據(jù)庫過程詳解
這篇文章主要介紹了Deepin使用docker安裝mysql數(shù)據(jù)庫過程詳解,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-06-06Docker部署后端項(xiàng)目的實(shí)現(xiàn)步驟
本文主要介紹了Docker部署后端項(xiàng)目的實(shí)現(xiàn)步驟,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2024-03-03