ubuntu 安装配置 ollama ,添加open-webui

ubuntu 安装配置 ollama ,添加open-webui

    正在检查是否收录...

ubuntu 安装配置 ollama

下载安装 [https://ollama.com/download](https://ollama.com/download) 一 安装方法 1 命令行下载安装 一 安装方法 2 , 手动下载安装 二 配置模型下载路径 三 运行 1 启动 ollama 服务 2 运行大模型 四 添加开机自启服务 ollama serve 1 关闭 ollama 服务 2 修改配置文件 五 重新加载配置 六 重启ollama serve 七 查看模型文件信息路径 八 添加open-webui 方法1,docker 拉取现有的镜像,创建容器运行 方法2,open-webui源码构建docker镜像

下载安装 https://ollama.com/download

一 安装方法 1 命令行下载安装
curl -fsSL https://ollama.com/install.sh | sh 
一 安装方法 2 , 手动下载安装

1 手动下载 https://ollama.com/install.sh 这个文件

2 注释掉下载部分 curl xxxx 手动下载ollama-linux-{ARCH}

status "Downloading ollama..." #curl --fail --show-error --location --progress-bar -o $TEMP_DIR/ollama "https://ollama.com/download/ollama-linux-${ARCH}${VER_PARAM}" 

我电脑intel/amd cpu 所以 {ARCH} = amd64
浏览器下载 https://ollama.com/download/ollama-linux-amd64
放在 install.sh 同目录下

3 注释掉 #$SUDO install -o0 -g0 -m755 $TEMP_DIR/ollama $BINDIR/ollama
改为下面一行:

status "Installing ollama to $BINDIR..." $SUDO install -o0 -g0 -m755 -d $BINDIR #$SUDO install -o0 -g0 -m755 $TEMP_DIR/ollama $BINDIR/ollama $SUDO install -o0 -g0 -m755 ./ollama-linux-amd64 $BINDIR/ollama 

4 运行 install.sh ,安装

./install.sh 

需要sudo 权限, 安装完毕

二 配置模型下载路径

gedit .bashrc 

然后添加一行 配置 OLLAMA_MODELS 环境变量自定义路径

### ollama model dir 改为自己的路径 export OLLAMA_MODELS=/path/ollama_cache 

添加目录权限:

chown `你的linux用户:你的linux用户组` /path/ollama_cache 

如果开始没配置OLLAMA_MODELS ,默认路径是

/usr/share/ollama/.ollama/models 

如果修改了OLLAMA_MODELS环境变量,把之前下载的 OLLAMA_MODELS 目录变量下的两个目录

blobs manifests 

复制到新的OLLAMA_MODELS目录变量下 ,即可

三 运行

1 启动 ollama 服务
ollama serve 
2 运行大模型

ollama run <模型名称>
运行 千问 大模型

ollama run qwen 

模型下载到刚才的OLLAMA_MODELS 环境变量下

=========================================================================================================

四 添加开机自启服务 ollama serve

1 关闭 ollama 服务
 service ollama stop 
2 修改配置文件
sudo gedit /etc/systemd/system/ollama.service 

1 把User改为 你的linux系统用户名 ,Group 改为 你的linux用户组
2 添加 Environment="OLLAMA_MODELS=/path/ollama_cache" 改为你的路径

[Unit] Description=Ollama Service After=network-online.target [Service] ExecStart=/usr/local/bin/ollama serve User=你的linux用户名 Group=你的linux用户组 Restart=always RestartSec=3 Environment="OLLAMA_MODELS=/path/ollama_cache" Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/snap/bin" [Install] WantedBy=default.target 

五 重新加载配置

sudo systemctl daemon-reload 

六 重启ollama serve

sudo systemctl start ollama 

七 查看模型文件信息路径

ollama show <模型> --modelfile

ollama show qwen --modelfile 

八 添加open-webui

确保网络代理关闭 ubuntu 系统,设置,网络代理,选择->关闭

参考 官方文档 https://docs.openwebui.com/getting-started/

以下容器 运行之后,需要等一会,再访问 http://127.0.0.1:8080/
注册 open-webui 账号然后用账号登录,效果如下:

方法1,docker 拉取现有的镜像,创建容器运行

OLLAMA_BASE_URL 指定 ollama 服务地址 ,可以是本地也可以是远端

docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main 
方法2,open-webui源码构建docker镜像

下载open-webui 源码
https://github.com/open-webui/open-webui

编译运行open-webui 的 Docker 镜像

./run-compose.sh --enable-gpu --build 

总结

### Ubuntu 安装配置 Ollama 指南
#### 1. 下载安装
访问 [https://ollama.com/download](https://ollama.com/download) 下载 Ollama。
#### 2. 安装方法
##### 方法1:命令行下载安装
```bash
curl -fsSL https://ollama.com/install.sh | sh
```
##### 方法2:手动下载安装
1. 手动下载 `https://ollama.com/install.sh` 文件。
2. 修改 `install.sh` 脚本,注释掉自动下载部分,并手动下载对应架构的 `ollama-linux-{ARCH}` 文件(如 `amd64`)。
3. 修改脚本中的安装命令,指向手动下载的 `ollama-linux-amd64` 文件。
4. 运行 `./install.sh` 完成安装。
#### 3. 配置模型下载路径
- 编辑 `.bashrc` 文件,添加 `OLLAMA_MODELS` 环境变量,指定模型下载路径。
- 赋予新路径适当的权限。
#### 4. 运行
- **启动 Ollama 服务**:`ollama serve`
- **运行大模型**:`ollama run <模型名称>`(如 `ollama run qwen`)
#### 5. 添加开机自启服务
- **关闭 Ollama 服务**:`service ollama stop`
- **修改配置文件**:编辑 `/etc/systemd/system/ollama.service`,设置正确的用户、用户组及 `OLLAMA_MODELS` 环境变量。
- **重新加载配置**:`sudo systemctl daemon-reload`
- **重启 Ollama 服务**:`sudo systemctl start ollama`
#### 6. 查看模型文件信息路径
使用 `ollama show <模型> --modelfile` 命令查看模型文件的具体路径。
#### 7. 添加 Open-WebUI
- 确保 Ubuntu 系统网络代理已关闭。
- **方法1:Docker 拉取现有镜像**
- 使用 Docker 命令拉取并运行 Open-WebUI 容器,指定 `OLLAMA_BASE_URL` 为 Ollama 服务地址。
- **方法2:源码构建 Docker 镜像**
- 从 GitHub 下载 Open-WebUI 源码(https://github.com/open-webui/open-webui)。
- 使用 `./run-compose.sh` 脚本编译并运行 Docker 容器。
通过以上步骤,您可以在 Ubuntu 系统上成功安装、配置 Ollama 并集成 Open-WebUI,以便更方便地管理和使用大模型。 llamawebuiweblinuxdocdockerstemurl大模型bashgithub命令行git网络代理用户名eloappsnapgpushare
  • 本文作者:李琛
  • 本文链接: https://wapzz.net/post-20320.html
  • 版权声明:本博客所有文章除特别声明外,均默认采用 CC BY-NC-SA 4.0 许可协议。
本站部分内容来源于网络转载,仅供学习交流使用。如涉及版权问题,请及时联系我们,我们将第一时间处理。
文章很赞!支持一下吧 还没有人为TA充电
为TA充电
还没有人为TA充电
0
  • 支付宝打赏
    支付宝扫一扫
  • 微信打赏
    微信扫一扫
感谢支持
文章很赞!支持一下吧
关于作者
2.3W+
5
0
1
WAP站长官方

Gemini Pro, Claude 3/3.5, GPT4 turbo/4o, 文心一言, GLM4系列, 月之暗面Kimi, Llama3系列设计推理大比拼

上一篇

【全网最全】AIGC产品经理面试高频100题答案解析

下一篇
  • 复制图片
按住ctrl可打开默认菜单