Ollama离线安装的一种方法Ubuntu环境

Step3-VL-10B-Base阶跃星辰轻量级多模态基础模型

Step3-VL-10B-Base阶跃星辰轻量级多模态基础模型

Llama
文本生成
图像识别

视觉理解:图像识别、OCR、实体定位、计数、空间理解、GUI 交互 多模态推理:看图问答、图文理解、复杂逻辑推理(STEM、数学、代码)

前面我们已经本地部署了open webui,现在我们来安装ollama;安装的过程中发现一些问题。网上各种搜索最终解决了,现在把这个过程整理下。

在线安装

Ollama 官方网站提供了Linux 平台安装指南,

打开终端,执行以下命令下载安装脚本:

curl -fsSL https://ollama.com/ollama_install.sh | sh

离线安装

由于网络原因经常下载失败,通过在curl 命令中添加 -v 参数,我们发现 Ollama 安装过程中需要从 github下载数据:

curl -L -v https://ollama.com/download/ollama-linux-amd64.tgz

最终发现是从:

https://github.com/ollama/ollama/releases/latest/download/ollama-linux-amd64.tgz

下载;

我们看下ollama的安装脚本 install.sh

第82行是下载ollama的脚步,

curl --fail --show-error --location --progress-bar \
    "https://ollama.com/download/ollama-linux-${ARCH}.tgz${VER_PARAM}" | \
    $SUDO tar -xzf - -C "$OLLAMA_INSTALL_DIR"

只要把这个地址替换就可以,就可以的完成安装;

最最简单的方法,对脚本不需要改动很多,我们只需要本地部署一个服务器,把ollama的压缩包放到服务上

1.下载ollama压缩包到本地

我们可以通过github 加速服务先把ollama下载到本地,跳过下载过程完成安装。

常用的加速服务有 https://ghfast.top 、 https://gh-proxy.com,或其他类似可网上搜索。

我们用迅雷下载到本地:

复制加速地址:https://ghfast.top/https://github.com/ollama/ollama/releases/latest/download/ollama-linux-amd64.tgz

到迅雷,很快就可以下载到本地

2.安装nginx服务器

Ubuntu上我们安装nginx

apt-get install nginx

安装完成,浏览器输入本机ip看一下 http://127.0.0.1

出现如下的页面,表示nginx安装完成

查看nginx的配置文件 /etc/nginx/sites-enabled/default 

我们发现,默认的服务根地址位置是 /var/www/html

现在把从迅雷下载的ollama-linux-amd64.tgz文件放到这个目录

3.修改ollama的的下载地址

修改ollama_install.sh的第82的ollama下载位置为我们自己服务的地址:

curl --fail --show-error --location --progress-bar \
    "http://127.0.0.1/ollama-linux-${ARCH}.tgz${VER_PARAM}" | \
    $SUDO tar -xzf - -C "$OLLAMA_INSTALL_DIR"

4.安装ollama

最后我们执行安装脚本

sh ollama_install.sh

很顺利的安装 ollama

这里的nginx服务器,可以是内网的任意一台电脑,不一定是本机上安装

您可能感兴趣的与本文相关的镜像

Step3-VL-10B-Base阶跃星辰轻量级多模态基础模型

Step3-VL-10B-Base阶跃星辰轻量级多模态基础模型

Llama
文本生成
图像识别

视觉理解:图像识别、OCR、实体定位、计数、空间理解、GUI 交互 多模态推理:看图问答、图文理解、复杂逻辑推理(STEM、数学、代码)

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值