1. 环境准备:搞定Ollama的跨平台安装
想在本地电脑上跑一个像通义千问这样的大模型,听起来是不是挺酷的?以前这玩意儿都得依赖云端服务器,现在有了Ollama,咱们在自己的Mac或者Linux机器上就能轻松玩转。我折腾了挺久,发现这工具确实把本地部署的门槛降到了最低,哪怕你之前没怎么接触过AI模型,跟着步骤走也能搞定。
Ollama本质上是一个帮你管理、运行大模型的“引擎”。它把模型下载、环境配置这些繁琐的活儿都打包好了,你只需要几条简单的命令。不过,第一步的安装,尤其是在网络环境不太理想的情况下,可能会遇到点小麻烦。别担心,我把自己在MacOS和Ubuntu系统上踩过的坑和总结的技巧都分享出来,保证你能顺利迈出第一步。
1.1 MacOS安装:拖拽与命令行的双重奏
对于Mac用户来说,安装Ollama可能是最省心的。官方提供了两种方式,图形界面和命令行,你可以任选其一。
第一种是图形化安装。直接去Ollama的官网,点击那个大大的“Download”按钮,选择macOS版本。下载下来的是一个标准的 .dmg 磁盘映像文件。双击打开,你会看到一个简单的窗口,里面只有一个Ollama的图标和一个指向“应用程序”文件夹的箭头。没错,你只需要把Ollama的图标拖拽到“应用程序”文件夹里,安装就完成了。之后在“启动台”或者“应用程序”文件夹里找到它,点击运行。第一次启动时,系统可能会询问你是否允许网络连接,点击允许就行。这时,你会在屏幕顶部的菜单栏看到一个Ollama的小图标,说明它已经在后台默默运行了。
第二种是命令行安装。如果你更喜欢终端操作,或者需要自动化脚本部署,这个方法更合适。打开你的终端(Terminal),直接输入并执行下面这条命令:
curl -fsSL https://ollama.ai/install.sh | sh
这条命令会从官网下载一个安装脚本并自动执行。整个过程是全自动的,包括下载Ollama核心程序、将其安装到系统路径(比如 /usr/local/bin)、以及将其设置为开机启动的服务。安装完成后,你可以在终端里输入 ollama --version 来验证,如果显示了版本号(比如 ollama version 0.1.xx),那就恭喜你,安装成功了。
我个人实测下来,在Mac上两种方式都非常稳定。图形化方式适合所有用户,无脑操作;命令行方式则更“极客”,也方便后续写脚本集成。安装完成后,Ollama会作为一个后台服务(Daemon)运行,你不需要一直开着那个应用窗口。
1.2 Linux安装:脚本修改与离线部署实战
Linux下的安装,自由度更高,但遇到网络问题的概率也更大。官方同样提供了一键安装脚本,就是上面Mac部分提到的那条 curl ... | sh 命令。但在实际环境中,尤其是国内网络,直接运行这个脚本可能会因为下载速度极慢甚至超时而失败。
这时候,离线安装或者叫预下载安装就成了必备技能。我的经验是,别让脚本去网上现抓安装包,我们自己提前准备好。具体操作分几步走:
首先,我们手动把安装脚本下载下来看看:
wget https://ollama.ai/install.sh
下载后,用你喜欢的文本编辑器(比如 vim 或 nano)打开这个 install.sh 文件。我们需要


6853

被折叠的 条评论
为什么被折叠?



