在上一篇的Dify部署的基础上:【LLM Agents体验 2】利用Dify本地部署Qwen2.5:7B大模型的安装指南
可以从外网穿透访问Dify+Qwen2.5:7B模型进行对话,如果计算机性能可以,可以用参数规模更大的模型效果更好。
1. Cpolar官网下载
首选,在官网进行注册:
其次,点击下载Win版本的Cpolar软件:
双击默认安装即可。
安装完之后,用管理员权限打开cmd窗口启动其服务:
注意安装服务遇到“ Valid service actions err: Failed to install Cpolar Service: The stub received bad data.”,进行以上操作即可:
cpolar service uninstall
cpolar service stop
cpolar service install
cpolar service start
启动service正常之后看到"服务”中的Cpolar Service正在运行:
2. 打开桌面上的Cpolar Web UI图标,或者浏览器直接输入http://localhost:9200/ ,登录账户配置外网的隧道。
首选创建隧道,点击“更新”:
然后在隧道列表中点击启动,处于Active激活状态即可:
最后,查看对外公网随机生成的I网址(网址为24小时有效期):
在浏览器输入“https://7c406310.r2.cpolar.top/apps” (XXX终点站的网址),访问布置的大模型:


安装完成,大功告成!!!
参考资料:
1. 本地搭建AI开发平台Dify并使用Ollama添加大语言模型保姆级教程-CSDN博客
2. Cpolar快速入门教程:Windows系列 - cpolar 极点云官网

1219

被折叠的 条评论
为什么被折叠?



