文章详情

专注互联网科技,赋能企业数字化发展

这是一篇教程:如何在手机上用上本地大模型

作者:这是一篇教程:如何在手机上用上本地大模型

昨天折腾了一天,问题终于解决了 如果你问我本地大模型有什么用? 回答:不给钱,速度还挺快,可自己二次调教,可越狱问些限制级问题..... 下面是步骤 准备: 一台性能还算可以的电脑 一部手机 一台有公网ip的服务器 步骤: 电脑上: ollama安装 ollama下载模型 设置ollama的host 安装frpc,配置好公网服务器的ip和端口 服务器上: 安装frps,设置端口启动服务即可 手机上: 安装一个客户端,配置好frps的服务器端口 我这里用的reins 整个流程就完了!!! 是不是很简单 遇到的坑! macos6000端口死活映射不出去,用默认的11434即可。 ollama默认不使用路由器ip,需要改host环境变量。 新版本frp的配置文件使用的toml格式。 其他坑我忘了,就这样吧! 码字不易,都是经历! 觉得有用,请给个一键三连,谢谢大家 #独立开发 #程序员 #AI人工智能 #大模型 #ollama #手机大模型 #llm #本地部署 #内网穿透

返回新闻列表