叠甲:本地部署是小众选择,绝大多数情形都建议用云厂app或api 手机部署本地模型主流方法: 1️⃣直接部署:例如使用pocketpal,受限于手机内存和算力,参数量很小。比方说iPhone17Pro最大也就是Qwen3.5-9B(q4量化) 2️⃣远程调用本地PC: (1)docker+openwebui (2)手机端app直接调用pc端提供的api(但我测试过很多app效果不好) (3)pc用龙虾(调用本地模型),手机指挥。但这个方式其实不算“本地部署”了,因为手机端使用的都是社媒。 远程调用的前两种方式都需要公网ip,或用tailscale等工具组内网,略麻烦。 最近LM Studio提供了一个更“优雅”的方式,基于LM Link(图2,本质上是tailscale特供版),手机端通过locally ai也可以调用PC上的本地模型(图3),省去了手工打洞的过程,缺点是需要注册个LM账号(用来匹配设备) #人工智能 #本地部署 #本地部署ai #lmstudio #ai