终极操作来了,经过摸索,终于实现手机本地部署deepseek两个版本和阿里qwen2.5大模型,并实现图形化访问。具体操作如下: 1、我手机是三星fold4,128+512,感觉运行qwen2.5和deepseek-r1:7b是极限了。再大的模型,手机内存不够了。 2、苹果手机有自己的图形化部署软件,可以搜索下载,好像很简单。 3、我说的是安卓手机的部署。 1)安装termux,这是安卓手机的Linux模拟器。可以安装多种Linux操作系统。 2)在termux下安装ubuntu,很多命令在termux下也可以执行,但大模型部署所需的ollama需要root权限,所以需要在termux下安装ububtu虚拟机,然后在ubuntu下安装ollama。 3)安装好ubuntu,然后安装Python等依赖包。 4)安装ollama,执行ollama serve & 5)使用 ollama run deepseek 命令运行deepseek大模型,如果本地没有大模型文件会先下载。 6)ollama run deepseek默认下载的应该是7b版本。我想下载1.5b的话,要运行ollama run deepseek:1.5b 命令。或者用pull命令下载。 7)这时候安装成功就可以在命令行模式下使用deepseek大模型进行问答了。 8)在手机用图形界面也可以访问ollama下的大模型,需要安装chatbox。 9)用chatbox的话,还是需要先运行termux下ubuntu下的ollama serve & 命令,但不要在运行ollama run指令,因为要用chatbox调用,如果再在termux运行,手机就崩溃了。 10)ollama serve &运行成功后,打开手机浏览器访问http://127.0.0.1:11434 11)浏览器返回 ollama is run就可以了 12)打开chatbox设置页面,设置大模型地址为http://127.0.0.1:11434,下拉框选择使用哪个大模型。这里面的选项都是在termux下用ollama提前下载好的。 13)开始聊天吧。 1.5b运行速度还挺快,7b和qwen2.5 运行速度一样,有点慢但可以运行。 安装指令都可以用deepseek app去提问,然后按照操作执行就行。其实不难,难在摸索,弄明白termux 和termux模拟环境下的ubuntu,以及ollama的接口调用。 小技巧: 1、cat ./txttest | ollama run deepseek-r1:1.5b 把txttest里的文字内容作为deepseek的输入,让deepseek做阅读理解 2、 可以把中科大镜像作为下载源,速度会比较快。 #大模型 #玩机技巧 #deepseek #手机部署deepseek #qwen25 #手机部署大模型 #ollama #chatbox #实用数码技巧分享