最近一直在研究AI,特别想在本地搭建一个知识库问答系统。上网对比了几款RAG框架,最后选择了RAGFlow,因为它上手简单,功能强大。 一、环境准备 1.1 安装Docker 我用的是Win10系统,通过WSL2来安装Docker。 1.2 配置Docker国内镜像源 国内拉取Docker镜像超慢,所以要配置国内镜像源。编辑`/etc/docker/daemon.json`文件,添加几个国内镜像源地址,比如docker.hpcloud.cloud、docker.m.daocloud.io等,然后重启Docker服务,速度提升明显! 二、安装RAGFlow 2.1 下载RAGFlow源码 从GitHub或GitCode上下载RAGFlow的源码,我选了GitHub,用`git clone`命令直接拉取,超快! 2.2 启动RAGFlow服务 进入项目目录,修改`.env`文件,把镜像版本改成了带embedding模型的`v0.17.2`,然后用`docker compose`命令启动服务。如果机器支持GPU,还能用GPU加速,效率更高! 三、配置OLLAMA模型 3.1 安装OLLAMA 拉取OLLAMA镜像,运行容器,别忘了配置环境变量`OLLAMA_HOST`为`0.0.0.0:11434`,这样别的应用就能访问了。 3.2 在RAGFlow中添加OLLAMA模型 登录RAGFlow,添加OLLAMA模型时,一定要用物理地址IP,像`192.168.xxx.xxx:11434`,不能用`127.0.0.1`或`localhost`,不然会报错。 四、配置知识库与问答 4.1 新建知识库 在RAGFlow里新建知识库,上传Word、PDF等各种格式的文档,创建助手并关联知识库。 4.2 进行问答测试 关联知识库后,助手回答更准确,还能引用知识库里的内容 参考链接: - [RAGFlow GitHub](https://github.com/infiniflow/ragflow) - [RAGFlow GitCode](https://gitcode.com/gh_mirrors/ra/ragflow) - [Docker国内镜像源](https://cloud.tencent.com/developer/article/2483548) #AI #知识库 #本地搭建 #RAGFlow