Ollama模型配置#

在配置 RAGFlow 之前，第一步是准备好本地的 大语言模型（LLM），而 Ollama 是一个非常方便的工具，可以用来在本地运行和管理这些模型。首先，需要在本机上下载并安装 Ollama 平台。安装完成后，接下来就是对环境进行一些必要的配置，以保证虚拟机中的 RAGFlow 可以顺利访问到本地模型。

在配置过程中，有两个环境变量需要特别注意。第一个是 OLLAMA_HOST ，通常设置为 0.0.0.0:11434 。这个设置的作用是让虚拟机可以通过网络访问本机上的 Ollama 服务。如果配置完成后虚拟机无法访问，很可能是本机防火墙拦截了 11434 端口。此时，如果不想直接开放这个端口，也可以通过 SSH 端口转发 来实现访问。完成环境变量配置后，记得重启系统或者终端，使设置生效。

另一个需要配置的环境变量是 OLLAMA_MODELS ，它用于指定模型存储位置。Ollama 默认会将下载的模型放在 C 盘，如果你希望将模型保存到其他盘符或自定义目录，需要通过该环境变量进行调整。

在环境配置完成之后，就可以通过 Ollama 下载所需的模型了。以 DeepSeek 大模型为例，命令非常简单，只需执行 ollama run deepseek-r1:1.5b ，Ollama 就会自动下载并启动该模型，准备好供 RAGFlow 使用。通过这一系列步骤，你就完成了本地 LLM 的准备工作，为后续的 RAGFlow 配置打下了基础。

RAGF项目部署#

RAGFlow 是一个集成本地大语言模型与知识检索的问答系统，能够将本地大模型与外部知识库结合，实现智能问答、内容生成和信息检索的统一管理。它可以直接在本地 Python 环境中运行，但为了保证环境隔离、依赖一致性以及后续维护的便利，通常推荐使用 Docker 容器化部署。

通过 Docker 部署 RAGFlow，可以在独立的容器中运行所有服务，避免因系统环境或依赖冲突导致的问题。同时，容器化也方便对不同版本的模型和服务进行管理和更新，实现快速启动、易于备份和迁移。对于个人用户来说，这种方式能够快速搭建一个可用的本地问答环境；对于团队或服务器环境，则能够保证服务的稳定性和可扩展性。

在容器化环境中，RAGFlow 可以直接连接本地已配置好的 Ollama 服务和 DeepSeek 模型，实现对模型的调用和管理。借助 Docker Compose 或类似工具，还可以一次性启动数据库、RAGFlow 服务以及其他依赖组件，形成一个完整的、独立可运行的问答系统。这种部署方式不仅提高了系统稳定性，还方便在不同机器或环境间迁移，极大地降低了运维成本。

1
git clone https://github.com/infiniflow/ragflow.git

1
$ cd ragflow/docker
2

3
# 可选：切换到稳定版本标签（查看发布记录：https://github.com/infiniflow/ragflow/releases）
4
# git checkout v0.22.1
5
# 这一步确保代码中的 entrypoint.sh 文件与 Docker 镜像版本保持一致
6

7
# 使用 CPU 执行 DeepDoc 任务
8
$ docker compose -f docker-compose.yml up -d
9

10
# 使用 GPU 加速 DeepDoc 任务（需在 .env 文件首行添加 DEVICE=gpu）
11
# sed -i '1i DEVICE=gpu' .env
12
# docker compose -f docker-compose.yml up -d