这篇文章用于帮助你自己判断问题和整理需求。不同服务器、代码框架和第三方平台配置可能不同,生产环境修改前应先备份并验证。
RAG 解决的不是模型训练问题
- 它让系统在回答前先从你的资料里找相关片段,再把片段交给模型生成答案。
文档切分决定检索质量
- 一整本 PDF 当一个块太大,句子切得太碎又没有上下文,需要按标题、段落和语义设计。
召回比漂亮回答更重要
- 如果检索到错误资料,模型往往会很自信地基于错误上下文回答。
需要评估问题集
- 准备真实用户问题,记录是否召回正确文档、是否引用正确、无资料时能否拒答。
常见问题
RAG 就是向量数据库吗?
不是。向量数据库只是检索实现之一,RAG 还包括切分、检索、重排、提示词和生成。
资料很多会不会很贵?
主要成本取决于嵌入、存储、检索和每次发送给模型的上下文长度,可通过增量更新控制。
