这篇文章用于帮助你自己判断问题和整理需求。不同服务器、代码框架和第三方平台配置可能不同,生产环境修改前应先备份并验证。
浏览器不要直接调用模型密钥
- 前端把消息发到自己的后端,由后端鉴权、限流并调用模型。
后端负责业务边界
- 系统提示词、知识库检索、用户配额、模型选择和工具权限都应在服务端控制。
知识库负责“知道什么”
- 把产品资料、FAQ 和规则做成检索源,模型找不到依据时应允许回答“不确定”。
人工接管负责关键场景
- 投诉、付款、法律/医疗等高风险问题不应完全依赖自动模型。
常见问题
接 AI 客服一定要知识库吗?
不是,但涉及具体产品和企业资料时,有知识库更容易控制回答依据。
前端可以流式显示吗?
可以,SSE/WebSocket 或支持流式的 HTTP 响应都能实现。
