这类需求真正要解决什么
简单把用户消息转发给模型很容易失控：上下文会越来越长、成本不可控、模型失败无兜底，也无法限制工具权限。
可以交付的内容
AI 多轮对话与上下文
模型 API 与可切换配置
知识库 / RAG 查询
限额、冷却与成本控制
失败降级和人工提示
工具调用白名单与日志
实施顺序
- 定义 AI 可以回答和不能做的范围
- 设计上下文保留长度和用户级限额
- 需要业务数据时通过明确工具接口访问
- 记录模型错误并准备备用模型或固定回复
不建议这样做
- 把 API Key 写进前端
- 不限制上下文导致成本持续增长
- 允许模型调用任意系统命令
常见问题
可以同时接多个 AI 平台吗？
可以，可按优先级、成本或故障切换设计路由。
机器人会记住所有聊天吗？
是否保存由业务设计决定，通常只保留完成任务所需的最小上下文更稳妥。