跳到主要内容

architecture

核对日期:2026-05-13。

1. 架构目标​

本系统优先保证:

  • 输出有依据。
  • 失败可观察。
  • 权限可控制。
  • 成本可估算。
  • 关键动作可回滚。

2. 总体架构​

3. 核心模块​

模块职责输入输出失败处理
UI收集任务、展示结果和引用用户输入请求、反馈表单校验、重试提示
API鉴权、任务管理、限流请求任务结果错误分类、trace id
Context Builder组织指令、上下文和约束任务、检索结果prompt/messages超长截断、缺信息拒答
RAG/工具层检索证据或调用工具query / tool args文档片段 / 工具结果权限过滤、空结果
模型网关调用模型、路由、fallbackmessages原始模型输出超时、重试、降级
Parser结构化解析和校验模型输出可用结果schema 校验失败重试
Trace记录调用、成本、延迟执行事件日志和指标脱敏、采样

4. 数据流​

  1. 用户提交任务。
  2. 系统做身份校验和输入校验。
  3. 系统根据任务构造检索 query 或工具调用参数。
  4. 检索层返回带 metadata 的证据。
  5. Context Builder 组装模型输入。
  6. 模型返回结果。
  7. Parser 做结构化校验。
  8. 系统展示结果、引用、风险提示和反馈入口。

5. 控制流​

6. 权限和审计​

资源或动作权限要求审计字段人工确认
读取公开知识库登录用户user id、doc id、query否
读取内部文档文档权限user id、doc id、permission否
执行业务工具工具级权限tool name、args hash、result status视风险
写入或外发高权限approver、payload summary、trace id是

7. 状态和存储​

数据存储位置保留时间脱敏要求
会话记录[存储][时间]移除敏感字段
任务 trace[存储][时间]参数摘要化
评测结果[存储]长期不含真实隐私数据
失败样例[存储]长期用合成或脱敏样例

8. 回滚和停用​

至少准备:

  • 关闭模型功能的开关。
  • 降级到规则或人工流程的路径。
  • 回滚 prompt 版本的方法。
  • 回滚模型版本或 provider 的方法。
  • 清理错误缓存或污染索引的方法。