链路追踪与排查
在 AI 应用开发中，上游请求经常出现偶发网络抖动、模型幻觉、超长延迟或 429 限流。AIO Proxy 内置了企业级的高性能请求追踪系统（Traces），每一次请求的完整生命周期都会被清晰记录。
Trace 核心特性
- 全链路 Span 树：
- 记录从客户端发起连接、AIO Proxy 协议解析、模型候选匹配、向首选 Provider 发送请求、流式传输到最终完成的每一个耗时切片。
- 故障回退可视化：
- 如果一次调用先后尝试了 3 个提供商才成功，Trace 详情会树状展示每一次尝试（Attempt）的提供商 ID、耗时、状态码以及捕获到的具体错误原因。
- 精准关键指标：
- TTFT (Time To First Token)：首字延迟。对于流式交互体验至关重要。
- 总耗时：端到端请求耗时。
- Token 构成：输入 Token、输出 Token、推理/思考 Token (Reasoning Tokens) 以及 Prompt Cache 命中量。
- 完整报文审查 (Wire Payload)：
- 支持在详情抽屉中展开查看客户端发送的原始输入与上游返回的真实响应体，极大加速提示词工程与格式错误排查。
快速检索与过滤
在 Dashboard 的链路列表中，支持以下维度的组合过滤：
- 按提供商 (Provider) 筛选。
- 按模型名 (Model) 筛选。
- 按状态 (Status) 筛选（成功、部分失败后成功、最终失败）。
- 按时间范围或耗时/延迟区间筛选。