跳到主要内容

获取 LTM 延迟统计

GET 

/ltm/spaces/:space_id/stats/latency

这个 Space 在一段时间内的延迟,按对用户请求的影响排列:召回延迟、写入到可召回,以及写入 Event 的确认。权限和读取记忆相同。

  • 召回延迟(recall):Search 和 Context 在用户这一轮对话里同步返回,是最直接影响体验的延迟。每个接口分两行:自己直接调用(api)和托管 Chat 召回(managed_chat),各自给出请求数、错误数和 P50 / P95 / P99。
  • 写入到可召回(derivations):写入在后台处理,按记忆类型给出从写入 Event 到提炼把记忆写好所需时间的 P50 / P95 / P99,只统计写入了记忆的提炼,重新提炼不计入。
  • 写入 Event 的确认(event_write):写入在提炼开始前就返回,可用来设置客户端超时。
  • 接口延迟从请求到达开始计时,到返回响应为止。分位数只统计成功的请求,4xx 和 5xx 单独计数;认证失败或 Space 不存在的请求不计入。
  • 统计窗口默认最近 7 天,最长 90 天;请求记录保留 90 天。没有样本时,分位数为 null。

Request​

Responses​

窗口内的延迟统计。

自助排查