Skip to content

[Bug] CRAG 原生槽的工具续接被派到其他槽,空跳重试 17 次后 502 incomplete_response (1.4.112 / CRAG 3.0.7) #1114

Closed

Description

@panjinhe

现象

CRAG 原生槽在一轮里返回 stop_reason: tool_use,客户端带着对应的 tool_result 续接时,控制面把续接请求派到了另一个 CRAG 槽。新槽不输出任何内容就结束了这一跳,控制面随即换槽重试,最后返回:

{"error":{"type":"upstream_error","code":"incomplete_response","message":"Assistant hop ended without visible output or stop_reason","details":{"upstream_type":"upstream_error","upstream_status":502,"stream":"incomplete"}}}

单个请求的 attempt_count 达到 16–17,耗时 30–60 s。客户端每次重试都是同样的结果,这一会话就卡死在那里。

版本

  • 控制面 v1.4.112(278aacd7),routing.pool.strategy: balanced,当时没有开启会话粘槽。
  • 槽位:CRAG 3.0.7-native-v3(3.0.7-legacy),Claude 订阅 OAuth 账号。
  • 客户端:官方 Claude Code 2.1.325,模型 claude-opus-5-5,adaptive thinking,context_management: clear_thinking_20251015。

生产时间线(同一个 Claude Code 会话,UTC)

时间 槽 结果
06:15–06:17 槽 A 200 end_turn ×3
06:19–06:21 槽 B 200 end_turn ×3
06:26:52 槽 B 200 stop_reason: tool_use(ToolSearch select:WebSearch,WebFetch),native_handoff.handoff_complete: true
06:27:54 槽 C 502 incomplete_response,attempt 17,60.7 s
06:28:27 槽 C 502,attempt 16,30.7 s
06:29:05 槽 C 502,attempt 17,38.3 s

hop_meta.native_handoff 显示:source: crag、provider_complete: false、message_id: null。thinking_owner 记录 converted 5 / dropped 8 / unknown 8。tool_use 是在槽 B 发出的,但续接被派到了槽 C。

补充:用另一个 API key 把同一条请求重放到槽 C,返回 400 tool_result belongs to another tenant。说明 CRAG 会按发出方校验工具回执,续接本来就只能回到原槽、原租户。

用 Claude Code 主请求做最小复现(tool_use 和续接在同一槽)全部 200,所以问题不在 ToolSearch 或 tool_reference 本身。

期望

  1. 如果续接里有 CRAG 原生槽发出的 tool_use_id,应该强制回到发出槽,或者明确等待那个槽,而不是交给 balanced 重新选槽。session_affinity_first 是可选的,而且只是"优先",原槽满了还是会换槽,挡不住这种情况。
  2. 如果确实无法回到原槽:要么让 CRAG 支持用完整历史在新槽冷启动续接(3.0.8-legacy 发行说明里写了"工具续接用已校验的完整历史启动新进程",不确定是否覆盖跨槽、跨账号);要么尽快返回可识别的错误,不要在所有槽上空转 17 次再报 502。
  3. incomplete_response 的 debug 日志里能否带上 CRAG 拒绝的具体原因?目前只有 "hop ended without visible output",没法区分是租户、回执还是其他问题。

另外,同一时间段的 Invalid signature in thinking block 400(历史中的 thinking 来自别的槽或账号)也集中出现在会话频繁换槽之后,可能是同一根因。

Activity

  1. dofastted commented on Nov 17, 2026

    @dofastted
    Owner

    报告时未开启会话粘槽。#1112 新增 routing.pool.session_affinity_first(默认关),开启后续聊(含 tool_result 续接)优先回到原槽并在满载时就地等待;#1168 另修了 SSH 暂断时原 VM 推理会话被丢弃的问题。请升级到 1.4.127+、安装 CRAG 3.1.4 并开启该项,如仍被派到其他槽请重开并附 request id。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions