从 NowFind 看 SSE 长连接与断线恢复设计
在 AI 对话这类长时间流式输出场景中,SSE 的难点往往发生在连接建立之后:模型还在生成,浏览器却断线了;用户重新打开页面,怎样补回中间的消息?连接一直收到心跳,为什么仍然会关闭?
NowFind 的实现将这些问题拆成三个部分:连接层负责发送与保活,消息层负责历史保存与回放,业务层负责生成任务的生命周期。理解这三层之间的关系,比单独研究一个心跳定时器更有价值。
本文根据《NowFind SSE 长连接与断线恢复实现分析》整理,分析基准日期为 2026 年 10 月 10 日。实现细节、默认参数和 Git 演进记录均来自该文档,本次整理未重新核对后端源码,也未执行断网实验。客户端重连逻辑、线上通道模式及网关配置尚未核实。
一、把连接、消息和业务分开
如果后台生成一个片段,就直接写入当前浏览器的响应流,那么连接断开后,后续内容就失去了接收方。若同时把连接异常当成业务取消,用户重连还可能触发重复生成。
NowFind 采用的思路是:后台先发布到消息通道,再由订阅者转发到 SSE 连接。
flowchart LR
A[后台业务或模型生成] --> B[消息通道发布]
B --> C[Redis Stream 历史]
C --> D[Stream 消费或 Hybrid 订阅]
D --> E[Spring SseEmitter]
E --> F[浏览器]
G[连接心跳] --> E
A --> H[Redis 业务存活标记]
F -->|重连并携带恢复位置| D三个核心层次分别承担不同职责:
| 层次 | 核心类或接口 | 职责 |
|---|---|---|
| 连接层 | NcSpringSseConnection | 封装 SseEmitter,管理发送、心跳和关闭回调 |
| 消息层 | MessageChannel | 发布、保存、订阅和回放消息 |
| 业务层 | AbstractMessageStreamIssue | 异步执行业务,处理生成中、已完成与失活状态 |
浏览器断线,取消的是订阅
原分析记录的关闭回调如下:
sseConnection.onClose(() -> messageChannel.cancel(topicId, sessionId));它取消的是本次浏览器订阅,不直接取消后台生成任务。普通业务消息发送失败也走取消当前订阅的路径,避免把网络异常当成业务正常完成。
只要后台任务仍然运行,它就可以继续向 Redis 发布消息。重新建立连接后,消费者从历史中恢复,再继续接收后续消息。对于已经处于 REPLAYING 状态的消息,业务层只创建消费连接,不再次启动同一业务。
正常结束则由生产端负责:更新状态为 FINISHED,发布 message_end,并在 finally 中设置历史完成后的保留时间、取消后台心跳。消费端收到结束消息后,结束订阅并关闭 SSE。
因此,这套设计能够让浏览器连接与后台任务拥有不同的生命周期。但它没有保存模型生成的执行现场;后台进程被终止后,不能据此认定原任务可以无损续跑。
二、两种心跳分别解决什么问题
NowFind 同时存在连接心跳和业务心跳。两者周期相同,目的却不同。
| 心跳 | 写入目标 | 默认周期 | 作用 |
|---|---|---|---|
| SSE 连接心跳 | 浏览器响应流 | 5 秒 | 让连接持续有数据流动,减少空闲断线 |
| 后台业务心跳 | Redis 存活标记 | 5 秒,标记 TTL 为 10 秒 | 判断生成任务是否仍然存活 |
连接心跳:持续发送,不代表无限续命
NcSpringSseConnection 创建 SseEmitter(timeout) 后,立即启动周期任务。原分析中的核心片段为:
this.emitter = new SseEmitter(timeout);
scheduler.scheduleAtFixedRate(() -> {
try {
emitter.send(SimpleSseDTO.builder()
.eventType("ping")
.text("ping")
.build());
} catch (Exception e) {
cancelHeartbeat();
completeWithError(e);
}
}, 0, 5000, TimeUnit.MILLISECONDS);这里的 eventType("ping") 是发送数据中的业务字段,没有设置为 SSE 协议中的具名事件 event: ping。阅读这段代码时,要区分消息体字段与 SSE 帧的协议字段。
调度器由 SseConnectionManager 共享,包含 3 个线程;每个连接有自己的定时任务,无需为每个连接创建专用心跳线程。
连接完成、超时、报错或主动关闭时,都会取消心跳。关闭通知通过 AtomicBoolean 保证只执行一次,再调用资源释放回调,避免多个关闭入口重复清理。
持续发送数据有助于减少代理按空闲时间关闭连接,但实际效果仍取决于代理缓冲、网关设置和网络环境。它无法阻止客户端退出、服务重启或代码主动结束连接。
业务心跳:识别失活任务
后台任务每 5 秒更新 Redis 中的 n_f_a_b_h_{messageId} 标记,TTL 为 10 秒。
NowFindChatLifeService.isZombieMessage 对 REPLAYING 状态检查这个标记;标记不存在时,将消息判定为僵尸消息。流处理的前置检查会把状态重置为 INIT,当前连接返回。
这一机制用于识别“状态显示还在生成,但后台任务已经失活”的情况。它既不会直接续期浏览器连接,也不会自动恢复模型执行现场。
三、断线恢复的核心:历史与游标
心跳解决空闲保活,历史和恢复位置才决定断线后能补回什么。
NowFind 通过 SwitchableMessageChannel 选择消费模式,配置项为 nowfind.agent.sse.message-channel.mode。原分析记录的代码默认值是 STREAM,线上是否覆盖该配置尚未确认。
| 项目 | Stream 模式 | Hybrid 模式 |
|---|---|---|
| 历史保存 | Redis Stream | Redis Stream |
| 实时消费 | 异步 XREADGROUP | Pub/Sub 通知后读取 Stream |
| 活跃订阅的恢复位置 | 按 lastMessage 内容查找 | 优先 Last-Event-ID,兼容 lastMessage |
| 等待资源 | 每个订阅有在途阻塞读 | 同一 Pod 内同 topic 复用通知监听 |
| 无通知时的处理 | 读超时后继续下一轮 | 默认每 15 秒补读 Stream |
当前统一发布入口调用 Hybrid 发布逻辑:先写 Stream,再发布通知。Stream 消费者仍可读取同一份历史,因此发布路径和消费模式可以分别理解。
Stream:异步阻塞读与内容断点
RedissonStreamMessageChannel 使用 readGroupAsync,每批最多读取 100 条,单轮 Redis 阻塞等待为 15 秒。没有消息且未达到空闲阈值时,继续下一轮读取。
这里的 15 秒是一次 Redis 读取的等待时间,不是 SSE 连接的寿命。异步读取也不等于没有资源成本:无需一条业务线程持续阻塞,每个订阅仍然占用 Redis 阻塞读取资源。
收到消息后,处理会被投递到 messageChannelExecutor,避免在 Netty 事件线程执行重活。独立的 SSE Stream 读取客户端则隔离了阻塞读取对其他 Redis 请求的影响。
恢复位置有一个容易忽略的限制:该实现没有覆盖 subscribeFrom,接口默认实现只提取 lastMessage,按消息 JSON 内容查找起点。因此,即使请求携带了 Last-Event-ID,活跃 Stream 订阅也不会直接使用这个游标;没有匹配内容时,会从头回放。
Hybrid:Stream 负责历史,Pub/Sub 负责通知
Hybrid 的消息路径分为两步:
- 将消息追加到
sse:topic:{topicId},保存历史。 - 向
sse:notify:{topicId}发布 Stream ID,通知消费者读取。
同一 Pod 内,相同 topic 的 SSE 订阅复用一个 topic listener。新订阅先恢复历史,再接收后续消息;默认每 15 秒补读 Stream,补偿 Pub/Sub 通知遗漏。
这个组合的关键在于:通知可以遗漏,恢复依据仍然是 Stream 中保留的历史。
业务事件通过 SSE id 携带带 topic 范围的 Stream 游标。重连请求中的 Last-Event-ID 由 RedisStreamMessageStore.resolveCursor 解析;游标不可用时,兼容按 lastMessage 查找。
相较于消息内容,游标提供了更明确的位置标识。但后端提供这个入口,并不意味着客户端已经实现自动重连、游标保存和恢复请求。这部分需要结合客户端实现核对。
慢客户端:限制积压,再依靠恢复
Hybrid 为单连接设置了有界等待队列,默认上限为 1000 条。超过上限时断开该订阅,依靠历史和客户端重连恢复,避免无限积压内存。
这并不构成端到端“恰好一次”保证。客户端仍需要正确处理重放和去重,尤其是在连接断开时无法确定最后一条消息是否已经被完整处理的情况下。
四、恢复能力有时间窗口
这套机制提高了长时间流式输出的稳定性,但连接仍然有明确的结束条件。
| 条件 | 原分析记录的行为 |
|---|---|
| 单次 SSE 连接达到超时 | 主要业务入口传入 20 分钟超时,触发关闭 |
| Stream 订阅连续 5 分钟无业务消息 | 结束订阅,由完成回调关闭 SSE |
生产端发布 message_end | 正常结束连接 |
| 心跳或业务消息发送失败 | 关闭连接或取消当前订阅 |
| Hybrid 等待队列超过上限 | 断开当前订阅,等待客户端恢复 |
| 网络中断或服务进程终止 | 当前连接无法继续维持 |
连接 ping 不会更新 Stream 订阅的业务消息活跃时间。所以浏览器即使每 5 秒收到一次心跳,也仍然可能因连续 5 分钟没有业务消息而被关闭。
历史 TTL 决定还能补回多少
历史也不是无限保存的:
- 活跃 Stream 默认每次发布续期 3 分钟。
- 续期来自消息发布,不是后台业务存活心跳。
- 正常完成后,默认历史保留时间缩短为 1 分钟。
- 历史过期后,无法再通过该 Stream 补齐已丢失的流式片段。
这里存在两个独立判断:后台任务仍存活,不代表历史仍存在;连接仍收到心跳,也不代表业务仍在产生消息。
此外,对于已经完成且携带恢复位置的请求,业务层还有独立的 CompletedMessageStreamReplay 回放路径。它应与前面讨论的活跃订阅恢复分开理解,不能把某一种模式的游标行为套到所有回放路径上。
实现演进与可迁移的经验
原分析通过 Git 记录确认,核心连接封装与后续通道优化来自 xuhongzhuo,主要节点如下。这不代表当前文件的每一行都由同一作者完成。
| 时间 | 提交 | 演进方向 |
|---|---|---|
| 2025-08-14 | d9e47fdbb3 | 引入连接封装与心跳机制 |
| 2026-07-26 | 3be3d280b2 | 隔离 SSE 线程池,完善拒绝保护 |
| 2026-07-28 | 1577256d8e | 隔离 Stream 阻塞读连接池 |
| 2026-08-03 | a79ec106db | 优化 Redis Hybrid 消息通道 |
这些变化展示了 SSE 从“能发送”走向“能长期运行”的工程过程:先管理连接生命周期,再隔离消费资源,最后改善通知、历史和恢复之间的协作。
如果把这套经验迁移到自己的项目,可以沿着四个问题检查设计:
- 浏览器断线后,后台任务应该继续还是取消?是否有明确的取消入口?
- 消息在哪里保存?恢复游标如何传递,客户端如何处理重放?
- 慢客户端会积压多少数据?超限后的恢复是否还在历史保留窗口内?
- 连接心跳、业务心跳、订阅空闲时间和历史 TTL 是否分别管理?
NowFind 给出的核心启发是:通过保活减少空闲断线,通过生命周期解耦让业务继续,通过历史和游标让断线后的恢复成为可能。可靠性取决于这些机制能否在客户端、服务端和代理之间配合,而不能仅凭一个心跳定时器来判断。
如果需要回顾 SSE 的基础使用方式,可以先阅读站内的 Server-Sent Events 教程,再结合本文理解长时间生成场景下的连接管理与恢复边界。
