跳到主要内容
造物笔记
再往前走一步 · 必知必会

流式响应

Streaming

💡 一句话大白话

像边写边展示,不必等整篇文章写完才看到第一行。

🔬 严谨工程定义

流式传输降低首字节或首个 Token 的等待感,但不一定减少总耗时,仍需处理断开、结束和错误。

💬 对 AI 实战沟通话术 (一键复制)

帮我把这个 AI 回复改成流式的,一个字一个字往外蹦。

流式输出到一半就断了,你帮我看看是超时了还是后端断开了连接。

帮我实现流式响应,注意处理三种情况:正常输出完要关闭连接、用户中途取消要停止生成、网络断开要提示"连接中断"而不是显示成功,不要把半截内容当完整结果。

同组关联基础词