langchain1.X学习笔记-19-智能体高级用法之流式输出及模式

文章目录1 流式输出的说明2 具体的输出模式2.1 模型初始化2.2 values输出模式2.3 updates输出模式(默认)2.4 messages输出模式2.5 tasks输出模式2.6 debug输出模式2.7 checkpoints输出模式2.8 custom输出模式3 流式输出模式总结3.1 输出模式对比3.2 模式组合使用流式输出有7种模式，并且根据场景可以组合使用。通过“agent.stream(stream_mode=指定模式) ”来指定。具体模式有：values、updates(默认)、messages、custom、checkpoints、tasks、debug。1 流式输出的说明通过invoke调用Agent时，内部可能经历多次调用，长时间看不到调用情况，用户体验不好，可以通过流式调用(渐进式显示输出)优化用户体验， 实时显示Agent运行过程中的更新。特别是在处理LLM延迟时尤其有效。流式输出好处：(1)大型语言模型生成完整响应通常需要几秒钟时间，对于长输出可能达到10-20秒，用户期望即时反馈， 流式传输让等待过程更加可控 。(2)相比非流式传输需要用户长时间等待完整响应，流式传输可以立即显示文字逐渐出现的效果， 大幅降低用户的等待焦虑。设置方式：通过“agent.stream(stream_mode=指定模式) ”来指定。具体模式有：values、updates(默认)、messages、custom、checkpoints、tasks、debug。2 具体的输出模式2.1 模型初始化from langchain_openaiimportChatOpenAI from dotenv