This topic created in 925 days ago, the information mentioned may be changed or developed.
Langchain 通过 callback 机制，可以将 LLM 输出的 token 实时处理. 同时支持同步 IO 和异步 IO 的方式来输出 token ，分别对应 StreamingStdOutCallbackHandler 和 AsyncIteratorCallbackHandler
No Comments Yet
Select Language