Mini-SGLang 源码解析:从 HTTP 到 SSE,5 次消息投递
从 HTTP 请求进入 API Server 开始,经 ZMQ 投递、tokenizer 分词、scheduler 调度计算,到增量 token 以 SSE chunk 返回客户端的完整链路。
通过 Atom 订阅,第一时间获取最新文章和动态
复制链接到你的 Atom 阅读器
https://streamazure.github.io/atom.xml从 HTTP 请求进入 API Server 开始,经 ZMQ 投递、tokenizer 分词、scheduler 调度计算,到增量 token 以 SSE chunk 返回客户端的完整链路。
当前页面没有目录
当前页面没有目录
当前页面没有目录