1
SLM 生成式高并发推理引擎：延迟约束下的有效吞吐优化
本文为SLM（Small Language Model， 小参数量语言模型0.5~1B）在搜推场景的大规模落地提供了一套高性能、可复用的工程实践。
2
Offline Diffusion Policy for Multi-User Delay-Constrained Scheduling
离线扩散策略破解多用户延迟调度难题，新视角提升决策效率。
arXiv:2501.12942v2 Announce Type: replace Abstract: Effective multi-user delay-constrained scheduling is crucial in various real-world applications, i…