1
Qwen 3.6 93B with MTP on 2×RTX 3090 NVLink=187 tokens/SEC,LLM lost bleat-a-thon
在双RTX 3090上通过MTP技术实现Qwen 3.6 93B模型高速推理，达到187 tokens/秒，突破单卡限制，用消费级显卡跑出高端服务器性能。
Article URL: https://github.com/Augmented-Reality-Virtual-Reality-AR-VR/P... Comments URL: https://news.ycombinator.com/item?id=48526796 Points: 3 # C…