1
DiffusionGemma 26B 挑戰 GH200 效能極限
DiffusionGemma 26B 在 GH200 上释放狂暴生成力，1180 tok/s 极限速度，直面长上下文高并发挑战。
1180 tok/s 的地表極速是什麼概念？在 256 tokens 的輸出下，運算只要 0.22 秒就瞬間結束，這表示 DiffusionGemma 26B 在 NVIDIA GH200 上跑 vLLM 的速度，整整比 M2 Max 快了 80 倍！ 延續系列第一篇在 M2 Max 96GB (M…