牛哥精选 · 三个月

📋 全部 🤖 AI·大模型 ⚡ 效率工具 📝 深度技术 🚀 产品观察 💰 商业科技 🔓 开源项目 🎨 设计创意 📖 阅读推荐 🏷 资源合集 🌱 成长效率

📝 深度技术 arXiv 机器学习 2026-06-15

Efficient On-Device Diffusion LLM Inference with Mobile NPU

利用移动NPU并行加速扩散大语言模型推理，为端侧AI落地提供新思路。

arXiv:2606.13740v1 Announce Type: new Abstract: Diffusion large language models (dLLMs) accelerate generation by denoising multiple tokens in parallel…

扩散大语言模型移动npu 推理加速端侧ai 高效计算

🤖 AI·大模型 arXiv 机器学习 2026-05-21

Quant.npu: Enabling Efficient Mobile NPU Inference for on-device LLMs via Fully Static Quantization

完全静态量化方案让移动NPU高效运行大语言模型，精度媲美最先进方法，推理延迟显著降低。

arXiv:2605.20295v1 Announce Type: new Abstract: Large language models (LLMs) are increasingly deployed on mobile devices, where Neural Processing Unit…

量化移动npu llm推理静态量化边缘计算

📅 日期

2026-05-20 2026-05-19

🐂 牛哥精选

Efficient On-Device Diffusion LLM Inference with Mobile NPU

Quant.npu: Enabling Efficient Mobile NPU Inference for on-device LLMs via Fully Static Quantization

📅 日期