牛哥精选 · 一年

📋 全部 🤖 AI·大模型 ⚡ 效率工具 📝 深度技术 🚀 产品观察 💰 商业科技 🔓 开源项目 🎨 设计创意 📖 阅读推荐 🏷 资源合集 🌱 成长效率

📝 深度技术 arXiv AI 2026-06-26

SharQ: Bridging Activation Sparsity and FP4 Quantization for LLM Inference

将激活稀疏性与FP4量化巧妙结合，大幅提升LLM推理效率，硬核优化方案来袭！

arXiv:2606.26587v1 Announce Type: cross Abstract: Low-bit floating-point formats and semi-structured sparsity are increasingly supported by modern acc…

llm推理 fp4量化激活稀疏性模型压缩推理加速

📝 深度技术 arXiv 机器学习 2026-05-23

Resting Neurons, Active Insights: Robustifying Activation Sparsity in LLMs via Spontaneity

通过引入“自发性”机制，显著提升大语言模型激活稀疏性的鲁棒性，为高效推理提供新思路。

arXiv:2512.12744v4 Announce Type: replace Abstract: Activation sparsity offers a compelling route to accelerate large language model (LLM) inference b…

llm 激活稀疏性自发性鲁棒性模型优化

📅 日期

2026-05-20 2026-05-19

🐂 牛哥精选

SharQ: Bridging Activation Sparsity and FP4 Quantization for LLM Inference

Resting Neurons, Active Insights: Robustifying Activation Sparsity in LLMs via Spontaneity

📅 日期