提出可训练的平滑旋转变换与学习通道缩放，为LLM量化精度提升提供新思路
arXiv:2606.09927v1 Announce Type: cross Abstract: Post-training quantization (PTQ) is one of the most practical ways to reduce the serving cost of Lar…
提出基于块尺度初始化的NVFP4后训练量化方法，有效提升大语言模型低比特精度。
arXiv:2606.07618v1 Announce Type: new Abstract: NVFP4 is a recently introduced hardware-supported FP4 format that improves the fidelity of 4-bit quant…
联合结构化剪枝与混合精度量化，为LLM压缩提供高效新方案，兼顾精度与速度。
arXiv:2606.07819v1 Announce Type: cross Abstract: Recently, the efficiency of Large Language Models (LLMs) deployment has become a critical concern in…
一文讲清GGUF、GPTQ、AWQ三种主流LLM量化格式的区别，帮你选对压缩方式省显存。
Article URL: https://vettedconsumer.com/gguf-vs-gptq-vs-awq-the-plain-english-guide-to-llm-quantization-and-which-one-to-pick/ Comments URL: https://n…
终结LLM上下文泄露：100%精度记忆，告别向量搜索的10%低效。
Article URL: https://tenureai.dev/ Comments URL: https://news.ycombinator.com/item?id=48409678 Points: 4 # Comments: 1
新方法Qift实现旋转后W2A4/KV4的LLM无零值训练后量化，兼顾移位友好与推理效率。
arXiv:2606.02823v1 Announce Type: new Abstract: Two-bit weight quantization is attractive for memory-efficient LLM inference, but the standard W2 leve…
用大模型自动生成跨平台AI加速器内核，通过算子融合与混合精度提升算力效率
arXiv:2606.02963v1 Announce Type: new Abstract: Production inference increasingly targets a heterogeneous mix of accelerators. Agentic pipelines inter…
提出接近最优自适应变换方法，大幅提升LLM量化精度，模型压缩新突破。
arXiv:2512.00956v3 Announce Type: replace Abstract: Quantizing LLM weights and activations is a standard approach for efficient deployment, but a few …
AI气象模型再突破，WeatherMesh-6精度超越欧洲顶尖系统，天气预报迈入AI时代。
IT之家 6 月 2 日消息，据 Techcrunch 报道，初创企业 WindBorne Systems 公司今日推出了一款全新人工智能气象预报工具。依托传感器观测数据接入深度学习模型的技术革新，该工具针对关键气象指标的预报频次与精准度，均优于欧洲多国政府联合研发的全球顶尖气象预报系统。 据IT之…
基于E8晶格的新型LLM量化方法GLQ，8权重一组映射为16位索引，精度2-8 bpw，开源有代码。
I have with the help of AI create an open source method of E8 LLM code book quantization library called glq. I was interested in creating Glq as a PC …
AI天气模型WeatherMesh-6提前5天预报精度堪比传统次日预报，每小时更新力压官方机构。
WindBorne benefits from its unique combination of model-building and data collection. The company now has about 400 balloons in flight gathering senso…
IT之家 6 月 2 日消息，ATK 现已在京东上架一款 RS6 Air Cyber 磁轴键盘，该产品提供 0.001mm RT 精度，支持 8KHz 轮询率， 定价为 449 元 。 京东 ATK RS6 Air Cyber 磁轴键盘 449 元 直达链接 该键盘采用 Gasket 结构，使用粉色…
IT之家 6 月 1 日消息，星际荣耀今日宣布，近日利用“星际归航”号海上回收船，在广东阳江海域圆满完成了 SQX-3 运载火箭海上回收高精度导航系统无人机挂飞试验 ，各项技术指标满足设计要求。 官方表示，此次试验的顺利完成，标志着 SQX-3 可回收运载火箭箭船协同的高可靠高精度导航系统完成了所有…
英伟达联手高校推出LocateAnything，一步式并行框解码实现高速高精度目标检测，为机器人和AI Agent实时感知提供新方案。
IT之家 5 月 30 日消息，英伟达昨日（5 月 29 日）发布博文，宣布携手香港理工大学、南京大学等， 推出 LocateAnything 模型，主打高速、高精度检测对象。 该模型可以从照片或截图中找出指定对象，并用检测框标出位置，重点服务机器人感知、电脑自动操作等需要快速定位的场景。 NVID…
揭秘低精度训练中“弹弓损失尖峰”的成因，区分了真正“顿悟”与异常“故障”，为数值优化提供新视角。
arXiv:2605.06152v3 Announce Type: replace Abstract: Deep neural networks exhibit periodic loss spikes during unregularized long-term training, a pheno…
提出置信度动态新方法，优化大模型推理时延与精度平衡，ICML 2026前沿研究
arXiv:2605.25244v1 Announce Type: new Abstract: Inference time optimization techniques, such as repeated sampling, have significantly advanced the rea…
中国车企出海智能化新利器：TomTom地图订单暴涨10倍，辅助驾驶全球化合作模式揭秘。
中国汽车出海，离不开“地图” 当下，中国车企全球化进程正全面提速，出海已经从企业的可选增量，变为行业确定性增长主线。比亚迪、奇瑞等企业海外销量规模持续走高，小鹏、蔚来、理想、小米等新势力车企也纷纷发力海外高端市场。 区别于过往靠性价比、电动化优势打开市场的模式，现阶段中国车企出海的核心壁垒转变为智能…
只需29-33%更少内存，LlamaWeb在16种设备上实现高性能多精度LLM推理，彻底改变浏览器端大模型部署。
arXiv:2605.20706v1 Announce Type: cross Abstract: Running language models in the browser presents a unique opportunity to build efficient, private, an…
AI提示优化器，精准检测提示类型类别，91.94%准确率，让提示工程更科学高效
The Struggle: Why Generic Prompt Optimization Fails I spent six hours last month watching a prompt optimizer tank a code generation task. The system h…
提出GAMMA方法，实现任意预算下大语言模型混合精度量化的全局比特自动分配，无需量化感知训练。
arXiv:2605.18475v1 Announce Type: new Abstract: Mixed-precision quantization improves the budget--accuracy trade-off for large language models (LLMs) …