中文互联网基础语料 4.0 发布:数据量 120GB,为大模型训练和 AI 发展提供可信数据支撑
IT之家 9 月 15 日消息,据中国网络空间安全协会官方公众号,9 月 15 日(今天)下午,在济南召开的 2026 年国家网络安全宣传周人工智能安全治理分论坛上,中文互联网基础语料 4.0 正式向社会发布, 数据量 120GB ,并在“中文互联网语料资源平台”上线。 据IT之家了解,用户登录中国…
IT之家 9 月 15 日消息,据中国网络空间安全协会官方公众号,9 月 15 日(今天)下午,在济南召开的 2026 年国家网络安全宣传周人工智能安全治理分论坛上,中文互联网基础语料 4.0 正式向社会发布, 数据量 120GB ,并在“中文互联网语料资源平台”上线。 据IT之家了解,用户登录中国…
应对大模型智能体强化学习训练中的故障难题,为长时训练提供高效容错保障,值得关注。
arXiv:2608.14635v1 Announce Type: cross Abstract: Large language model (LLM) agents are increasingly trained with reinforcement learning in long-horiz…
解耦LLM后训练中的GPU资源瓶颈,用强化学习实现运行时动态分配,大幅提升算力利用率。
arXiv:2607.22614v2 Announce Type: replace Abstract: RL-based LLM post-training increasingly disaggregates Rollout and Training across separate GPU res…
大规模指令语料库发布,含近23万文件,可自由用于模型训练与评测。
The TomeVault Instruction Corpus De-identified structural measurements of AI instruction files (CLAUDE.md, AGENTS.md, SKILL.md, .cursorrules and relat…
挑战传统认知:弱教师如何高效指导强学生?这项研究提出了弱到强的在线策略蒸馏新范式。
arXiv:2607.26246v1 Announce Type: new Abstract: On-policy distillation (OPD), which aligns a student with the teacher's token-level distribution on th…
小鹏发布 TuringViT,以线性注意力等创新实现“十分之一数据更优效果”,重构视觉大模型训练范式。
IT之家 7 月 21 日消息,小鹏集团今日发布 TuringViT 高效视觉编码器 ,面向 VLM / VLA 时代系统性重构视觉编码器的架构设计、数据范式与训练流程。 小鹏集团表示, TuringViT 将全面支撑智能驾驶、智能座舱、IRON 人形机器人三大业务场景 ,同时为行业提供了一条可复现…
提出归一化奖励方法,提升偏好优化训练稳定性与效果
arXiv:2607.16240v1 Announce Type: cross Abstract: Direct Alignment Algorithms (DAAs) such as DPO have become a common way to post-train and align LLMs…
马斯克官宣Grok 4.6下周完成初始训练,2万亿参数规模碾压前代,AI竞赛再提速。
IT之家 7 月 18 日消息,埃隆 · 马斯克(Elon Musk)今日在 X 上回复网友时透露,xAI 正在训练中的下一代 Grok 4.6 模型参数规模将达到 2 万亿,预计将在下周完成初始训练。 马斯克表示,2 万亿参数模型在各方面都优于当前的 1.5 万亿参数版本,同时推理速度和 Toke…
沐曦新发布的曦景S600实现单机柜64卡高密度部署,并可灵活扩展至万卡集群,专为大模型训练推理和智算中心打造。
IT之家 7 月 18 日消息,2026 世界人工智能大会(WAIC 2026)今天在上海举行, 沐曦股份在大会期间正式发布新一代 AI 超节点新品曦景 S600 。 IT之家从沐曦股份公众号了解到,曦景 S600 是面向大模型训练、推理及智算中心建设打造的系统级算力产品,可实现单机柜 64 卡高密…
一文对比RLHF与DPO两种主流大模型训练方法的核心差异与适用场景
In this article, we will look at how that learning actually happens, starting with why instruction-following alone falls short, then walking through t…
提出GIFT方法,利用梯度几何信息实现低精度通信,在不牺牲模型精度的前提下显著降低LLM预训练通信开销。
arXiv:2607.07494v1 Announce Type: cross Abstract: Gradient communication is a primary scaling bottleneck in large language model (LLM) pretraining. Co…
安全对齐虽关键,但一刀切的拒绝机制在网络安全等高风险领域适得其反,这篇论文揭示了系统性缺陷。
arXiv:2607.02714v1 Announce Type: cross Abstract: There is no doubt that safety alignment is an essential step in LLM training. However, conceptually …
LLM微调实战指南,从入门到进阶的完整开源教程,适合AI开发者快速上手
Article URL: https://github.com/R6410418/Jackrong-llm-finetuning-guide Comments URL: https://news.ycombinator.com/item?id=48812171 Points: 2 # Comment…
新论文提出SCAPE方法,通过极端稀疏通信显著降低大模型预训练通信开销,兼顾准确与效率。
arXiv:2607.01678v1 Announce Type: new Abstract: Communication increasingly dominates the cost of Large Language Model (LLM) pre-training, especially u…
仅花315美元从零训练10亿参数大语言模型,并开源全部权重与数据,堪称极低成本LLM训练范本。
Article URL: https://huggingface.co/AIIT-Threshold/Tessera-1B Comments URL: https://news.ycombinator.com/item?id=48758380 Points: 2 # Comments: 0
揭秘工具架构设计如何影响LLM Agent后训练效果,为智能体优化提供新视角
arXiv:2606.25447v1 Announce Type: new Abstract: Tool-integrated LLM agents are often wrapped within a harness: the scaffolding that determines which t…
大模型异步强化学习训练不稳?GAC用梯度对齐控制实现稳定收敛,值得搞LLM训练的细读
arXiv:2603.01501v2 Announce Type: replace-cross Abstract: Asynchronous execution is essential for scaling reinforcement learning (RL) to modern large …
提出预训练阶段对齐新方法,用“安全反射”机制超越单纯安全数据,提升大模型本质安全性。
arXiv:2606.19168v1 Announce Type: cross Abstract: To achieve deeper safety alignment for large language models (LLMs), recent efforts have studied how…
提出LEPO方法,通过潜在推理策略优化显著提升大语言模型推理能力,为强化学习对齐开辟新路径。
arXiv:2604.17892v4 Announce Type: replace-cross Abstract: Recently, latent reasoning has been introduced into large language models (LLMs) to leverage…
揭秘SFT后强化学习失效的成因,提出恢复模型可塑性的新方法。
arXiv:2606.09932v1 Announce Type: cross Abstract: Supervised Fine-Tuning (SFT) followed by Reinforcement Learning (RL) has become a standard pipeline …