Strong Teacher Not Needed? On Distillation in LLM Pretraining
颠覆认知?弱教师模型也能有效蒸馏LLM,预训练阶段教师强度并非关键。
arXiv:2605.23857v1 Announce Type: new Abstract: Knowledge distillation generally assumes a strong-to-weak relationship where stronger teachers yield b…
颠覆认知?弱教师模型也能有效蒸馏LLM,预训练阶段教师强度并非关键。
arXiv:2605.23857v1 Announce Type: new Abstract: Knowledge distillation generally assumes a strong-to-weak relationship where stronger teachers yield b…
AI自主决策、无人工遥控,首届中学生人形机器人足球赛展现青少年科技实力与未来趋势。
IT之家 5 月 24 日消息,据央视新闻报道,5 月 23 日至 24 日,首届中学生人形机器人足球赛(北京海淀)总决赛于北京市清华附中落下帷幕。中央民族大学附属中学好耶战队在激烈竞争中脱颖而出,摘得桂冠;北京市海淀区教师进修学校附属实验中学极光队、人大附中航天城学校飞马队分别位列亚军和季军。 据…
无需辅助组件的投影引导跨分词器知识蒸馏,有效解决词汇不兼容问题。
arXiv:2605.21699v1 Announce Type: cross Abstract: Cross-tokenizer knowledge distillation allows a student model to learn from teachers with incompatib…
IT之家 5 月 22 日消息,教育部、国家发展改革委、财政部、住房城乡建设部四部门办公厅今日联合印发《中小学基本办学条件底线要求》(下称《底线要求》),全面加强普通中小学校标准化建设,从学校校舍建设、安全防范建设、生活硬件配备、教学设施装备、教职工配备五方面, 明确提出了新的 20 条底线要求,力…
ACL 2026 论文:知识对齐的学生错误模拟器,精准生成开放式编程任务中的学生典型错误,助力智能教育评估
arXiv:2601.06633v2 Announce Type: replace Abstract: Open-ended tasks, such as coding problems that are common in computer science education, provide d…
用认知不确定性引导知识蒸馏,解决学生误解分类中数据稀疏与边界模糊难题。
arXiv:2605.14752v1 Announce Type: cross Abstract: Accurately identifying student misconceptions is crucial for personalized education but faces three …
看点在通过回溯机制缓解LLM推理蒸馏中的双重暴露偏差,提升长链思维迁移效率
arXiv:2605.19433v1 Announce Type: new Abstract: Large language models (LLMs) have achieved remarkable success in complex reasoning tasks via long chai…
中国高校包揽第13届世界大学生超算竞赛冠亚军,展现AI时代青年人才实力。
IT之家 5 月 20 日消息,据央视新闻报道,第 13 届 ASC 世界大学生超级计算机竞赛总决赛今日在江苏省无锡市落下帷幕。本届赛事共吸引全球 25 支高校大学生队伍参与,参赛队伍在量子计算、人工智能等前沿科技领域展开为期 5 天的激烈角逐。 最终,北京大学代表队夺得总决赛冠军,清华大学代表队获…
教授将LLM引导系统与学生教学类比,一针见血指出「学习」与「应试」两种目标下的系统设计本质区别:前者引导探索,后者只给最小可行结构。对AI产品设计者的启发堪比一篇微论文。
As a professor trying to build an onboarding and orchestrating systems for LLMs, the strong idea that is rising in my mind is the need to have a menta…
一项针对留学生的研究表明,ChatGPT等对话式AI正成为跨文化适应的非正式支持工具,揭示现有大学支持体系与社交网络的断裂,为AI在教育场景中的角色提供了新洞察。
arXiv:2605.15127v1 Announce Type: cross Abstract: Moving to a new culture and adapting to a new life, as an international student, can be a stressful …