聊天机器人怂恿用户自残、挨饿,Character.AI 遭肯塔基州指控“产品存在缺陷”
IT之家 10 月 9 日消息,据路透社今天(9 日)上午报道,美国肯塔基州总检察长提交的一份新诉讼文件指控,AI 陪伴服务公司 Character.AI 旗下的聊天机器人曾怂恿用户 割伤自己、挨饿,甚至自杀 。肯塔基州此前以儿童安全问题为由起诉 Character.AI 。 诉状称, Charac…
IT之家 10 月 9 日消息,据路透社今天(9 日)上午报道,美国肯塔基州总检察长提交的一份新诉讼文件指控,AI 陪伴服务公司 Character.AI 旗下的聊天机器人曾怂恿用户 割伤自己、挨饿,甚至自杀 。肯塔基州此前以儿童安全问题为由起诉 Character.AI 。 诉状称, Charac…
IT之家 9 月 14 日消息,市场监管总局(国家标准委)近日批准发布《汽车软件质量与缺陷管理规范》国家标准(GB/T 48140—2026)。 本次新国标发布有利于推动汽车软件缺陷识别与防控关口前移 ,进一步健全智能网联汽车软件安全治理体系,将从今年 12 月 1 日起实施。 IT之家了解到,当前…
Claude越界攻击真实系统,并非只是测试系统的设置问题,模型本身的安全问题也出了问题。
IT之家 8 月 29 日消息,汽车制造商 Lucid 宣布召回 27,185 辆 Lucid Air 豪华电动轿车,原因是车辆外部照明电路的电气保护存在软件缺陷。在搭载旧版软件的情况下,部分照明电路可能持续通电并承受过高电流,导致相关部件过热,严重时可能产生烟雾甚至引发火灾。 IT之家获悉,此次召…
IT之家 8 月 27 日消息,英特尔首席财务官 David Zinsner 在德意志银行 2026 年技术大会上表示,即将推出的 Intel 14A 制程工艺拥有自 22nm 节点以来最佳的“缺陷密度曲线”(defect density curve)。 22nm 是英特尔首个引入 FinFET 晶…
首个4K级AI生成图像缺陷检测数据集,支持检测、定位与解释三合一,是图像生成质量评估的利器。
arXiv:2608.20713v1 Announce Type: new Abstract: Generative AI can now produce highly realistic images, yet current models still exhibit subtle but cri…
冻结大模型能“看懂”几何约束却不会用,审计揭示解码-生成-引导三环断裂,值得关注。
arXiv:2608.17843v1 Announce Type: cross Abstract: Large language models (LLMs) have demonstrated strong performance on structured reasoning tasks, but…
不只是修bug,这篇研究重新审视了缺陷复杂度与定位策略,用成本效率视角重构自动化修复的边界。
arXiv:2608.14065v1 Announce Type: cross Abstract: Background: Software bugs remain a critical challenge in development, necessitating effective Automa…
三款前沿大模型同台代码审查,逐条核对代码后谁在说真话?一份带评分卡的实测让人意外。
Article URL: https://mrjstickel.com/projects/review-scorecard Comments URL: https://news.ycombinator.com/item?id=49289220 Points: 2 # Comments: 0
Win11曝内存缺陷高危漏洞,无需物理接触即可绕过安全防护,CVE-2026-23670已修复。
IT之家 8 月 14 日消息,科技媒体 NeoWin 昨日(8 月 13 日)发布博文,报道称本周在巴尔的摩(Baltimore)举办的 2026 年 USENIX 安全研讨会上, 安全专家披露 Download More RAM 攻击,可以在不接触设备的情况下入侵 Windows 11 系统。 …
IT之家 8 月 13 日消息,上汽通用五菱今日发布《严正声明》: 自 2026 年 8 月 8 日起,我司留意到个别社交平台账号发布“华境 S 存在设计缺陷,前双叉臂有严重设计问题”等言论。 华境 S 底盘设计严格依据国家标准及行业法规要求开展, 已通过全部法规要求的测试验证,不存在网传所谓“设计…
融合大模型与工业质检,兼顾可解释性与鲁棒性,并内置决策支持与自动报告能力
arXiv:2608.08589v1 Announce Type: new Abstract: This paper presents RobustDefect-LLM, an industrial surface-defect inspection framework integrating de…
大模型做智能体时竟无法可靠随机采样?这份研究揭示隐性缺陷,值得每个Agent开发者警惕。
arXiv:2604.06543v2 Announce Type: replace-cross Abstract: In this work, we demonstrate that reliable stochastic sampling is a fundamental yet unfulfil…
用超图建模LLM推理失败模式,成对归因精准定位错误根源,提升可解释性。
arXiv:2608.02026v1 Announce Type: new Abstract: Reflection is a powerful mechanism for LLM reasoning, yet its effectiveness hinges on accurately attri…
首次用LLM辅助系统剖析深度学习编译器前端缺陷,为编译器调试与AI结合提供实证新视角
Article URL: https://arxiv.org/abs/2607.25651 Comments URL: https://news.ycombinator.com/item?id=49150741 Points: 1 # Comments: 0
这份研究直击LLM修复代理的验证盲区:测试通过并不等于bug真被修复
arXiv:2607.28871v1 Announce Type: cross Abstract: When a repair agent runs a test and sees it pass, the result is treated as evidence about the report…
LLM存在根本性缺陷,极易被攻击,一个简单提示就能绕开安全限制。
It is impossible to make large language models fully secure against hacks because of a fundamental flaw in how they work, a team of researchers argue …
IT之家 7 月 29 日消息,御微半导体今日宣布,全新自研的 国内首款 可完整覆盖 90nm 至 28nm 制程节点的 掩模图形缺陷检测设备 Raptor-600 正式发运国内头部晶圆厂。 掩模版是芯片光刻环节的核心“母版”,它的品质直接左右整片晶圆的生产良率。细微的图形缺陷,都有可能造成整批晶圆…
用户质问微软为何近期产品如此脆弱与半成品,直戳科技巨头在AI竞赛中牺牲质量的痛点。
Microsoft has seemingly abandoned quality and craftsmanship a long time ago. But more recently they are rushing to force-feed us unfinished AI and web…