从沙箱逃逸到 AI“蠕虫”,OpenAI 上线新站披露多起智能体失控事件
IT之家 9 月 29 日消息,当地时间上周五,OpenAI 上线了一个专门发布“对齐失效报告”的新网站。报告所覆盖的范围之广令人警惕,里面记录了很长一段时间内发生的多类 AI 失控行为。截至目前,该网站一共公布了九起事件,其中大多数都发生在强化学习(RL)训练阶段。 大量资料集中在同一平台发布。显…
IT之家 9 月 29 日消息,当地时间上周五,OpenAI 上线了一个专门发布“对齐失效报告”的新网站。报告所覆盖的范围之广令人警惕,里面记录了很长一段时间内发生的多类 AI 失控行为。截至目前,该网站一共公布了九起事件,其中大多数都发生在强化学习(RL)训练阶段。 大量资料集中在同一平台发布。显…
npm 蠕虫 Shai-Hulud 骗过了安全检查——不是靠伪造,而是真拿到了合法证书。软件供应链攻击正在升级,开发者生态全线告急,值得每个工程师警惕。
An attacker on Tuesday took over the GitHub account of the developer who maintains keyv , a small key-value storage library that npm serves roughly 12…
AI代理蠕虫已现雏形,4千台设备遭渗透,安全威胁可能就在几个月后爆发。
Article URL: https://dustycloud.org/blog/the-first-ai-agent-worm-is-months-away-if-that/ Comments URL: https://news.ycombinator.com/item?id=48751431 P…
研究发现超级蠕虫能以最优比例快速清洁骨骼标本,无损伤,或成博物馆新宠
An optimal ratio of 10-15 grams of larvae per gram of specimen minimized cleaning time with no bone damage.
用真实攻击案例揭示AI助手权限下放的供应链安全风险:OIDC令牌被盗、Sigstore签名伪造,SLSA隔离要求形同虚设。
Three vulnerabilities from the last few months, three different layers of the AI-coding-agent stack, one root cause. None of them is the model getting…
新型蠕虫Miasma通过伪造GitHub仓库和npm包,定向感染AI编码代理,供应链安全再敲警钟。
Article URL: https://safedep.io/miasma-worm-ai-coding-agent-config-injection/ Comments URL: https://news.ycombinator.com/item?id=48416269 Points: 4 # …
AI蠕虫原型自带LLM,入侵电脑自行运行,最接近科幻小说的数字怪物。
Researchers have prototyped an AI-powered internet worm . The coolest thing about the prototype is that it carries its own LLM with it, and runs it on…
AI生成的计算机蠕虫能无限制感染设备,专家敲响安全警钟。
Article URL: https://www.cbsnews.com/video/alarm-over-computer-worms-created-with-ai/ Comments URL: https://news.ycombinator.com/item?id=48412799 Poin…
首篇探讨自主LLM智能体蠕虫的学术论文,揭示长时运行、持久工作区与内存文件带来的新型安全威胁。
Article URL: https://arxiv.org/abs/2605.02812 Comments URL: https://news.ycombinator.com/item?id=48335310 Points: 2 # Comments: 0