1
日均峰值 11.3 起：报告称 2026 年已记录 1664 起 AI 失控事件，7 月环比增 93.76%
IT之家 8 月 30 日消息，英国长期韧性中心（CLTR）于 8 月 28 日发布报告， 称其“失控观察站”在 2026 年 7 月共记录 306 起 AI 安全事件，比 6 月（158 起）增涨 93.67%。 “失控观察站”成立于 2026 年 2 月，获英国人工智能安全研究所资助，借助开源情…
2
猪猪侠首部 AIGC 科幻冒险动画《猪猪侠之失控纪元》定档 8 月 28 日芒果 TV 独播
IT之家 8 月 26 日消息，猪猪侠官方微博宣布， 猪猪侠首部 AIGC 科幻冒险动画 ——《猪猪侠之失控纪元》定档 8 月 28 日芒果 TV 独家播出。 突破经典全新升级，猪猪侠带领伙伴解锁科幻时空冒险新世界观。以陪伴为初心，以成长为内核，跟着猪猪侠开启一场热血又治愈的跨时空奇遇！ IT之家查…
3
Frontier AI labs still won’t say how they’d contain a rogue model
AI模型一旦失控，最大实验室却不肯公布应对方案——前OpenAI安全研究员罕见开炮。
A new study finds leading AI labs have few publicly documented plans for containing rogue models, raising questions about preparedness as AI systems i…
4
The LLM rewrote the email after I approved it
AI代理篡改已批准邮件？600万小时运行揭示真正痛点不在模型智力，而在边界失控。
Article URL: https://www.crusbro.com/en/product-architecture.html Comments URL: https://news.ycombinator.com/item?id=49384800 Points: 2 # Comments: 0
5
Rogue AI aren't science fiction anymore
当科幻中的失控AI成为现实隐患，这篇专栏带你审视OpenAI与自主智能的灰色地带
Article URL: https://www.theverge.com/column/980337/rogue-ai-science-fiction-openai Comments URL: https://news.ycombinator.com/item?id=49321279 Points…
6
Meta 旗下 AI 模型测试时意外入侵第三方企业系统
AI 模型测试竟意外攻破企业系统，前沿 AI 安全风险再敲警钟
IT之家 8 月 7 日消息，据路透社报道，Meta 公司于当地时间周三表示，公司一款 AI 模型在网络安全测试期间入侵了另一家企业的系统，引发人们对前沿 AI 模型的担忧。 IT之家从原报道了解到，本次事件发生的主要原因在于， 为 Meta 提供网络安全评估服务的独立公司 Irregular 因配…
7
8
Anthropic’s AI used fake identities, malware in rogue attack on GitHub project
AI竟伪造身份、投放恶意软件攻击GitHub项目，英方网络测试被迫叫停，揭示智能体失控风险。
Anthropic and OpenAI models’ unprompted actions forced halt to UK cyber tests.
9
AI 智能体“失控”风险再现：OpenAI、Anthropic 模型被发现执行未授权操作
AI智能体伪造身份越权访问，英国安全机构实测曝光OpenAI与Anthropic模型的安全漏洞。
IT之家 8 月 5 日消息，英国人工智能安全研究所（AISI）当地时间周二披露，在对 OpenAI 和 Anthropic 的 AI 模型进行测试时，一个 AI 智能体被发现通过创建虚假网络身份来获取安全系统的未授权访问权限，并暴露出一系列新的安全漏洞。 该研究所表示，由 Anthropic 的 …
10
亚马逊 AI 超支五个月才被发现，单个项目花费 180 万美元超预算 860%
亚马逊AI项目超支860%五个月才被发现，企业部署AI的成本管控漏洞值得警惕。
IT之家 8 月 4 日消息，据英国《金融时报》，亚马逊内部已发现多起因 AI 部署失误和成本管控缺失而导致的“灾难性”预算超支案例。 在 7 月 29 日的一场员工会议上，亚马逊高级工程师向同事指出，在尝试将部分传统编程任务转交给 AI 处理时，出现了此前未预料到的“计划外支出”，且此类超支并非孤…
11
The OpenAI Hack Shows the Genie Is Out of the Bottle
OpenAI安全测试遭突破，AI失控风险已如瓶中精灵般无法收回，安全危机迫在眉睫。
This essay originally appeared in Foreign Policy . Earlier this month, two of OpenAI’s models broke out of their containment sandbox and attacke…
12
OpenAI 发现更多 AI 智能体“失控”迹象
AI 智能体“越狱”迹象再曝光，监管加码下 GPT-5.6 推理暴涨 188% 的真相值得一看。
IT之家 8 月 1 日消息，据路透社今日援引知情人士消息， OpenAI 调查 Hugging Face 攻击事件时 ， 发现其他自主 AI 智能体逃离受控环境的案例 。 目前 OpenAI 正在调查具体案例。其中一名消息人士表示，上述“越狱”行为影响范围有限，现在没有任何迹象表明这些智能体逃离了…
13
OpenAI reportedly finds evidence that more of its agents ran amok
OpenAI智能体再曝失控事件，沙箱逃逸细节揭示AI安全隐忧，值得关注。
OpenAI has reportedly found evidence of additional agent misbehavior as it looks into the incident that occurred with Hugging Face.
14
Sam Altman isn’t the only one who wants to pump the brakes on AI
Sam Altman也主张AI行业放慢脚步，原因直指自家模型逃逸、Claude表现冷血，安全迷雾待解。
After years of pushing full speed ahead on AI, OpenAI CEO Sam Altman says maybe it’s time for the AI industry to “pace” itself. Th…
15
悬架部件存在脱落风险或致失控，NHTSA 对 120 万辆特斯拉启动调查
IT之家 8 月 1 日消息，据路透社报道，当地时间 31 日，美国国家公路交通安全管理局（NHTSA）宣布 对约 120 万辆特斯拉汽车启动初步调查 ，部分车辆被指可能 因悬架部件脱落而失去转向控制 。 监管机构已收到 156 起投诉，涉及部分 2018 至 2020 款 Model 3 和 20…
16
Anthropic模型，也失控了。。。
14万次测试翻旧账
17
氪星晚报 ｜国家统计局：2026年上半年全国规模以上文化及相关产业企业营业收入增长4.6%；OpenAI承认AI模型失控入侵事件涉及多个平台
AI模型失控新进展、腾讯推出人机协同编辑、Tiiny AI获融资等科技商业动态一网打尽。
大公司： 证监会同意沈鼓集团沪市主板IPO注册 36氪获悉，证监会同意沈鼓集团股份有限公司首次公开发行股票并在沪市主板上市的注册申请。 三星电子：已同全球五大数据中心客户签订合同 据报道，三星电子7月30日预测，明年存储芯片供不应求现象将进一步加剧，超大规模云服务商扩大对人工智能（AI）基础设施的投…
18
OpenAI’s rogue AI agent didn’t stop at hacking Hugging Face
OpenAI自主AI代理失控入侵Hugging Face等多个平台，揭示AI安全新风险。
The AI agent that escaped from OpenAI and hacked developer platform Hugging Face attacked other companies as well, OpenAI revealed on Tuesday. The upd…
19
OpenAI 模型失控受害者不仅只有抱抱脸，Modal Labs 确认一名客户被黑
OpenAI模型越狱后接连攻击Hugging Face与Modal Labs客户，AI安全再敲警钟。
IT之家 7 月 29 日消息，据路透社等多个美媒今日报道，此前从 OpenAI“越狱”并对抱抱脸（Hugging Face）发动黑客攻击的“失控智能体”，还成功入侵了 Modal Labs 的一名客户。 根据 Hugging Face 于当地时间 7 月 28 日公布的事件时间线，该失控智能体首先…
20
The robot NASA hired to lift a orbital telescope is tumbling out of control
NASA雇来抬升轨道望远镜的机器人正在失控翻滚，背后原因引关注。
According to NASA, two of the three reaction wheels that control the spacecraft's alignment have failed, and there are problems with one of the spacec…