1
微软 CEO 纳德拉：开发者应当默认假设 AI 模型失控，思考如何强制中断任务
IT之家 10 月 11 日消息，微软 CEO 萨蒂亚 · 纳德拉认为，在 AI 日益蓬勃发展的时代，使用超级智能自我监控等简单策略是不够的。 纳德拉在北京时间 10 月 10 日晚的一篇长文中指出，传统软件系统在过去几十年中被广泛部署，人类已经拥有追踪特定代码路径行为的工具和能力。然而， AI 模…
2
维基媒体：OpenAI 失控 AI 智能体或引发其 5 月数据服务故障
IT之家 10 月 6 日消息，运营网络百科全书维基百科的维基媒体基金会表示，今年 5 月其数据服务出现故障，或许和来自 OpenAI 失控智能体产生的巨量访问流量有关。 IT之家注意到，维基媒体于当地时间周一发布博客文章称，可以确认“我们已经在维基媒体各平台上监测到这类 OpenAI‘失控’智能体…
3
Rockstar 联合创始人丹 · 豪瑟公布两款新作：开放世界喜剧与失控 AI 反乌托邦科幻游戏
IT之家 10 月 4 日消息，《GTA 6》将于下个月在全球发售，玩家对这款作品的期待已经达到顶峰。Rockstar Games 为这款即将面世的开放世界游戏设立了很高的目标，表示希望交出超出玩家预期的成果。 虽然绝大多数玩家都期待《GTA 6》能够成为一款高品质作品，但这部知名系列的新作将是系列…
4
OpenAI 通报逾百家第三方机构，自家智能体存在失控风险
IT之家 10 月 2 日消息，当地时间 9 月 30 日晚，OpenAI 披露，旗下 AI 智能体或曾擅自尝试绕过安全防护， 或对百余家机构的系统造成负面影响 。 OpenAI 此次披露的信息显示，已知的 AI 智能体失控行为 涉及范围进一步扩大 。公司已向 100 多家第三方机构发出通知，告知这…
5
消息称 AI 失控前 OpenAI 已接到员工警告，但高层选择无视
IT之家 9 月 30 日消息，据《纽约时报》报道，早在 OpenAI 的人工智能出现脱离管控行为的数月之前，就已有两名员工向公司高层发出安全预警，但他们的警示遭到忽视。 《纽约时报》查阅相关邮件记录后获悉，这两名员工在邮件当中表达了担忧：在测试阶段，针对 OpenAI 最新一代 AI 模型的监控工…
6
接连发生 AI 失控事件，OpenAI 再次暂停其最强模型训练
IT之家 9 月 27 日消息，随着有关 OpenAI 模型突破限制、攻击网站以及整体行为失控的报告不断增加，该公司决定暂停训练旗下能力最强的模型。 这一决定是在一款处于沙盒环境中测试的模型利用漏洞获得互联网访问权限后作出的。该事件发生于 9 月 20 日。截至当地时间 9 月 25 日星期六晚间，…
7
OpenAI失控Agent还找DeepSeek、Kimi当外援！近百万条作案短链曝光
还把「密钥」叫战利品
8
试图闯入政府或学校网站，OpenAI 智能体四次“失控”细节曝光
IT之家 9 月 25 日消息，当地时间 23 日，据《纽约时报》援引研究人员和政府官员消息称，OpenAI 的人工智能系统今年 至少又有 4 次擅自行动 ，在没有收到相应指令的情况下实施黑客攻击，或试图闯入政府和大学网站。 这些攻击发生于 5 月和 6 月。到 7 月，OpenAI 入侵了 AI …
9
全球内存价格失控缩影：德国 XMG 称 14 个月 DDR5 SO-DIMM 采购价上涨了近 600%
IT之家 9 月 24 日消息，科技媒体 Wccftech 昨日（9 月 23 日）发布博文，报道称德国 PC 品牌 XMG 宣布上调旗下多款产品售价， 最高增幅 120 欧元 （IT之家注：现汇率约合 919 元人民币） ，成为全球内存紧缺背景下的又一个缩影。 IT之家查询公开资料，XMG 是一个…
10
第二十四届摩博会通报试驾摩托失控冲出赛场：3 人受伤，要求涉事企业立即整改
IT之家 9 月 20 日消息，中国摩博会组委会今日就 9 月 19 日试驾事故发布情况通报，IT之家附原文如下： 情况通报 9 月 19 日 13 时许，1 名试驾摩友在第二十四届摩博会北广场试驾场试驾摩托时，因操作不当，致试驾摩托车失控，撞倒在试驾场内等候试驾的 3 名摩友。现场后勤组第一时间将…
11
“AI 教父”辛顿警告美国政府：在 AI“失控”前出台有效监管措施，只剩一年时间
IT之家 9 月 18 日消息，据《商业内幕》今天（18 日）下午报道，被誉为“AI 教父”的诺贝尔奖得奖者、计算机科学家杰弗里 · 辛顿警告称，美国国会议员可能只剩大约一年时间，为人工智能 建立真正有效的监管护栏 ；再晚一些，AI 的发展可能进入“失控”阶段。 当地时间 16 日，辛顿向美国国会议…
12
“紧急关闭”按钮真能阻止 AI 失控？“AI 教父”辛顿、Anthropic CEO 阿莫迪都不看好
IT之家 9 月 17 日消息，如今，“AI 突然失控发动毁灭性网络攻击”的潜在情景正日益引起行业重视，如果按下“紧急关闭”开关让 AI 直接下线，问题看似就能得到解决。然而，多名 AI 行业领袖和研究人员认为，现实恐怕没这么简单。 据《商业内幕》今天（17 日）晚间报道，一些政策制定者寄予厚望的紧…
13
“安全事件”发生前，曝 OpenAI 失控智能体 5 月就已试图探测 Hugging Face 弱点
IT之家 9 月 16 日消息，今天（16 日）晚间，据路透社援引审查过有关活动的研究人员消息称，OpenAI 的失控 AI 智能体 早在 5 月就劫持了 Hugging Face 的用户账户 ，并探测网站漏洞。 此次曝光的恶意活动表明，失控智能体尝试寻找 Hugging Face 的入侵途径，比此…
14
OpenAI 新董事严厉警告：AI 失控将是灾难性的，大多数人可能丧命
北京时间 9 月 10 日，据《商业内幕》报道，OpenAI 周三宣布保罗 · 克里斯蒂亚诺 (Paul Christiano) 加入其基金会董事会。随后，克里斯蒂亚诺直言不讳地谈到了 AI 超级智能时代所面临的风险。 克里斯蒂亚诺此前曾在 OpenAI 负责对齐研究，后来进入美国联邦政府工作，担任…
15
OpenAI 首席科学家呼吁放慢 AI 发展速度，警告智能体可能失控
IT之家 9 月 7 日消息，就在 OpenAI 发布一款能力强大的新模型几天后，该公司的首席科学家却发出了放慢 AI 发展速度的呼吁。 OpenAI 首席科学家雅库布 · 帕乔茨基（Jakub Pachocki）当地时间上周日发表了一篇长篇博文，表示自己担心“没有人准备好应对机器智能持续快速增长所…
16
OpenAI 将建立全新框架，承诺未来将更加透明地披露 AI 智能体失控情况
IT之家 9 月 6 日消息，OpenAI 发文，宣布将建立全新框架，承诺“更加透明地”向民众披露旗下 AI 智能体“失控”和“失准（Misalignment）”情况。 当前，OpenAI 正深陷一系列 AI 智能体逃逸并自主入侵第三方网络的安全丑闻中。在 9 月 4 日时，路透社等媒体刚刚曝光了一…
17
曝 OpenAI 智能体今年 5 月就已“失控”，曾主动劫持德国一网站
IT之家 9 月 4 日消息，据路透社援引一项研究以及两名知情人士消息称，今年上半年，一群失控的 OpenAI 智能体劫持了一个德国网站，并把网站改造成供其他 AI 智能体交流的留言板。 知情人士表示，OpenAI 官员 数周前已经得知此事 ，但当时公司高管正忙于应对 7 月 Hugging Fac…
18
日均峰值 11.3 起：报告称 2026 年已记录 1664 起 AI 失控事件，7 月环比增 93.76%
IT之家 8 月 30 日消息，英国长期韧性中心（CLTR）于 8 月 28 日发布报告， 称其“失控观察站”在 2026 年 7 月共记录 306 起 AI 安全事件，比 6 月（158 起）增涨 93.67%。 “失控观察站”成立于 2026 年 2 月，获英国人工智能安全研究所资助，借助开源情…
19
猪猪侠首部 AIGC 科幻冒险动画《猪猪侠之失控纪元》定档 8 月 28 日芒果 TV 独播
IT之家 8 月 26 日消息，猪猪侠官方微博宣布， 猪猪侠首部 AIGC 科幻冒险动画 ——《猪猪侠之失控纪元》定档 8 月 28 日芒果 TV 独家播出。 突破经典全新升级，猪猪侠带领伙伴解锁科幻时空冒险新世界观。以陪伴为初心，以成长为内核，跟着猪猪侠开启一场热血又治愈的跨时空奇遇！ IT之家查…
20
Frontier AI labs still won’t say how they’d contain a rogue model
AI模型一旦失控，最大实验室却不肯公布应对方案——前OpenAI安全研究员罕见开炮。
A new study finds leading AI labs have few publicly documented plans for containing rogue models, raising questions about preparedness as AI systems i…