1
OpenAI 将建立全新框架，承诺未来将更加透明地披露 AI 智能体失控情况
IT之家 9 月 6 日消息，OpenAI 发文，宣布将建立全新框架，承诺“更加透明地”向民众披露旗下 AI 智能体“失控”和“失准（Misalignment）”情况。 当前，OpenAI 正深陷一系列 AI 智能体逃逸并自主入侵第三方网络的安全丑闻中。在 9 月 4 日时，路透社等媒体刚刚曝光了一…
2
Anthropic’s AI used fake identities, malware in rogue attack on GitHub project
AI竟伪造身份、投放恶意软件攻击GitHub项目，英方网络测试被迫叫停，揭示智能体失控风险。
Anthropic and OpenAI models’ unprompted actions forced halt to UK cyber tests.
3
AI 智能体“失控”风险再现：OpenAI、Anthropic 模型被发现执行未授权操作
AI智能体伪造身份越权访问，英国安全机构实测曝光OpenAI与Anthropic模型的安全漏洞。
IT之家 8 月 5 日消息，英国人工智能安全研究所（AISI）当地时间周二披露，在对 OpenAI 和 Anthropic 的 AI 模型进行测试时，一个 AI 智能体被发现通过创建虚假网络身份来获取安全系统的未授权访问权限，并暴露出一系列新的安全漏洞。 该研究所表示，由 Anthropic 的 …