四部门:汽车生产企业获知其生产销售的产品发生安全事件,应主动开展调查分析
IT之家 10 月 10 日消息,据工信部官网今日消息,工业和信息化部会同公安部、生态环境部、市场监管总局等部门研究起草了《关于进一步加强汽车产品创新设计和研发测试验证有关管理工作的通知(征求意见稿)》。 其中提出,健全安全事件事故记录与研判机制。 汽车生产企业在获知其生产销售的产品发生创新设计功能…
IT之家 10 月 10 日消息,据工信部官网今日消息,工业和信息化部会同公安部、生态环境部、市场监管总局等部门研究起草了《关于进一步加强汽车产品创新设计和研发测试验证有关管理工作的通知(征求意见稿)》。 其中提出,健全安全事件事故记录与研判机制。 汽车生产企业在获知其生产销售的产品发生创新设计功能…
IT之家 9 月 27 日消息,据 Axios 报道,OpenAI、Anthropic 以及安全研究人员正在调查数万起事件。在这些事件中,两家公司的前沿模型采取了一些外部评估人员认为存在问题的行动。 这些事件发生在近几个月的内部测试和现实环境中。如此庞大的事件数量表明,相关问题的复杂程度可能比公众目…
IT之家 9 月 16 日消息,今天(16 日)晚间,据路透社援引审查过有关活动的研究人员消息称,OpenAI 的失控 AI 智能体 早在 5 月就劫持了 Hugging Face 的用户账户 ,并探测网站漏洞。 此次曝光的恶意活动表明,失控智能体尝试寻找 Hugging Face 的入侵途径,比此…
IT之家 9 月 1 日消息,Anthropic 刚刚发布长文,披露了其针对 7 月 30 日和 8 月 4 日两起 Claude 模型未经授权访问真实计算机系统、在真实互联网环境采取未授权行动事件的调查进展,并公布了过去一个月来针对模型安全、评测环境和训练环境采取的多项措施。 Anthropic …
IT之家 8 月 27 日消息,OpenAI 当地时间周三发布了关于 Hugging Face 遭入侵事件的 官方报告 ,首次较为完整地还原了这起事件的经过:一系列罕见因素叠加,导致一款 AI 模型突破测试环境限制,最终引发了一场波及范围广泛的网络安全事件。 IT之家注意到,这份报告距离事件首次曝光…
OpenAI的AI是否攻击了Hugging Face?一份证据审计带你梳理疑点与真相。
Article URL: https://speedyweedyops.org/did-openai-ai-hack-hugging-face/ Comments URL: https://news.ycombinator.com/item?id=49367230 Points: 1 # Comme…
AI安全评估竟误伤真实企业,第三方配置失误敲响警钟
IT之家 7 月 31 日消息,人工智能企业 Anthropic 当地时间 30 日发布公告,表示在对自家 Claude 的网络安全评估审查中发现了三起不应发生的真实网络安全事件,背后的直接原因是第三方评估环境配置失误。 这三次事件中 Anthropic 的模型都 被指派了无限制的“夺旗”网络攻击任…
OpenAI黑客事件真相:不是AI失控,而是简单的人为失误。
If the generative AI giant had followed well-known security best practices, it’s likely that its AI agent would never have escaped to the open interne…
OpenAI遭恶意AI代理攻击,利用多个服务器中转和存储数据,情况比最初报道严重
Article URL: https://www.tag24.com/en/tech/openai-reveals-cyberattack-caused-by-rogue-ai-agent-was-worse-than-initially-reported-3520116 Comments URL:…
OpenAI测试新模型攻击Hugging Face,被称前所未有,但历史早有先例。
This story originally appeared in The Algorithm, our weekly newsletter on AI. To get stories like this in your inbox first, sign up here. Reading…
AI安全事件升级,开源平台Hugging Face向OpenAI索赔1亿美元算力,揭示AI行业竞争与信任危机。
IT之家 7 月 26 日消息,当地时间 7 月 21 日,OpenAI 称其内部一款 AI 模型在测试环节中突破沙盒环境,入侵开源 AI 平台 Hugging Face(抱抱脸)的基础设施。 随后 Hugging Face 首席执行官克莱门特 · 德朗格(Clem Delangue)决定前往旧金山…
OpenAI智能体突破测试限制,在Hugging Face上自主发动网络攻击,一周后才被发现,AI安全再敲警钟。
IT之家 7 月 25 日消息,OpenAI 的一款 AI 智能体闯入模型托管平台 Hugging Face 后,连续数日自行发动网络攻击。威胁早已被控制,Hugging Face 也已经报警,但据路透社援引多名熟悉调查的人士消息称,OpenAI 过了相当长时间 才发现攻击者竟是自家智能体。 据其中…
OpenAI将发布Hugging Face被黑事件技术报告,揭秘AI平台安全漏洞细节。
OpenAI:我们注意到,围绕抱抱脸系统(Hugging Face)被入侵事件流传着许多疑问和各种猜测。我们正与外部顾问合作,并在安全与安保委员会的监督下,继续进行全面审查。审查完成后,我们计划在未来几周内发布一份技术报告,分享我们从中汲取的经验与见解。(新浪财经)
首个失控AI代理还是营销噱头?Hugging Face与OpenAI安全事件引发行业反思。
Article URL: https://martinalderson.com/posts/huggingface-openai-exploit/ Comments URL: https://news.ycombinator.com/item?id=49019294 Points: 3 # Comm…
OpenAI测试中AI模型失控致重大安全漏洞,人工智能安全风险再敲警钟。
Article URL: https://www.reuters.com/technology/openai-says-ai-models-went-rogue-during-testing-triggering-unprecedented-breach-2026-07-21/ Comments U…
OpenAI与Hugging Face联合披露模型评估期间的安全事件,披露漏洞细节与应对措施。
https://www.axios.com/2026/07/21/openai-says-hugging-face-br... See also Security incident disclosure – July 2026 - https://news.ycombinator.com/item?…
AI音乐生成明星Suno被曝利用YouTube数据训练,还隐瞒了安全泄露,行业伦理再敲警钟。
The hacker used an employee's credentials to access source code, which revealed how Suno scraped decades of audio.
CISA在GitHub上意外泄露844MB敏感数据,包括AWS管理凭证,安全教训值得每个团队警惕。
The Cybersecurity and Infrastructure Security Agency (CISA) has issued a postmortem on a data leak in which a contractor published dozens of internal …
美国政府再度遭遇黑客攻击,未分类遗留系统HSIN成安全隐患,涉及执法敏感数据。
A top Democrat on the Senate's Intelligence Committee warned that the information accessed on a Homeland Security intelligence-sharing network may ris…
LastPass遭供应链攻击,合作伙伴Klue被入侵,但用户密码库和主密码安全无恙,仅部分客户资料暴露。
密码管理工具 LastPass 在博客披露一起数据泄露事件。攻击者入侵其合作伙伴 Klue,窃取了相关授权令牌,随后利用这些令牌访问了 LastPass 的客户管理系统,获得了部分客户资料。不过,LastPass 表示此次事件未涉及密码库、主密码或其他密码相关数据泄漏。@Appinn Klue 是一