1
ServiceNow 首席执行官：我家平台设有终止开关，AI 模型不会失控越狱
AI安全新范式：ServiceNow CEO揭秘平台终止开关，防止AI模型越狱失控。
IT之家 7 月 24 日消息，SaaS（软件即服务）企业 ServiceNow 首席执行官 Bill McDermott 表示，该企业的平台设有终止开关，可以阻止失控的 AI 智能体， 因此不会发生类似 OpenAI 内部模型逃逸容器并攻击 Hugging Face 基础设施情况 ；客户使用 Se…
2
Can We Stop Malicious AI? KILLBENCH: A Benchmark for External AI Kill Switch Feasibility
AI作恶怎么办？新基准KILLBENCH测试外部终止开关可行性，为AI安全提供量化评估。
arXiv:2511.13725v4 Announce Type: replace-cross Abstract: Malicious AI causing harm to humans is not just a Hollywood fantasy. Indeed, as highly capab…