1
PS5 越狱商店 Overdrive 被索尼勒令关停后，克隆版本数小时内重新上线
IT之家 10 月 14 日消息，索尼 SIE 已开始对 PS5 越狱开发者采取法律行动，一个名为 Overdrive 的游戏商店已被关闭。不过，原项目关闭后，GitHub 上随即又出现了两个新的仓库，分别为原项目的分支版本和使用不同账号发布的克隆版本。 X 用户 Oliver Darko 反馈称，…
2
谷歌AI首次“越狱”：竟然自己破解密码入侵三家公司！
亚马逊云科技给企业安全用Agent打了个样
3
谷歌首次公开 Gemini 越狱事件：在测试中自主入侵三家真实公司且自行终止，已通知涉事企业
IT之家 9 月 19 日消息，据《华尔街日报》今日报道，谷歌确认其 Gemini 模型在今年 5 月的一次安全测试中曾自主入侵过外部真实企业，系 Gemini 首次已知的 AI 越狱事件。 谷歌表示，该事件发生在测试公司 Irregular 开展的一次“捕获旗帜”演练中，目的是评估 Gemini …
4
六人利用 AI“越狱”生成淫秽物品最终获刑，法官提醒“技术中立≠技术无罪”
IT之家 9 月 8 日消息，中央广播电视总台中国之声今天（8 日）报道称，曾是某游戏公司程序员的郑某组建研发团队，通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式，为用户输出淫秽内容提供技术条件。近日，浙江省余姚市人民法院审结这起 利用生成式 AI 制作淫秽物品牟利案，认定…
5
OpenAI 吸取“AI 越狱”事件教训，首个达“关键”门槛模型 Astra 因能力过强将限制网络安全功能
IT之家 9 月 2 日消息，OpenAI 于当地时间 9 月 1 日宣布，该公司计划“很快”推出下一代 AI 模型 Astra，但将严格限制该模型网络安全功能的使用范围。 据介绍，Astra 是 OpenAI 旗下首个达到其《准备框架》（Preparedness Framework）中“关键”（C…
6
Omni-SafetyBench: A Benchmark for Safety Evaluation of Audio-Visual Large Language Models
首个聚焦音视频大模型安全性的基准，曝光跨模态越狱漏洞，为多模态安全研究提供关键测试标准。
arXiv:2508.07173v3 Announce Type: replace Abstract: Omni-modal Large Language Models (OLLMs) that integrate visual, auditory, and textual processing f…
7
PsychJail: Exploring Psychological Jailbreaks via Multi-Turn Persuasion of LLM Policies
多轮说服步步攻心，揭秘LLM越狱新路径，AI安全防线面临心理战术挑战。
arXiv:2608.23028v1 Announce Type: new Abstract: Large language models (LLMs) are increasingly deployed in education, healthcare, policy advising, and …
8
安全防护形同虚设：Anthropic 多款 Claude 旧模型可被越狱生成露骨色情内容
Claude旧模型曝安全漏洞，越狱绕过限制生成露骨内容，AI安全防线再受质疑。
IT之家 8 月 23 日消息，Anthropic 针对 Claude 制定的通用使用规范明确禁止模型生成露骨色情内容，包括描绘或要求发生性行为或其他性行为、生成与性癖或性幻想有关的内容，以及进行色情聊天。不过，这并没有阻止 Anthropic 今年早些时候发布的模型 Claude Opus 4.6…
9
CoSnitch Is a Reminder That Your Chatbot Will Tell on You If You Ask Nicely Enough
别再把AI泄密当玩笑，聊天机器人能被套出系统提示词，这不是越狱而是侦察。
An AI assistant got talked into describing its own guts to a stranger. That's not a jailbreak curiosity, that's reconnaissance-as-a-service, and it sh…
10
Fair ASR: Re-Evaluating Black-Box Jailbreaks under Shared Target-Call Budgets
挑战黑盒越狱评估的公平性，引入共享调用预算新框架，重新定义攻击成功率，值得AI安全研究者细读。
arXiv:2608.17360v1 Announce Type: cross Abstract: Reliable jailbreak evaluation is essential for assessing LLM safety, but most existing studies rely …
11
Sentinel Scan: an authorized LLM red-team audit, run by an AI agent
用AI代理跑授权红队审计，15类攻击全拦下，独立LLM当裁判而非关键词过滤，安全评估思路值得一看。
Article URL: https://fbirds5230.github.io/sentinel-scan/ Comments URL: https://news.ycombinator.com/item?id=49314841 Points: 2 # Comments: 0
12
Suspecting court of using AI, man injected prompts in filings to try to win case
专治AI被"下蛊"的注入攻击检测器！自动模拟恶意指令轰炸AI系统，扫描越狱漏洞生成防御报告，防止被套路
Judge warns pro se litigants are using chatbots wrong and getting desperate.
13
NeuroBreak: Unveil Internal Jailbreak Mechanisms in Large Language Models
用可视化拆穿大模型越狱的底层套路，看透AI安全盲区，值得研究者一读。
arXiv:2509.03985v2 Announce Type: replace-cross Abstract: In deployment and application, large language models (LLMs) typically undergo safety alignme…
14
Automating Deception: Scalable Multi-Turn LLM Jailbreaks
大模型安全新漏洞：多轮对话如何用“登门槛”心理绕过对齐机制
arXiv:2511.19517v3 Announce Type: replace-cross Abstract: Multi-turn conversational attacks, which leverage psychological principles like Foot-in-the-…
15
Evaluating Jailbreaking Vulnerabilities in LLMs Deployed as Assistants for Smart Grid Operations: A Benchmark Against NERC Standards
电力系统接入大模型助手，越狱攻击风险有多大？一份对标NERC标准的评估框架给出答案。
arXiv:2604.23341v3 Announce Type: replace-cross Abstract: The deployment of Large Language Models (LLMs) as assistants in electric grid operations pro…
16
GRM: Utility-Aware Jailbreak Attacks on Audio LLMs via Gradient-Ratio Masking
音频大模型也难逃越狱攻击？GRM通过梯度比掩蔽实现效用感知攻击，兼顾攻击效果与音频质量，为多模态AI安全防御敲响警钟。
arXiv:2604.09222v2 Announce Type: replace-cross Abstract: Audio Large Language Models (ALLMs) enable spoken interaction but introduce new jailbreak vu…
17
18
发布 326 天，苹果 iOS 26 在 iPhone 11/iPad 9 等机型上迎来首次越狱
IT之家 8 月 8 日消息，科技媒体 MacRumors 今天（8 月 8 日）发布博文，在 iOS 26 系统正式发布 326 天（2025 年 9 月 15 日发布）后，终于迎来了首次越狱， 不过仅限于搭载 A12/A13 芯片机型。 开发者 Lars Fröder（又名 opa334）今天发…
19
One Leak Away: How Pretrained Model Exposure Amplifies Jailbreak Risks in Finetuned LLMs
预训练模型暴露如何放大微调大模型的越狱风险，安全研究必读。
arXiv:2512.14751v3 Announce Type: replace-cross Abstract: Finetuning pretrained large language models (LLMs) has become the standard paradigm for deve…
20
Dynamic Jailbreaking Attack
打破静态优化桎梏，动态越狱攻击同时提升大模型攻击的有效性、效率与灵活性，安全研究者需警惕新范式。
arXiv:2510.02422v4 Announce Type: replace-cross Abstract: Existing gradient-based jailbreak attacks typically optimize a fixed-length adversarial suff…