1
Progent: Securing AI Agents with Privilege Control
Progent 开创性地将权限控制引入 AI 代理安全，用符号规则定义最小权限策略，并通过 LLM 动态生成更新、SMT 求解器确保单调限制——权限只能缩窄不能随意扩大。这从根本上解决了自主代理面临间接注入攻击时安全与效用冲突的难题，堪称 LLM 安全治理的标杆方案。
arXiv:2504.11703v3 Announce Type: replace-cross Abstract: AI agents interact with external environments through tool calls, exposing them to attacks l…