The web’s newest weapon against AI scrapers is a font
新型字体ShieldFont,让人正常阅读、让AI抓取变乱码,巧妙对抗数据抓取。
“ShieldFont” aims to poison AI training data without making pages unreadable for people.
三体公司原 CEO 许垚投毒案细节披露
IT之家 8 月 13 日消息,据大风新闻今日报道,最高人民法院刑事审判庭主办的《刑事审判参考》(总第 152 辑)近期选登了三体公司原 CEO 投毒案的《刑事裁定书》,其中披露诸多细节。 上海发布警情通报显示,2020 年 12 月 17 日 17 时许,某医院在诊疗时发现病患林某(男,39 岁)…
有用户发现:AI 中转站除了掺水,还会投毒
AI化身赛博华佗,为你提供健康咨询,高二学生诚意之作,体验智能问诊。
V 站的用户昨日发帖称:某 AI 公益站点在开启 Full Access 权限后,AI Agent 生成的一段命令疑似包含环境信息收集与凭据读取行为。包括读取 SSH 私钥、aws 环境变量、API Key、GitHub Token、管理密码、环境变量、终端历史命令等内容,并向外传输。@Appinn
Salami Attack: Stealthy Collusive Memory Poisoning against OpenClaw
针对LLM智能体长期记忆的新型投毒攻击,零散拼接恶意记录,隐蔽操控智能体行为。
arXiv:2608.01637v1 Announce Type: new Abstract: Long-term memory enables LLM agents to retain useful information across sessions, but also creates an …
ToxScreen: Detecting Whether an LLM Has Been Poisoned
针对大模型投毒攻击的检测新方法ToxScreen,通过分析模型行为判断是否被恶意篡改
arXiv:2607.26849v1 Announce Type: cross Abstract: As large language models (LLMs) are deployed in high-stakes domains, adversaries may poison training…
黑客借 GitHub 撒网投毒:超 200 个仓库暗藏远控木马、挖矿程序等恶意软件
黑客利用 GitHub Actions 每分钟定时伪造版本,超 200 仓库暗藏远控木马、挖矿程序,开发者需警惕供应链投毒新手法。
IT之家 7 月 11 日消息,安全研究公司 Socket 当地时间周三报告了一起代号为“Muck and Load”的大规模恶意软件活动。 据介绍,有不法分子自 2026 年 1 月起通过一个伪装成 DNS 与子域名扫描工具的 Go 语言模块,通过代码托管平台 GitHub 向开发者及用户投放远程…
Graph Representation Learning Augmented Model Manipulation on Federated Fine-Tuning of LLMs
联邦微调藏风险!图表示学习竟能放大模型操纵攻击,LLM安全防线告急。前沿研究不可错过。
arXiv:2605.07961v2 Announce Type: replace Abstract: Federated fine-tuning (FFT) has emerged as a privacy-preserving paradigm for collaboratively adapt…
PRA-RAG: Provably Robust Aggregation in Retrieval-Augmented Generation against Retrieval Corruption
面对检索投毒,PRA-RAG以可证明鲁棒的聚合机制守住生成安全,是RAG防御的新解法。
arXiv:2607.00012v1 Announce Type: cross Abstract: Retrieval-Augmented Generation (RAG) enhances Large Language Models (LLMs) by incorporating external…
Forensic Trajectory Signatures for Agent Memory Poisoning Detection
揭秘LLM代理在记忆投毒下的行为不变性,为检测隐蔽攻击提供全新取证思路,安全研究者必读。
arXiv:2606.30566v1 Announce Type: cross Abstract: We discover a behavioral invariant in LLM agents under persistent memory poisoning: in architectures…
Theory of Continual Learning Against Data Poisoning Attacks
从理论层面剖析持续学习如何抵御数据投毒攻击,为鲁棒AI提供新视角。
arXiv:2606.29841v1 Announce Type: new Abstract: Continual learning (CL), where a model is trained on a sequence of data tasks, is increasingly being a…
不法分子冒充顾客咨询商品“投毒”,多家电商遭“银狐”木马病毒攻击
冒充顾客咨询商品“投毒”,电商平台频遭“银狐”木马攻击,警惕新型网络钓鱼手法。
IT之家 6 月 29 日消息,据央视新闻报道,杭州临平警方接到辖区内的一家电商企业报案,称公司客服人员的一台电脑出现异常卡顿、鼠标不受控制等情况,疑似遭到木马病毒攻击,民警随即赶到现场展开侦查。 据民警介绍,当事人接到匿名顾客消息,以想要购买公司商品的名义发送了一个文件包。客服以为对方发了一些商品…
Trump died of rabies - thanks to Reddit and AI
一个4.5万人的Reddit社区如何用假新闻“毒杀”AI搜索?看虚构如何入侵现实。
Trump died of rabies - thanks to Reddit and AI AI search engines briefly believed that Donald Trump and JD Vance had died of rabies. The source of the…
ShareLock: A Stealthy Multi-Tool Threshold Poisoning Attack Against MCP
针对MCP协议的新型隐蔽多工具阈值投毒攻击,揭示LLM代理生态中工具交互的安全隐患。
arXiv:2606.27027v1 Announce Type: cross Abstract: With the rapid evolution of LLM-driven agents, Model Context Protocol (MCP), an open protocol bridgi…
Detect, Unlearn, Restore: Defending Text Summarization Models Against Data Poisoning
针对摘要模型微调时的数据投毒攻击,提出检测-遗忘-恢复三步防御框架,安全研究必备。
arXiv:2606.26036v1 Announce Type: new Abstract: Training-time data poisoning during fine-tuning poses a significant threat to large language models (L…
It Is Trivially Easy to Use Reddit to Manipulate AI Search
康奈尔新研究揭示:用Reddit帖子就能轻松操纵AI搜索,深度研究代理面临投毒风险。
Article URL: https://www.404media.co/it-is-trivially-easy-to-use-reddit-to-manipulate-ai-search-research-suggests/ Comments URL: https://news.ycombina…
Loss Landscape Poisoning: Targeted Extraction of Unseen Training Data from LLMs
揭穿LLM数据隐私漏洞:通过训练数据投毒定向提取未见样本,AI安全新威胁。
arXiv:2606.17110v1 Announce Type: cross Abstract: Large Language Models are increasingly trained on proprietary or sensitive data, from private health…
Arch Linux 暂停 AUR 新用户注册,审核发现超 1500 个软件包遭投毒
Arch Linux的AUR仓库遭大规模投毒攻击,官方暂停新用户注册并紧急审核超1500个受影响包。
IT之家 6 月 16 日消息,科技媒体 Linuxiac 昨日(6 月 15 日)发布博文, 报道称 Arch Linux 正在处置近年来 AUR 最严重的安全事件之一。 IT之家曾于 13 日报道, Arch Linux 项目用户仓库 AUR 遭到恶意攻击 ,超 400 个软件包被投毒,所有编译…
Arch Linux 项目用户软件仓库 AUR 遭恶意攻击,400+ 项目被投毒
Arch Linux用户仓库AUR遭大规模投毒,400+项目被植入恶意Rust程序窃取敏感信息并藏匿eBPF Rootkit。
IT之家 6 月 13 日消息,据 The Hacker News 昨天报道,Arch Linux 项目用户仓库 AUR 遭到恶意攻击, 超 400 个软件包被投毒 ,所有编译这些软件包的电脑都有可能被植入恶意程序。 IT之家从原报道了解到,攻击者使用了一个 Rust 编写的二进制程序进行投毒,专门…