1
因非法共享 Grindr 用户敏感数据，挪威数据保护局对微软旗下 Xandr 开出该局史上最大罚单
IT之家 10 月 13 日消息，挪威数据保护局现已对 Xandr 开出 9200 万挪威克朗的行政处罚罚单，折合 860 万欧元 （IT之家注：现汇率约合 6,451.3 万元人民币） ，这是该局迄今为止开出的最高金额罚单。 挪威数据保护局局长莉娜 · 科尔（Line Coll）表示：“本案之所以…
2
挪威政府拟在部分敏感区域实施人工智能眼镜临时禁令
IT之家 10 月 6 日消息，挪威政府当地时间本月 5 日表示， 计划尽快向议会提交临时禁止在部分敏感区域使用人工智能眼镜的草案 ，并为后续永久性立法设立专家咨询机构。 这里的“敏感区域”可能包括公园、海滩、博物馆、购物中心、学校、幼儿园、游乐场、课外活动中心、医疗机构、设有更衣淋浴设施的健身场所…
3
因违反敏感信息访问和共享规定，OpenAI 与三名研究人员终止合作
IT之家 10 月 2 日消息，当地时间 1 日，根据《华尔街日报》报道，OpenAI 宣布与三名研究人员终止合作，原因是三人违反了 敏感信息访问和共享规定 。 OpenAI 发言人在声明中说：“我们已与三名违反公司敏感信息访问和处理规定的人员解除关系。调查确认，这些人员 绕过公司既定流程，不当处理…
4
Glow Security：AI 智能体无意间泄露企业敏感信息，超 1.3 万张截图被放在 GitHub 公开仓库
IT之家 9 月 30 日消息，据科技媒体 TechRadar 今天报道，网络安全研究机构 Glow Security 近日发现，多个 AI 智能体创建的公开 GitHub 仓库存在超 1.3 万张屏幕截图， 其中部分截图包含各种科技公司的敏感信息 。 IT之家从原报道获悉，这种泄密方式被称为“Pi…
5
Beyond Prompt Engineering: A Systematic Analysis of Prompt Lexical Sensitivity and Its Impacts on Quality
同一提示词换个词性能骤变，这项研究首次从n-gram词元级别系统拆解LLM的提示词敏感性，帮你避开微调陷阱。
arXiv:2608.20349v1 Announce Type: cross Abstract: Large Language Models (LLMs) exhibit extreme sensitivity to surface-level prompt variations, in whic…
6
Evaluating and Explaining Prompt Sensitivity of LLMs Using Interactions
一句话看清大模型“变脸”真相：提示词微调竟让输出天翻地覆，交互式评估方法论带你量化并解释这种敏感脆弱。
arXiv:2608.18539v1 Announce Type: cross Abstract: The remarkable capabilities of large language models (LLMs) are often undermined by their instabilit…
7
Privacy-Preserving RAG by Concealing Sensitive Information from External LLMs
当RAG遇上敏感数据，这篇论文直击“外部LLM偷看隐私”的盲区，提出隐藏敏感信息的新方案。
arXiv:2608.12675v1 Announce Type: new Abstract: Retrieval-Augmented Generation (RAG) is widely used to improve the performance of Large Language Model…
8
Show HN: Aileaks – scan repos for leaked LLM reasoning-trace secrets
开源工具Aileaks可扫描代码仓库，揪出泄露的LLM推理轨迹与敏感秘密。
Article URL: https://github.com/sarthakuwar/aileaks Comments URL: https://news.ycombinator.com/item?id=49271711 Points: 3 # Comments: 1
9
Overconfident and Blind to Details: Fixing Prompt Insensitivity with Abductive Preference Learning
大模型竟对五条腿的狗视而不见？这项研究用溯因偏好学习破解提示不敏感难题。
arXiv:2510.09887v3 Announce Type: replace Abstract: Vision and language models frequently ignore semantically critical input edits, defaulting to pret…
10
TONTOU 攻击披露：绕过部分处理器 Spectre v2 缓解措施，可泄露 Linux 敏感数据
揭开 TONTOU 攻击面纱：处理器 Spectre v2 缓解并非万能，Linux 敏感数据面临新威胁
IT之家 8 月 7 日消息，科技媒体 bleepingcomputer 昨日（8 月 6 日）发布博文，报道称麻省理工学院 计算机科学与人工智能实验室（CSAIL）最新披露 TONTOU 攻击， 可以在 AMD 和英特尔处理器上，绕过部分 Spectre v2 缓解措施。 该攻击全称为 Time-…
11
Single Canonical Prompts Underestimate LLM Safety's Surface-Form Sensitivity
别被单一提示词骗了！这项研究揭示LLM安全评估常因表面措辞变化而失真，需警惕安全机制的真实覆盖范围。
arXiv:2608.02665v1 Announce Type: cross Abstract: A benchmark score is a measurement instrument, yet most benchmarks read each item at a single canoni…
12
PISIGuard: Protect your personal and sensitive info when you chat with AI
聊天时自动守护隐私，敏感信息一键屏蔽，从此放心畅聊AI助手
Article URL: https://github.com/mohamed--abdel-maksoud/pisiguard Comments URL: https://news.ycombinator.com/item?id=49153029 Points: 7 # Comments: 6
13
C-PTQ: Fisher-weighted Channel-wise Sensitivity for Post-training Quantization of MLLMs
Fisher信息加权通道敏感度，为多模态大模型后训练量化提供新高效方案。
arXiv:2607.21076v1 Announce Type: new Abstract: Multimodal large language models (MLLMs) require huge memory and computational costs, which limits the…
14
Fragile Preferences: A Deep Dive Into Order Effects in Large Language Models
揭秘大模型如何被输入顺序“带偏”——这项研究深入分析了LLM偏好的脆弱性，对理解模型鲁棒性至关重要。
arXiv:2506.14092v4 Announce Type: replace Abstract: Large language models (LLMs) are increasingly deployed in decision-support systems for high-stakes…
15
Shadow AI: What Your Team Is Already Pasting Into ChatGPT
警示：你的团队可能在ChatGPT中输入敏感数据，先了解什么正在外泄，再考虑禁止。
Right now, somewhere in your org, someone is pasting a stack trace, a customer record, or a chunk of the codebase into ChatGPT to get unstuck. You kno…
16
微软 OneDrive 新功能：敏感 PDF 文件禁止截图，目前仅限 Edge 浏览器
微软 OneDrive 云存储新增敏感 PDF 截图拦截功能，结合 Edge 浏览器强化企业文档安全防护，助力合规管理。
IT之家 7 月 20 日消息，据科技媒体 Windowslatest 今天报道，微软 OneDrive 现已推出一项新功能，可阻止用户对敏感 PDF 文件进行截图，目前仅适用于 Edge 浏览器。 据报道，该功能初期主要面向企业用户， 但并没有使用 DRM（IT之家注：数字版权管理）API 。如果…
17
SteinGate: Tail-Sensitive Safe Reinforcement Learning via Stein Discrepancy
利用Stein散度提升安全强化学习对尾部风险的敏感度，UAI 2026收录新方法
arXiv:2607.13175v1 Announce Type: cross Abstract: Safe reinforcement learning typically enforces safety by bounding expected cumulative costs, a crite…
18
What Switching From C# to Rust Actually Taught Me
从C#转向Rust，一次关于可控性与编译期安全的深刻对比，揭示内存管理哲学如何塑造代码行为。
I've spent most of my career writing C#. ASP.NET Core, EF Core, the whole ecosystem — it's productive, well-documented, and I've never had a real comp…
19
Framing Instability in LLM Ethical Stance: Auditing Negation Sensitivity in Moral Dilemmas
道德困境下，模型对“应该”和“不应该”的立场可能瞬间翻转，16个模型全员中招，值得深思。
arXiv:2601.21433v2 Announce Type: replace Abstract: Language models are increasingly consulted on ethically consequential questions, yet the stance a …
20
工信部发布风险提示：Claude Code 存在安全后门，可能泄露用户敏感信息
工信部点名Claude Code存在安全后门，AI编程工具可能成为泄露敏感信息的隐患。
IT之家 7 月 8 日消息，工业和信息化部网络安全威胁和漏洞信息共享平台（NVDB）今日发布了一则风险提示，指出 AI 编程工具 Claude Code 存在安全后门隐患。 根据 NVDB 的监测结果，Claude Code 由美国人工智能公司 Anthropic 开发，能够根据文字需求自主完成代…