1
OpenAI 内部 Lily 项目曝光：人工审核 ChatGPT 用户聊天记录以优化大模型
IT之家 9 月 15 日消息，众所周知，ChatGPT 这类平台的对话日志会被用来优化模型。但在此之前，这套处理机制一直是个谜。404 Media 刚刚发布了一份报道，披露了 OpenAI 对聊天记录开展人工审核的整套流程，介绍了审核如何运作，以及审核人员有时会读到用户私人信息这一情况。 Open…
2
苹果更新 App Store 审核指南，将清理“约会、手电筒、壁纸、音效”等低质量应用
IT之家 9 月 14 日消息，苹果现已更新旗下 App Store 审核指南 4.3 (b) 条款，官方将移除长期未更新或无法吸引用户的“约会、手电筒、壁纸、音效、简单计时器、算命”等类型应用。 苹果在 4.3 (b) 中表示，目前 App Store 中已存在大量约会、手电筒、音效、壁纸、简单计…
3
App 内容审核不够：英国拟推动 iOS / 安卓系统层面增强未成年人安全保护
IT之家 9 月 9 日消息，彭博社昨日（9 月 8 日）发布博文，报道称英国进一步收紧儿童隐私 / 安全保护政策，要求苹果、谷歌等科技公司， 阻止儿童在手机和平板电脑上拍摄、分享或观看裸露图片。 英国文化大臣丽莎 · 南迪（Lisa Nandy）在英国下议院表示，政府会尽快提出法案， 推动未成年人…
4
长江存储科创板 IPO 审核状态变更为“已问询”，距受理仅 9 个工作日
IT之家 9 月 4 日消息，9 月 3 日晚，上交所网站显示，长江存储控股股份有限公司（简称“长存控股”）首次公开发行股票并在科创板上市的 IPO 审核状态变更为“已问询”。公司 IPO 申请于 8 月 21 日获受理，首轮问询距离受理时间仅 9 个工作日。 长存控股此次 IPO 拟募资 330 …
5
安全防护形同虚设：Anthropic 多款 Claude 旧模型可被越狱生成露骨色情内容
Claude旧模型曝安全漏洞，越狱绕过限制生成露骨内容，AI安全防线再受质疑。
IT之家 8 月 23 日消息，Anthropic 针对 Claude 制定的通用使用规范明确禁止模型生成露骨色情内容，包括描绘或要求发生性行为或其他性行为、生成与性癖或性幻想有关的内容，以及进行色情聊天。不过，这并没有阻止 Anthropic 今年早些时候发布的模型 Claude Opus 4.6…
6
国产 NAND 龙头长江存储冲刺科创板：IPO 审核状态变更为已受理，拟融资 330 亿元
IT之家 8 月 21 日消息，上海证券交易所网站显示，长江存储控股股份有限公司（IT之家下称“长江存储”）首次公开发行股票并在科创板上市的 IPO 审核状态已变更为“已受理”。 公司拟融资金额为 330 亿元，保荐机构为中信证券和中信建投 。 此前 8 月 19 日，长江存储 IPO 辅导状态刚由…
7
LinkedIn cracks down on automated content with AI detection button
一键识别AI生成内容，帮你过滤LinkedIn上的自动化灌水帖，维护真实社交互动。
Article URL: https://www.campaignindia.in/article/linkedin-cracks-down-on-automated-content-with-new-seems-like-ai-slop-detection-button/43e4tn3qyq543…
8
Replayable Node.js Content Moderation Contracts for JSON Chat Completions
可重放合同设计让Node.js内容审核边界清晰，AI分类与应用决策解耦，护航JSON对话接口更安全。
Short answer: Treat content moderation as a typed authorization boundary: a Node.js upload should remain pending until a chat-completions-compatible a…
9
AI 辅助撰写提案涌入美国国会：充斥细节错误，拖慢审核进度
AI写提案进国会，细节错漏百出，法律漏洞恐激增，立法效率反被拖累。
IT之家 8 月 19 日消息，媒体 politico 昨日（8 月 18 日）发布博文，报道称人工智能（AI）正进入美国国会立法流程。 大量 AI 辅助撰写的提案涌入美国国会，但律师清理错误草稿耗时增加。 报告指出随着越来越多国会办公室使用 ChatGPT 和 Claude 聊天机器人撰写提案，美…
10
Moderation Report Triage: Node.js LLM API JSON Contracts for Portable Summaries
用Node.js对接LLM API，通过JSON合约输出可移植的审核报告摘要，分诊更清晰高效。
Fintech moderation reports should not enter a human-review queue as a blob of model prose. The portable design is a narrow JSON contract at the Node.j…
11
Withholding the Completing Chunk: Deterministic Pair-Completion Guardrails for Streaming LLM Output
流式输出时拦截不完整配对块，用确定性规则给LLM生成加安全护栏，解决审核时机难题。
arXiv:2608.10279v1 Announce Type: cross Abstract: Streaming language-model output creates a release-timing problem: complete-response moderation acts …
12
PAM: Training Policy-Aligned Moderation Filters at Scale
大规模训练策略对齐的内容审核过滤器，让AI审核更贴合平台规则。
arXiv:2505.19766v4 Announce Type: replace Abstract: Large language models (LLMs) remain vulnerable to misalignment and jailbreaks, making external saf…
13
Anthropic is turning Claude Code’s auto mode on by default
默认开启自动模式，测试显示AI比人工审核更安全——Claude Code这一决策，或重塑AI工具信任机制。
Programming with Claude Code will soon require even less human oversight.
14
AI isn’t enough to protect social media communities from AI
AI生成内容泛滥之下，算法审核力不从心，人类才是社区治理的最后防线。
Why humans need to moderate humans.
15
AI批量轰炸苹果bug赏金计划，审核团队已下线
AI疯狂刷漏洞报告，苹果赏金审核团队被迫下线，自动化攻击敲响安全警钟。
16
Hank Green found the AI problem that YouTube labels can’t catch
知名创作者Hank Green亲自下场，揪出YouTube标签体系拦不住的AI生成内容新漏洞
"Slop" isn't the only problem.
17
Linux's Staging Area to Now Reject LLM Patches, Except for Real Security Fixes
Linux维护者收紧补丁审核，LLM生成代码被拒之门外，安全修复例外，内核开发风向标。
Article URL: https://www.phoronix.com/news/Linux-Staging-Reject-LLMs Comments URL: https://news.ycombinator.com/item?id=49187445 Points: 2 # Comments:…
18
Telegram CEO 杜罗夫：勒索分子设局，操纵苹果下架 Telegram
Telegram下架真相曝光：AI造假内容成勒索工具，苹果审核机制遭挑战。
IT之家 8 月 5 日消息，Telegram 首席执行官帕维尔 · 杜罗夫（Pavel Durov）今日表示，导致 Telegram 一度被苹果 App Store 下架的原因，是一名“下架勒索者”（takedown extortionist）故意植入经过 AI 修改的儿童性虐待材料（CSAM），…
19
最强多模态内容审核开源 AI 模型：Mistral 推出 Shieldstral，单张 16GB GPU 可运行
Mistral开源Shieldstral，单卡16GB即可运行，自定义审核策略与评分机制成最大看点。
IT之家 8 月 5 日消息，Mistral AI 昨日（8 月 4 日）发布公告，宣布推出 Shieldstral 内容审核 AI 模型，总参数量为 3B（30 亿），采用开放权重，依据 Apache 2.0 许可证发布。 模型已上线 Hugging Face 平台，支持 12 种语言，可在单张 …
20
Samsung bans smart TV apps that share users’ internet connections with strangers
看似人畜无害的吃豆人竟在后台蹭你家网络，三星出手封禁，暴露智能电视应用审核的巨大漏洞。
New security research offers a rare view inside residential proxy networks, which rely on apps that share a person's internet connection with someone …