1
Anthropic 自曝安全漏洞：生物武器过滤器曾失效近一年，涉及 1.33 亿次对话
IT之家 8 月 16 日消息，Anthropic 于当地时间 8 月 14 日发布的最新安全报告显示，该公司用于拦截化学、生物武器相关危险请求的部分安全分类器曾出现长期失效。 这直接导致 2025 年 5 月至 2026 年 4 月期间，外部承包商提供人工反馈时产生的大量请求未经过滤。Anthro…
2
英国研究多种防范措施，避免恐怖分子利用 AI 制造生物武器
英国拟监管AI基因合成，防范恐怖分子造生物武器，安全优先级拉满。
IT之家 8 月 13 日消息，据彭博社 12 日报道，英国政府准备监管人工智能在基因合成领域的应用。随着官员对生物安全风险的担忧不断加深，英国政府认为，如果全球缺少有效监管， AI 可能降低制造生物武器的门槛 。 据知情人士透露，英国政府正在研究多种防范措施，避免 恐怖分子、其他恶意行为者或疏忽大…
3
Malware devs added nuclear and bioweapons text to trigger LLM safety refusals
恶意软件开发者用核武、生化武器关键词绕过AI安全防线，揭露大模型对抗攻击新手法
Article URL: https://twitter.com/jsrailton/status/2064661778978533571 Comments URL: https://news.ycombinator.com/item?id=48482039 Points: 1 # Comments…
4
OpenAI and Anthropic Sign Letter to Prevent AI-Developed Biological Weapons
OpenAI与Anthropic联手签署公开信，承诺防范AI制造生物武器，治理先于风险。
Leading AI labs, executives, and scientists are sending a letter to lawmakers urging them to improve tracking of synthetic DNA sequences that could be…