1
ChatGPT、Claude、Gemini 与 Grok 谈 AI 风险：滥用比主动攻击更现实，生物武器与网络攻击比《终结者》杀手机器人更迫近
9 月 11 日，《商业内幕》向 OpenAI 的 ChatGPT、谷歌 Gemini、Anthropic 的 Claude 以及 xAI 的 Grok 提出同一个问题，让它们分析 AI 可能如何导致人类灭绝，并按照可能性排序。 提问要求四款 AI 分别说明风险可能如何发生、哪些环节失控会使其演变为…
2
Anthropic 自曝安全漏洞：生物武器过滤器曾失效近一年，涉及 1.33 亿次对话
IT之家 8 月 16 日消息，Anthropic 于当地时间 8 月 14 日发布的最新安全报告显示，该公司用于拦截化学、生物武器相关危险请求的部分安全分类器曾出现长期失效。 这直接导致 2025 年 5 月至 2026 年 4 月期间，外部承包商提供人工反馈时产生的大量请求未经过滤。Anthro…
3
英国研究多种防范措施，避免恐怖分子利用 AI 制造生物武器
英国拟监管AI基因合成，防范恐怖分子造生物武器，安全优先级拉满。
IT之家 8 月 13 日消息，据彭博社 12 日报道，英国政府准备监管人工智能在基因合成领域的应用。随着官员对生物安全风险的担忧不断加深，英国政府认为，如果全球缺少有效监管， AI 可能降低制造生物武器的门槛 。 据知情人士透露，英国政府正在研究多种防范措施，避免 恐怖分子、其他恶意行为者或疏忽大…
4
Malware devs added nuclear and bioweapons text to trigger LLM safety refusals
恶意软件开发者用核武、生化武器关键词绕过AI安全防线，揭露大模型对抗攻击新手法
Article URL: https://twitter.com/jsrailton/status/2064661778978533571 Comments URL: https://news.ycombinator.com/item?id=48482039 Points: 1 # Comments…
5
OpenAI and Anthropic Sign Letter to Prevent AI-Developed Biological Weapons
OpenAI与Anthropic联手签署公开信，承诺防范AI制造生物武器，治理先于风险。
Leading AI labs, executives, and scientists are sending a letter to lawmakers urging them to improve tracking of synthetic DNA sequences that could be…