OpenAI披露封禁俄方AI水军，揭露利用大模型伪装智库操纵舆论的新手段。
OpenAI banned Russia-origin accounts using AI to promote a fake Israel-based think tank and a “sovereignty” index praising Russia and criticizing the …
以色列疑似伪造智库数据集，试图暗中操纵ChatGPT等AI的回答，揭露AI信息战的全新战线。
Article URL: https://responsiblestatecraft.org/israel-influence-chatgpt/ Comments URL: https://news.ycombinator.com/item?id=49337392 Points: 41 # Comm…
AI虚假信息治理困境的破解之道，协调激励机制设计值得关注
arXiv:2608.07070v1 Announce Type: cross Abstract: With the rapid diffusion of AI-generated content, AI-driven misinformation is becoming increasingly …
OpenAI揭露假“俄罗斯机器人”误导信息，AI安全治理看点十足。
OpenAI banned an account that likely originated in the US and used AI to create a fake ChatGPT error message claiming to detect “Russian troll” activi…
谷歌地球刚推出AI生成假卫星图功能，因虚假信息担忧火速撤回，翻车现场值得围观。
“What on earth is Google doing?” Misinformation fears spur walk-back of AI tool.
网信部门重拳出击，严查自媒体不规范标注信息来源，多平台账号被点名，内容真实性和监管力度引关注。
IT之家 7 月 27 日消息，据“网信中国”微信公众号消息，网信部门近期巡查发现一些“自媒体”在发布涉国内外时事相关内容时，未规范标注信息来源，混淆视听，严重误导公众认知。 网信部门加大巡查处置力度， 督促网站平台依法依约处置违规账号 3704 个，纠正错标漏标短视频 4.8 万余次 。IT之家附…
日本右翼势力用AI批量炮制篡改侵华历史的虚假视频，国家安全部正告：技术篡改不了真相，血痕不容抹杀。
IT之家 7 月 26 日消息，据国家安全部消息，近期，日本《朝日新闻》报道， 日本右翼势力通过众包平台付费招募、大规模利用人工智能（AI）批量炮制“南京大屠杀是谎言”“日本善待平民”等篡改侵华历史的虚假信息 ，公然践踏历史公理与人类良知，引发了国际社会以及日本国内有识之士的强烈批评。 据悉，日本右…
网民用AI编造高考估分715查分299的虚假谣言，警方迅速破案并依法行政拘留，给AI谣言制造者敲响警钟。
IT之家 7 月 16 日消息，本月初，一篇题为《高考估分 715 查分 299，女孩称试卷不是自己的》的文章在网络平台大范围传播，该帖文声称“四川绵阳考生周某禾高考估分 715 分、实际查分仅 299 分”，更称“调阅电子答卷发现笔迹与本人不符”等情节，刻意制造负面传言，引发大量网民热议。 据“红…
谷歌深度伪造检测系统实战立功，成功识别并揭穿麦康奈尔恶搞照片
Earlier this week, a picture seemed to show Kentucky Senator Mitch McConnell covered in tubes in a hospital bed in a state of extreme distress. It tur…
长文本RAG面临虚假信息污染威胁，MIRAGE框架提出新防御策略，为生成可信长答案提供安全屏障。
arXiv:2607.05069v1 Announce Type: new Abstract: Retrieval-Augmented Generation (RAG) improves factuality by grounding LLMs in external evidence, but r…
AI时代真假难辨，前FTC顾问呼吁发起“真相运动”，为技术乱象开一剂公共药方。
Article URL: https://www.techpolicy.press/why-we-need-a-truth-campaign-for-the-ai-era/ Comments URL: https://news.ycombinator.com/item?id=48762931 Poi…
科学研究再次证实泰诺与自闭症无关，特朗普的警告缺乏证据，避免盲目恐慌。
After Trump's claims, Tylenol usage dropped during pregnancies.
利用开源大模型构建多智能体协同系统，精准识别并对抗虚假信息威胁。
arXiv:2606.30259v1 Announce Type: new Abstract: In contemporary societies, the threat of disinformation has reached alarming levels, exacerbated by th…
豆包公关负责人揭露近百个同IP账号伪装考生，批量发布不实吹捧内容，揭开AI行业营销乱象。
IT之家 6 月 30 日消息，豆包公关负责人刘星今日发文称，最近发现近百个相同 IP 属地的账号集体伪装成考生， 批量发布不实内容吹捧某 AI，同时恶意抹黑豆包 。 相关案例和细节我们梳理后，放在了下图里。这些内容仔细来看，破绽百出，毫无逻辑。但对于正处在报考志愿关键阶段的考生和家长来说，难免产生…
一个4.5万人的Reddit社区如何用假新闻“毒杀”AI搜索？看虚构如何入侵现实。
Trump died of rabies - thanks to Reddit and AI AI search engines briefly believed that Donald Trump and JD Vance had died of rabies. The source of the…
英国拟强制社媒优先推送权威新闻，对抗虚假信息，并出手管控青少年上网。
IT之家 6 月 23 日消息，据路透社报道，英国正考虑强制社交媒体平台优先推送政府认定的权威可信新闻来源，这是该国加大力度加强对该行业监管的举措之一。 英国文化大臣办公室于当地时间周一表示，当局正拟定新规，要求 Meta 旗下 Facebook、谷歌旗下 YouTube、TikTok 等平台，让英…
AI编造股市谣言遭25万罚款，监管重拳出击警示AI滥用风险
IT之家 6 月 22 日消息，据“南充融媒”公众号，今年 5 月 20 日，王某某在网上发布一篇利用 AI 生成的虚假文章，该文围绕 A 股走势对证券市场行情作出误导性预测，对证券监管政策进行不实扭曲解读。 警方调查发现，王某某利用 AI 大模型生成约 3000 字涉股市文章，再将其上传到今日头条…
AI技术被滥用造谣，50岁女子为流量编造地铁塌顶假视频，换来行政拘留处罚。
IT之家 6 月 17 日消息，随着人工智能技术近年来的迅猛发展，一些不法分子为博取流量、吸引关注，利用 AI 工具编造虚假信息，严重破坏网络生态，扰乱社会秩序。 据上海市公安局城市轨道和公交总队官方微博“轨交幺幺零”通报，6 月 12 日上午 7 时许，上海地铁 18 号线江浦路站换乘通道顶部发生…
OpenAI报告揭示与中国有关的影响行动正试图操纵美国AI政策辩论，引发对技术治理安全的思考。
Article URL: https://openai.com/index/prc-linked-influence-operations-ai-debates/ Comments URL: https://news.ycombinator.com/item?id=48482043 Points: …
OpenAI最新报告揭露，与中国相关的势力利用AI技术操纵美国科技辩论与舆论。
A new report from OpenAI details PRC-linked influence operations using AI to target U.S. tech debates, data center narratives, tariffs, and false clai…