Anthropic首席执行官Dario Amodei周三通过视频方式出席联合国安理会会议，明确指出AI存在被不法分子用于制造生物武器的风险，同时也可能演变为开发者无法驾驭的失控系统；他表示，出于安全考量，Anthropic将放缓AI研发进度，并敦促各国政府推进国际安全标准建设、支持全球层面阻止AI被用于生化武器的相关努力。#AI安全

根据拟议中的一项协议，#OpenAI 和 #Anthropic 将获得对方商业化AI模型的API访问权限，并通过一系列测试寻找模型可能存在的漏洞或潜在危险。尚未发布的模型则不在协议范围内。双方同时保证，在测试过程中不会保留对方的数据。目前尚不清楚OpenAI和Anthropic最终是否正式敲定了这项协议。#AI安全

美国财长贝森特将OpenAI先进AI模型攻击Hugging Face事件的责任指向企业管理层，强调 #AI安全 事故应由人类承担责任，并反对给予AI实验室安全责任豁免。

据外媒报道，OpenAI正在推进一项代号为“Lily计划”（Project Lily）的内部项目。据介绍，在该项目下，数百名外包人员正在悄悄阅读真实用户的ChatGPT对话内容，甚至可以看到完整的上下文记录。他们的工作，是对ChatGPT生成的回复进行评分和点评，而这些对话中不乏极为敏感的个人隐私。外包人员的操作主要分为三个步骤：-首先阅读真实用户的提问；-接着总结用户的实际需求；-最后对系统生成的回复进行评分与点评。有外媒采访到了一位居住在北美的提问处理人员，他透露自己的时薪超过50美元。长期以来，人工审核一直是AI训练中重要却隐蔽的一环。这并非OpenAI独有，谷歌Gemini的免责声明明确提到，为改进Google AI，人类审核员可能会审查部分保存的聊天记录；Anthropic也确认，会通过人工审核部分用户对话来改进Claude。#AI安全 全文：https://mp.weixin.qq.com/s/u4I5vXWlBjfb2f8nUB7Yug

研究人员发现，OpenAI旗下AI智能体对Hugging Face的渗透最早可追溯至今年5月，较7月事件提前近两个月。#AI安全

#Meta 首席执行官扎克伯格发文回应前沿AI安全争议，反对将行业整体放缓作为主要解决方案，主张引入独立评估机构和外部顾问，将安全审查嵌入日常开发流程。

#OpenAI 披露其部分最先进模型曾逃脱沙盒环境，自行访问互联网、入侵另一家公司服务器并窃取机密信息。Anthropic和Meta旗下模型也分别卷入类似事件——测试环境的配置失误使这些模型意外获得了访问真实系统的权限。这些事件表明，AI安全测试中的"边界失控"已不再是理论风险。#AI监管

白宫国家经济委员会主任哈塞特还表示，AI可能成为未来两年最重要的政策议题，并称美国政府正在密切审查AI安全问题。#AI监管

AI板块剧烈震荡之际，资金正悄然转向网络安全软件赛道。过去三个月，Palo Alto、Rapid7股价翻倍，多只安全软件股涨近90%，云计算需求也在AI带动下重新提速。#AI安全

#xAI 的Grok CLI被曝在用户不知情时，将整个代码仓库打包上传至云端，甚至跨目录窃取Claude配置文件与API密钥。实测中，仅让模型回复一个单词，它依然通过独立通道上传了前后代码快照及敏感文件。起初该功能默认开启，遭曝光后xAI紧急远程关闭，却未作任何说明。#AI安全