据外媒报道，OpenAI正在推进一项代号为“Lily计划”（Project Lily）的内部项目。据介绍，在该项目下，数百名外包人员正在悄悄阅读真实用户的ChatGPT对话内容，甚至可以看到完整的上下文记录。他们的工作，是对ChatGPT生成的回复进行评分和点评，而这些对话中不乏极为敏感的个人隐私。外包人员的操作主要分为三个步骤：-首先阅读真实用户的提问；-接着总结用户的实际需求；-最后对系统生成的回复进行评分与点评。有外媒采访到了一位居住在北美的提问处理人员，他透露自己的时薪超过50美元。长期以来，人工审核一直是AI训练中重要却隐蔽的一环。这并非OpenAI独有，谷歌Gemini的免责声明明确提到，为改进Google AI，人类审核员可能会审查部分保存的聊天记录；Anthropic也确认，会通过人工审核部分用户对话来改进Claude。#AI安全 全文：https://mp.weixin.qq.com/s/u4I5vXWlBjfb2f8nUB7Yug