据404Media发布的报道，OpenAI内部有个名为莉莉计划(ProjectLily)的项目正在运转：OpenAI雇佣数百名外包提示词审核员，人工阅读真实用户与ChatGPT的对话，用来改进回复质量。
有隐私过滤器但不够彻底：
正常情况下提示词审核员并不能看到用户名，对话会先通过隐私过滤器进行内容过滤以删除个人信息，不过OpenAI也承认过滤机制可能会漏掉个人信息，短对话尤其容易出现问题。
审核界面通常还附带用户记忆摘要，记忆摘要将概括用户过往提问、兴趣和情景等，有时候甚至可以通过记忆推断用户所在地区。审核员看到的往往是带有上下文的完整会话内容。
审核员主要是对回答评分：
这项工作被形容为机械且重复，时薪据称超过50美元。审核员的主要工作就是对回答进行评分而非核对事实，例如审核员要判断模型给出的回答是否切题、有没有明显的AI味、是否存在说教行为、是否滥用表情、是否存在谄媚行为、会不会将模型写成有人生经历的人。
至于模型给出的回答是否存在事实性错误，这不是审核员的工作，毕竟审核员也不是百科全书不可能了解所有事件的完整真相，所以用户看到模型给出存在事实性错误的回答也是很正常的。
默认开启的改进模型是数据共享关键：
ChatGPT免费版、Plus和Pro版默认情况下都会开启用聊天改进产品功能，该功能开启后会将用户的聊天内容授权给OpenAI用于产品改进，莉莉计划中的外包审核员检查对话内容只是数据用途之一，这些数据自然也会被用于其他用途，例如继续训练模型。
很多用户将ChatGPT当成临时倾诉对象，谈家庭、健康甚至是更加私密的事情，有审核员表示，很多用户可能并不知道自己的对话可能会被真人阅读，所以想想这是不是很恐怖的事情。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】