OpenAI 莉莉计划曝光：人工审核聊天记录
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
本条选题由第三方线索发现；线索方提供的摘要未被采用，本页内容依据下方信源整理。线索来源：AIHOT
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载代号莉莉的评分项目
OpenAI内部有一个以莉莉为代号的项目，其做法是让审核员阅读经过匿名化处理的真实用户聊天记录，据此判断ChatGPT的回复质量。审核员关注的重点包括回复是否切题，以及是否出现过度使用AI式话术、说教语气、表情符号或谄媚口吻的情况。按照项目要求，回复中不得出现拟人化表述，也不允许编造个人经历。一名审核员形容这项工作机械重复，但对应的时薪超过50美元。项目操作指引处于不断改动之中，不同版本之间常常互相矛盾，这给审核员的判断带来额外负担。
匿名过滤与记忆摘要
交给审核员的会话版本并非只有对话本身，还附有用户记忆摘要，其中包含提问内容、兴趣偏好、上下文，甚至位置信息。OpenAI承认匿名过滤可能漏掉部分个人数据，简短会话出现遗漏的概率更高。在核查范围上，莉莉计划并不专门验证回答的事实准确性，只标记显而易见的错误。这套评分审核与排查伤害意图的人工安全审查属于两套独立流程，彼此并不合并。
默认开关与删除边界
多数聊天产品默认开启用对话记录改进产品的开关，而ChatGPT企业版、商业版和教育版则默认关闭。该开关不具回溯效力，历史聊天记录会继续保留，除非用户主动申请删除。即便用户删除了对话，也无法追溯已经发生的数据处理，内容可能已被抓取、匿名处理并留存于数据集。OpenAI帮助页面至少两年前就提到出于模型优化会进行人工审核，但未说明员工会读取会话内容。报道发布后，OpenAI修改了帮助页面，补充了退出数据收集的方式，仍未提及人工读取会话这一环节。
同行披露与读者影响
在同行做法上，谷歌Gemini隐私中心写明部分保存的聊天记录可能由人工审核，Anthropic也有类似说明。对读者而言，这意味着与聊天产品交互时，对话内容存在被人工阅读的可能，而匿名化处理并不保证完全去除个人信息，简短会话尤其如此。用户若希望减少此类数据留存，需要留意产品中用于改进模型的开关状态，并了解删除对话并不能撤回已经进入数据集的内容。企业版、商业版和教育版默认关闭该开关，为机构用户提供了一层区隔。
为什么值得看
揭示了大模型依赖人工标注的真相，且涉及用户隐私数据泄露风险。
信源1 家
关键事实
相关 · 行业
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。