AI 圈大事记

OpenAI 莉莉计划曝光:人工审核聊天记录

行业AI 评分 65/100IT之家(RSS)待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手

本条选题由第三方线索发现;线索方提供的摘要未被采用,本页内容依据下方信源整理。线索来源:AIHOT

OpenAI 内部代号为“莉莉”的项目被曝光,该项目雇佣“提示词审核员”人工查看经过匿名化处理的用户聊天记录,以评估回复质量并纠正语气问题。审核员时薪超过 50 美元,主要检查回复是否切题、是否存在说教语气或拟人化表述。尽管经过匿名处理,OpenAI 承认仍可能漏掉部分个人数据,且审核员能看到包含用户偏好和位置信息的“记忆摘要”。该流程独立于事实核查与安全审查,且历史记录即便被用户删除,也可能已被抓取并留存于数据集中。

为什么值得看

揭示了大模型依赖人工标注的真相,且涉及用户隐私数据泄露风险。

OpenAI安全数据集

信源1

  1. [1]IT之家(RSS)线索来自 AIHOT404 Media 曝光 OpenAI 莉莉计划:人工审核 ChatGPT 聊天记录以优化模型

关键事实

  • OpenAI 莉莉计划雇佣审核员人工查看匿名化聊天记录,时薪超 50 美元。[1]

  • 审核员评估回复质量,检查说教语气、拟人化表述及表情符号,不核查事实准确性。[1]

  • 匿名化过滤可能漏掉个人数据,审核员能看到包含位置信息的用户记忆摘要。[1]

  • 用户删除对话无法追溯,内容可能早已被抓取并留存于数据集中。[1]

相关 · 行业

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。