arXiv 论文：LLM 模拟选民存在人口统计偏差，对齐策略反而放大误差
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载研究关注选民模拟偏差
一篇提交到 arXiv 的论文把目光放在数字民主场景中的 AI 代表问题上。作者指出，大语言模型正在被用于模拟选民和辅助决策，但模型的表现会随所用模型、提示语境以及收到的选民信息而变化，对部分群体的还原更准确，对另一些群体则可能出现偏差，从而使模拟结果对特定群体不够公平。研究围绕三个问题展开：模型还原个人投票的准确程度、不同选民群体被还原的准确程度是否存在差异、以及 AI 对齐能否在不牺牲整体准确率的前提下缩小这些差距。作者使用三场美国总统选举的数据，把一家闭源模型与一家开源模型放在选民的各项人口特征上做对照，并测试了若干面向更公平选民代表的对齐策略。
删去特征带来的误差变化
实验给出的结果集中在选民档案中不同字段对群体误差的影响上。把性别从选民档案中去掉后，模型的最大群体误差出现下降，幅度落在 22 到 42 个百分点区间；去掉教育信息后，最大群体误差的降幅为 64 个百分点；而去掉自我报告的种族信息，反而使平均群体误差上升超过 40 个百分点。作者强调，上述变化都没有伴随准确率的下降。这一组对比说明，档案里保留哪些人口字段，会直接改变模型在不同群体之间的误差分布，某些字段的移除能缓解最差群体的偏差，另一些字段的移除却会让平均误差变大。
常见对齐策略未奏效
论文还检验了对齐手段本身的效果。重复查询、在提示中加入公平性指令这类常见做法，并没有降低上述群体误差，在某些情况下甚至使误差翻倍。也就是说，靠反复提问或口头要求模型保持公平，并不能修正选民模拟中的群体差异。作者据此把问题指向选民档案的构成与模型输入的组织方式，而不是单纯依赖提示层面的对齐技巧。对于把大语言模型用于选民模拟或决策辅助的实践者而言，这意味着需要先审视输入中的人口特征选择，再考虑对齐策略能否真正起作用。
为什么值得看
用 LLM 模拟选民正进入数字民主实践，这篇论文给出了偏差可量化的证据，并指出常见对齐手段可能适得其反。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。