随机投影保护RAG数据存储隐私的论文发布
论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
一篇论文提出用随机投影保护检索增强生成（RAG）系统的数据存储隐私。做法是对数据存储嵌入和查询嵌入施加同一投影，论文称该方法可证明地保持查询与检索项之间的语义相似度，同时显著削弱数据提取攻击。在多种RAG架构和数据集上，该方法的检索与生成表现优于依赖形式化差分隐私保证的既有方法，在强攻击模型下经验隐私性相当。作者称结果首次表明随机投影可作为隐私保护RAG的实用基线。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载问题与动机
检索增强生成通过查询外部结构化知识来增强大语言模型的能力，但论文指出，这一过程也可能因检索数据存储中的敏感信息泄露而带来隐私风险。现有做法中有一类依赖形式化差分隐私保证，论文认为这类方法在检索与生成效果上存在代价。作者希望找到一种更轻量、同时能抵御数据提取攻击的替代方案，于是把目光投向随机投影这一相对简单的技术手段。
方法：同一投影
论文提出的做法是对数据存储嵌入和查询嵌入施加同一个随机投影。作者称，这种处理可以证明地保持查询与检索项之间的语义相似度，也就是说检索的相关性不会因为投影而明显失真；与此同时，它能够显著缓解数据提取攻击，使攻击者更难从系统中还原出原始数据存储内容。方法本身不依赖差分隐私那套形式化保证，因此实现上更为轻便。
实验对比与结论
论文在多种RAG架构和数据集上进行了评估。结果显示，该轻量方法在检索和生成两方面的表现都优于此前利用形式化差分隐私保证的方法；而在强攻击模型下，它的经验隐私性与那些方法相当。作者据此表示，这是首次表明随机投影可以成为隐私保护RAG系统中一个有竞争力且实用的基线。论文提交于2026年10月15日，编号为arXiv:2610.22297，同时归入cs.AI与cs.CR分类。
为什么值得看
RAG常需外接知识库，隐私泄露是落地障碍；该方案轻量且无需差分隐私的强假设，值得关注其可用性。
RAG论文数据集
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。