研究提出基于拍卖的LLM采购平台,以动态定价替代固定token价格
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载按任务定价的采购平台
这篇论文提出一种采购平台的设计思路,让每个任务对应的词元价格由模型提供方之间的竞争来决定,而不是沿用统一的固定单价。平台把查询依次分配给提供方,采用的是反向第二价格拍卖机制,目的在于促使各家如实报出自己服务该查询的平均成本估计。随着查询不断被路由,平台会逐步掌握每个提供方所给出的质量水平,并在满足既定质量门槛的提供方当中,把后续查询交给成本上最有竞争力的那一家。作者认为,这样一来用户就有机会在质量得到保证的前提下拿到更有竞争力的价格。
用拍卖与学习替代固定价
与现有做法相比,论文强调的是机制上的差别。在基准测试与路由平台上,提供方通常按词元收取固定价格,用户难以针对自己的具体任务获得最合适的价格。新设计把定价权交给竞争过程,同时把质量作为筛选条件:只有达到用户设定质量阈值的提供方才能进入比价环节,平台再在其中挑选成本最低者。拍卖形式选的是反向第二价格,这种形式被认为能激励参与方真实出价,即报出自己服务该查询的平均成本的最佳估计,而不是策略性地抬高或压低报价。
实验设置与观察到的差异
为验证这一设计,作者使用来自 Llama 和 Qwen 系列的多个大语言模型开展实验,测试任务取自常见的数学推理与问答基准。结果显示,平台上最具成本竞争力的提供方所对应的定价空间会随任务类型和质量阈值发生明显变化,论文给出的区间跨度较大。作者据此指出,当前固定价格的市场存在可观的低效之处,而该平台在竞争性市场条件允许时,可能帮助用户获得最大程度的节省。论文还标注了其所属的学科分类,包括人工智能、计算机科学与博弈论以及机器学习等方向。
适用范围与读者关切
从适用范围看,这套机制依赖多个提供方愿意参与竞价,也依赖平台能够持续观测并学习各家在具体任务上的质量表现;质量阈值由用户设定,阈值高低会直接影响可选提供方的范围与最终价格。对使用模型服务的读者而言,这意味着同一任务在不同质量要求下可能对应不同的价格空间,固定单价未必反映真实成本结构。论文同时给出了提交时间与版本信息,并提供了全文链接与许可说明,便于进一步核对实验细节与机制设定。
为什么值得看
揭示LLM固定token定价存在10%-71%利润率波动,为构建按任务质量动态竞价的模型路由市场提供可行机制。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
