Yalda-Embedding：基于 Qwen3 的波斯语检索模型开源发布
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载模型与训练数据
Yalda-Embedding 面向波斯语稠密检索，参数量为 595.8 百万，从 Qwen3-Embedding-0.6B 出发做适配，训练语料是超过一百万条查询-文档对。论文把波斯语检索效果受限的原因归结为两点：语言相关的训练资源稀缺，以及可用的嵌入模型普遍偏小。该工作选择在 0.6B 量级上做语言适配，而不是直接放大模型规模，因此推理成本与基座保持同一水平。
FaMTEB 上的对比结果
评测覆盖 FaMTEB 的八项波斯语检索任务。Yalda-Embedding 的宏平均为 0.5488，在参评的 0.6B 模型中排名最高，并且在这八项任务上逐项都超过了 Qwen3-Embedding-0.6B 和 F2LLM-v2-0.6B。与参数量更大的 Qwen3-Embedding-4B 相比，它在四项任务上更好、一项打平，宏平均只差 0.0075。也就是说，语言适配带来的收益在部分任务上弥补了与更大模型之间的规模差距。
消融与蒸馏的作用
论文做了增量式消融，考察对比学习批大小、优化稳定性，以及从 F2LLM-v2-8B 进行关系知识蒸馏三项因素。在单轮训练设定下，只做对比微调相对初始化只有小幅平均提升，并且在其中两项任务上出现退步。最终采用蒸馏的配置让八项任务全部优于未蒸馏版本，均值从 0.4813 提高到 0.5488，而推理阶段的模型规模没有增加。值得注意的是，这些提升也出现在难负例评测任务上，尽管训练时并未显式挖掘或提供难负例。
开放的内容与用途
作者公开了模型权重、训练与评测代码、配对数据集，以及由教师模型生成嵌入的对应版本。公开教师嵌入的目的是让后续使用者不必重复执行成本较高的教师推理，同时便于外部检查数据构成与训练流程、开展独立评测并直接复用。对于需要波斯语检索能力、又希望控制推理开销的团队，这套材料提供了可复现的起点。
为什么值得看
小语种检索长期缺少可复现的开源方案，该工作把数据、代码与蒸馏细节一并公开，可直接复用。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。