Explainability Assistant 对话式 XAI 系统发布
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载对话式解释能耗模型
能耗预测越来越依赖复杂的机器学习模型，其中一类是基于遗传规划的符号回归器。这类模型给出的预测结果，对设施管理者和楼宇运营人员来说往往难以读懂。可解释人工智能技术正是为化解这种不透明性而出现，但常见的可解释性仪表盘要求使用者具备相当的技术背景，面对动态的、依赖具体情境的追问时也不够灵活。这篇论文提出的 Explainability Assistant 走的是另一条路：把解释过程放进对话里，让使用者用自然语言提问，由系统调用模型能力给出回应。系统以开源形式发布，论文给出了整体架构说明，并报告了在能源领域专家中开展的一次对比评估，把该助手与传统可解释性仪表盘放在一起比较。评估结果显示可用性有所提升，任务准确度保持稳定，参与评估的专家一致表示在实际使用中更愿意选择对话式界面。
函数调用取代固定语法
此前的对话式可解释系统在理解用户意图上存在明显瓶颈。论文提到的 TalkToModel 依赖人工编写的固定语法规则，意图解析准确率只有 76.8%，提问方式稍一偏离预设句式就可能解析失败。Explainability Assistant 改用现代大语言模型自带的函数调用能力来承担这一步，不再需要为每种任务单独设计语法，也不需要针对特定任务做微调。按论文报告的数字，系统的意图解析准确率达到 94%，与前述 76.8% 形成对照。这一变化带来的直接效果是交互方式更自由：使用者可以按自己的说法组织问题，而不必迁就系统能识别的模板。论文同时强调，该设计可以适配不同的机器学习问题类型，任务切换不依赖额外的训练环节，这使它在能耗预测之外的场景中也具备复用空间。
专家对比评估的结果
论文报告了一项与能源领域专家共同完成的对比评估，评估对象是 Explainability Assistant 和一套传统可解释性仪表盘。评估关注两个方面：使用起来的顺畅程度，以及完成任务时的准确程度。结论是对话式界面在可用性上更好，任务准确度则保持一致，没有因为交互方式改变而出现下滑。参与评估的专家全部表示，在实际工作中会优先选用对话式界面。需要说明的是，这些结论来自论文所描述的这次评估，覆盖的是能源领域专家这一特定人群，论文并未给出更大范围用户或其他行业的验证结果。论文共 11 页、含 3 幅图，是发表在 ICECET 2026 上的作者接受版本，编号为 arXiv:2609.11860。
对使用者的实际意义
对楼宇运营和设施管理岗位的人来说，这项工作的价值在于降低了获取模型解释的门槛。传统仪表盘把各类解释图表集中呈现，使用者需要先理解图表含义，再自行把结论对应到具体问题上；对话式界面则允许直接描述当前关心的情形，由系统解析意图并调用相应能力作答。论文所强调的无需任务专用微调，意味着同一套交互框架在更换模型或更换预测目标时不必重做适配工作。限制同样存在：系统的解释质量依托于底层大语言模型的函数调用表现，论文给出的准确率数字来自其自身测试，评估规模限于能源领域的专家群体。系统以开源方式提供，架构细节和评估方法可在论文中查阅。
为什么值得看
将 LLM 函数调用用于 XAI，意图解析准确率大幅提升，获专家一致认可。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。