qGAMMA 框架用遗传算法优化混合精度 DNN 在空间加速器上的映射
论文AI 评分 58/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
一篇投稿至 SAMOS XXV 的论文提出 qGAMMA,用于探索和优化混合精度 DNN 模型在支持多种定点与浮点精度的通用空间加速器上的映射。该框架用领域特定遗传算法搜索设计空间,并以基于硬件综合结果的解析性能模型评估候选方案,从而找出使目标指标最小的映射与加速器配置。作者在多种 DNN 负载上做了评估,称该框架能为混合精度应用设计提供参考,在性能、能效与资源占用之间取得更好权衡。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载框架解决什么问题
混合精度 DNN 要在支持多种定点与浮点精度的通用空间加速器上运行,映射方式与硬件配置的组合空间很大,选错就会浪费性能或资源。qGAMMA 把这件事形式化为搜索问题:给定模型与加速器能力,寻找一组映射方案和加速器配置,使指定的目标指标最小。论文将其定位为探索与优化工具,而非单一部署方案。
搜索方法与性能模型
qGAMMA 的搜索依赖领域特定遗传算法,在庞大的设计空间中迭代筛选候选方案;评估候选方案时使用解析性能模型,该模型的依据来自硬件综合结果,而不是纯理论估算。作者称这种组合让框架能覆盖定点与浮点多种精度,并适用于不同 DNN 负载。
评估结论与发表情况
论文在多种 DNN 负载上做了评估,结论是 qGAMMA 能为混合精度应用设计提供有价值的参考,帮助在性能、能效和资源利用之间做更好的取舍。该文被第 25 届嵌入式计算机系统架构、建模与仿真国际会议(SAMOS XXV)接收,将发表于 Springer LNCS。材料未给出具体加速器型号、精度种类数量或量化提升幅度。
为什么值得看
做混合精度加速器与 DNN 部署选型的人,可关注其用遗传算法加解析模型搜索映射空间的做法。
论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
