qGAMMA 框架用遗传算法优化混合精度 DNN 在空间加速器上的映射

论文AI 评分 58/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇投稿至 SAMOS XXV 的论文提出 qGAMMA,用于探索和优化混合精度 DNN 模型在支持多种定点与浮点精度的通用空间加速器上的映射。该框架用领域特定遗传算法搜索设计空间,并以基于硬件综合结果的解析性能模型评估候选方案,从而找出使目标指标最小的映射与加速器配置。作者在多种 DNN 负载上做了评估,称该框架能为混合精度应用设计提供参考,在性能、能效与资源占用之间取得更好权衡。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

框架解决什么问题

混合精度 DNN 要在支持多种定点与浮点精度的通用空间加速器上运行,映射方式与硬件配置的组合空间很大,选错就会浪费性能或资源。qGAMMA 把这件事形式化为搜索问题:给定模型与加速器能力,寻找一组映射方案和加速器配置,使指定的目标指标最小。论文将其定位为探索与优化工具,而非单一部署方案。

搜索方法与性能模型

qGAMMA 的搜索依赖领域特定遗传算法,在庞大的设计空间中迭代筛选候选方案;评估候选方案时使用解析性能模型,该模型的依据来自硬件综合结果,而不是纯理论估算。作者称这种组合让框架能覆盖定点与浮点多种精度,并适用于不同 DNN 负载。

评估结论与发表情况

论文在多种 DNN 负载上做了评估,结论是 qGAMMA 能为混合精度应用设计提供有价值的参考,帮助在性能、能效和资源利用之间做更好的取舍。该文被第 25 届嵌入式计算机系统架构、建模与仿真国际会议(SAMOS XXV)接收,将发表于 Springer LNCS。材料未给出具体加速器型号、精度种类数量或量化提升幅度。

为什么值得看

做混合精度加速器与 DNN 部署选型的人,可关注其用遗传算法加解析模型搜索映射空间的做法。

论文

信源1 家

  1. [1]arXiv cs.AI一手信源qGAMMA: A Framework for Optimal DNN Mapping on Multi-Precision Accelerators

关键事实

  • qGAMMA 面向支持多种定点与浮点精度的通用空间加速器,优化混合精度 DNN 的映射。[1]

  • 该框架用领域特定遗传算法搜索设计空间,并配合基于硬件综合结果的解析性能模型。[1]

  • 目标是找出使目标指标最小的映射与加速器配置。[1]

  • 论文被 SAMOS XXV 接收,将刊于 Springer LNCS。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。