研究提出Purin机制为传统CNN引入突触效能调制
论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
传统人工神经网络在训练批次中用固定权重表征神经传递,忽略了突触效能的短期变动,且离散时间步模拟需额外时序处理。为此,研究者提出Purin机制,将突触效能调制引入常规卷积网络。该机制基于时间间隔抽象神经活动,用有界因子表征短期突触效能变化,配合双权重矩阵(经反向传播更新)表征长期变化,从而避开离散时间步。实验表明,在排除AlexNet、VGG11与GoogLeNet的混淆因素后,Purin在所评数据集上均提升了这三类模型的分类准确率。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载传统网络表征缺陷
常规人工神经网络在单个训练批次内,通常采用固定且可训练的权重来表征神经传递过程。这种处理方式直接忽略了生物突触中存在的短期效能变动。此外,若要模拟动态过程,离散时间步仿真往往需要额外的时序处理机制,而许多传统网络架构并不具备此类时序处理能力,这构成了现有方法在模拟生物神经动态时的固有局限。
Purin机制核心设计
为解决上述问题,Purin机制采用基于时间间隔的抽象方式来描述神经活动,从而在不依赖离散时间步的前提下,成功将短期与长期突触效能变化引入网络。具体实现上,Purin引入一个有界因子来表征暂时的突触效能变动,同时配合两个权重矩阵分别代表输入侧与输出侧的效能。这两个权重矩阵通过反向传播算法进行更新,在网络中被解释为长期的突触效能变化。
模型实验验证效果
研究者在AlexNet、VGG11及GoogLeNet三种经典卷积网络架构上进行了实验验证。在排除了各架构中原有的混淆因素后,将Purin机制应用于这些模型。评估结果显示,在所有被测试的数据集上,引入Purin机制的这三类模型均获得了分类准确率的提升,证明了该机制在增强传统卷积网络性能方面的有效性。
为什么值得看
以生物启发方式为CNN引入长短时突触效能变化,避开离散时间步且提升分类准确率,为网络架构改进提供新思路。
Google数据集
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
