即时发布
美国北卡罗来纳州立大学(North Carolina State University)的人工智能研究人员将特征归一化和特征注意模块合并为一个被他们称为“注意归一化(AN)”的模块，从而提高了深度神经网络的性能。混合模块显著提高了系统的准确性，同时使用了微不足道的额外计算能力。
“特征归一化是培训深度神经网络的关键因素，功能注意力同样重要的是，帮助网络突出显示从原始数据中学到的特征对于完成一项特定任务最重要的是，”天府吴“的一篇论文作者NC州的工作与电脑工程助理教授。“但它们主要得到分别对待。我们发现将它们组合使它们更有效和有效。“
为了测试他们的模块，研究人员将其插入最广泛使用的神经网络架构中的四个：Resnet，Densenets，Mobilenetsv2和Agognets。然后，他们测试了两个行业标准基准的网络：ImageNet-1000分类基准和MS-Coco 2017对象检测和实例分段基准。
吴说：“我们发现，我们发现两个基准上的所有四种架构的性能提高。”“例如，ImageNet-1000的前1个精度提高0.5％和2.7％。平均精度（AP）精度在MS-Coco中的界限框中增加了2.2％的界限框和2.2％。
“另一个优点是它有助于更好地在不同领域之间转移学习，”吴说。“例如，从ImageNet中的图像分类到MS-Coco中的对象检测和语义分段。这是通过MS-Coco基准测试的性能改进来说明，该基准是通过在MS-Coco中的微调Imagenet-Prevar-Precrin-Precrin的深神经网络获得的，是最先进的计算机视觉的常见工作流程。
“我们已经发布了源代码，希望我们的AN能带来更好的深度神经网络综合设计。”
本文，“细心的正常化这是8月23日至28日在网上举行的欧洲计算机视觉会议(ECCV)上提出的。这篇论文的作者之一是最近刚从北卡罗来纳州毕业的博士研究生李熙来;以及北卡罗来纳州立大学的博士生孙玮(Wei Sun)。国家自然科学基金资助项目:1909644,1822477,2013451;以及美国陆军研究办公室在W911NF1810295的授权下。
- 船员 -
编辑注：研究摘要跟随。
“细心的正常化”
作者：西利丽，魏太阳，天府吴，北卡罗来纳州立大学
提出了:第16届欧洲计算机视觉会议，8月23-28日在线举行
抽象的：在最先进的深神经网络中，功能标准化和特征注意力变得无处不在。然而，它们通常被研究为单独的模块。在本文中，我们提出了两种模式和目前的细节归一化（A）之间的轻量级集成。而不是学习单个仿射变换，学习仿射变换的混合，并利用其加权总和作为应用于以特定于实例的方式重新校准特征的最终仿射变换。通过利用渠道明智的特征注意来学习权重。在实验中，我们在ImageNet-1000分类基准测试和MS-Coco 2017对象检测和实例分割基准中使用四个代表性神经结构测试。A ImageNet-1000在Imagenet-1000中的前1个精度的绝对增加的基准测试中的不同神经架构的一致性能改进在0.5％和2.7％之间，并且对于MS中的边界盒和掩模AP，绝对增加高达1.8％和2.2％分别为Coco。我们观察到所提出的AN提供了强烈替代广泛使用的挤压和激励（SE）模块的替代品。源代码在ImageNet分类repo（https://github.com/ivmcl/aognet-v2）和ms-coco检测和分段repo（https://github.com/ivmcl/attententivenorv_detection）上公开可用。
- 类别：
