Group Convolution 分组卷积

Group Convolution 分组卷积GroupConvolution分组卷积最早见于AlexNet——2012年Imagenet的冠军方法,GroupConvolution被用来切分网络,使其在2个GPU上并行运行,AlexNet网络结构如下:ConvolutionVSGroupConvolution如果输入featuremap尺寸为C∗H∗W,卷积核有N个,输出featuremap与卷积核的数量相同也是N,每…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全家桶1年46,售后保障稳定

Group Convolution分组卷积
最早见于AlexNet——2012年Imagenet的冠军方法,Group Convolution被用来切分网络,使其在2个GPU上并行运行,AlexNet网络结构如下:
在这里插入图片描述

Group Convolution 原理

如果输入feature map尺寸为 C ∗ H ∗ W C*H*W CHW,卷积核有N个,输出feature map与卷积核的数量相同也是N,每个卷积核的尺寸为 C ∗ K ∗ K C*K*K CKK,N个卷积核的总参数量为 N ∗ C ∗ K ∗ K N*C*K*K NCKK。如下图所示,传统卷积方法和分组卷积方法。
在这里插入图片描述
Group Convolution,则是对输入feature map进行分组,然后每组分别卷积。其实也就是,原本应该是 C ∗ H ∗ W C*H*W CHW 的图片,用N个传统的卷积核 C ∗ K ∗ K C*K*K CKK,就可以生成 N ∗ H ∗ W N*H*W NHW(假设经过池化,图片尺寸不变)这样其实,是一个通道为C来进行整体卷积生成一个图片。而分组卷积,是一个通道为 C G \frac{C}{G} GC来进行整体卷积生成一个图片。
具体来说就是,假设输入feature map的尺寸仍为 C ∗ H ∗ W C*H*W CHW,输出feature map的数量为N个,如果设定要分成G个groups,则每组的输入feature map数量为 C G \frac{C}{G} GC,每组的输出feature map数量为 N G \frac{N}{G} GN,每个卷积核的尺寸为 C G ∗ K ∗ K \frac{C}{G}*K*K GCKK,卷积核的总数仍为N个,每组的卷积核数量为 N G \frac{N}{G} GN,卷积核只与其同组的输入map进行卷积,卷积核的总参数量为 N ∗ C G ∗ K ∗ K N∗\frac{C}{G}*K*K NGCKK,可见,总参数量减少为原来的 1 G \frac{1}{G} G1

Group Convolution的用途

  1. 减少参数量,分成G组,则该层的参数量减少为原来的 1 G \frac{1}{G} G1
  2. Group Convolution可以看成是structured sparse,每个卷积核的尺寸由 C ∗ K ∗ K C*K*K CKK 变为 C G ∗ K ∗ K \frac{C}{G}*K*K GCKK,可以将其余 ( C − C G ) ∗ K ∗ K (C−\frac{C}{G})*K*K (CGC)KK的参数视为0,有时甚至可以在减少参数量的同时获得更好的效果(相当于正则)。

参考文献
https://www.cnblogs.com/shine-lee/p/10243114.html

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/213579.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)
blank

相关推荐

  • arraydeque方法_arrayset

    arraydeque方法_arrayset美人如斯!ArrayDeque是java中对双端队列的线性实现一.特性无容量大小限制,容量按需增长; 非线程安全队列,无同步策略,不支持多线程安全访问; 当用作栈时,性能优于Stack,当用于队列时,性能优于LinkedList 两端都可以操作 具有fail-fast特征 不能存储null 支持双向迭代器遍历注意:ArrayDeque的迭代器和大多数容器迭代器一样,都是…

  • 警告:为了安全请不要随意将ASP.Net的validateRequest=”false” .

    警告:为了安全请不要随意将ASP.Net的validateRequest=”false” .ASP.Net1.1后引入了对提交表单自动检查是否存在XSS(跨站脚本攻击)的能力。当用户试图用之类的输入影响页面返回结果的时候,ASP.Net的引擎会引发一个HttpRequestValidationExceptioin。默认情况下会返回如下文字的页面:ServerErrorin’/YourApplicationPath’ApplicationApot

  • 2020年10月程序员工资统计,平均14459元

    点击上方“全栈程序员社区”,星标公众号 重磅干货,第一时间送达 作者:有数可据 blog.csdn.net/juwikuang/article/details/108903665 …

  • java大数据培训[通俗易懂]

    java大数据培训[通俗易懂]从近几年的发展来看,大数据已经可以说是当之无愧的热门了,大数据在越来越多的行业实现落地,也就需要更多的专业人才来支持。很多人都看好大数据行业,想要转向大数据发展,其中也不乏Java一类的技术开发人员。今天的大数据课程学习培训分享,我们来聊聊Java转大数据的那些事儿。因为大数据本身也与Java开发存在着紧密的关联性,行业当中现有的大数据从业者,其中也不乏Java资深开发者,在实际的工作当中,抓住大数据机遇,从Java开发转向了大数据开发,薪资待遇和发展空间,都有了明显的增长和拓宽。Java转大数

  • 几种常见的优化算法有哪些_几种基本算法

    几种常见的优化算法有哪些_几种基本算法阅读目录1.梯度下降法(GradientDescent)2.牛顿法和拟牛顿法(Newton'smethod& Quasi-NewtonMethods)3.

  • 为什么国产操作系统要基于linux,解说国产Linux操作系统为什么都模仿Windows桌面…

    为什么国产操作系统要基于linux,解说国产Linux操作系统为什么都模仿Windows桌面…目前大多数国产Linux操作系统的桌面都和微软的Windows桌面非常类似,相信很多人都有这个疑问,为什么多数国产Linux操作系统都在模仿Windows桌面?而不是独有的界面风格呢?下面来看两张国产Linux操作系统桌面截图:1.中标麒麟桌面操作系统2.红旗Linux桌面操作系统注:从上面两张桌面截图可以看出,和微软的Windows桌面相当的像,特别是和WindowsXP相当像。以下从四点说明…

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号