大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。
Jetbrains全系列IDE稳定放心使用
论文传送门:https://arxiv.org/pdf/1608.06993.pdf
CNN模型的发展十分火热,自LeNet提出以来,涌现了一批优秀的CNN模型。
LeNet是CNN的开山之作,标志着CNN真正的提出。2012年AlexNet夺得ILSVRC2012的冠军,深度学习大火。之后又涌现了VGG、GoogleNet、ResNet等,其中ResNet可谓是一个里程碑式的CNN模型。
本文介绍的DenseNet是CVPR 2017的best paper,在ResNet的基础上进行改进优化。
DenseNet和ResNet的核心思想都是创建一个跨层连接来连通网络的前后层,在DenseNet中作者为了最大化层级之间的信息流,将所有层两两进行连接,这也是DenseNet(Densely Connected Convolutional Networks)名字的意义所在,密集的网络连接。
DenseNet有多个优点:
-
大量的feature 被复用,这样只需要少量的卷积核,使得整个模型的参数数量减小。
-
可以加强feature的传递,减轻梯度消失的问题。
Dense block结构:
下图为一个Dense block的基础结构,可以看到,每一层的输入为前面所有的网络层。DenseNet的密集连接是存在于每一个Dense block内部的。
Dense block中第L层的输入和前面1到L-1层的输出都有关系,论文中公式表达为
其中[ ]表示concatenation即拼接操作,使用了非线性变换H,H为BN+ReLU+ Conv(3×3)的组合。
DenseNet网络结构:
下图为一个完整的DenseNet网络,包含多个Dense block以及transition layer。同一个Dense block中feature size的大小相同,通过transition layer实现下采样。
下图为DenseNet的网络参数详情:
发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/187867.html原文链接:https://javaforall.cn
【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛
【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...