[论文笔记]Inception-v4, Inception-ResNet and the Impact of Residual Connections on Learning

在15年,ResNet成为那年最耀眼的卷积网络结构,skip-connection的结构也成为避不开的考虑选项。Inception系列也参考ResNet更新了自己的结构。同时推出了第四代和跟ResNet的结合版:Inception-v4和Inception-ResNet。

然而,这是一篇几乎都是图的论文。

所以,上图。

Inception-v4 Architecture

NetScope Vis请参见这里,源文件位于awesome_cnn

arch1

Inception-ResNet(v2) Architecture

NetScope Vis请参见这里,源文件位于NN_Structures/caffe_vis/

arch1

Experiments

文章在实验部分提到,不借助Skip-connection的结构也可以将Inception网络提升到SOTA的水准,但加入Skip-connection可以有效增加训练速度。

Conclusion

卷积网络结构的演进遇到了瓶颈,在ImageNet上的提升边界似乎碰到天花板,且更多来自训练技巧和集成。

论文链接:https://arxiv.org/abs/1602.07261

Creative Commons License
本文章遵从署名-相同方式共享4.0国际协议(CC BY-SA 4.0)
这意味着您可以署名转载本文章,并附上此协议。
我每周会分享一些有趣实用的英文文章,欢迎关注ddlee每周分享
这里可以找到我推荐的服务、应用程序、书籍和电影。

本文链接:https://blog.ddlee.cn/posts/ea323d66/
分享文章:

小额捐助:

相关文章

[论文笔记]Xception: Deep Learning with Depthwise Seperable Convolutions [论文笔记]Speed/accuracy trade-offs for modern convolutional object detectors

评论

Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×