博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
CNN中常见的几种pool操作
阅读量:4876 次
发布时间:2019-06-11

本文共 710 字,大约阅读时间需要 2 分钟。

0. 高

    首先回忆一下,CNN中用来加深网络深度的基本操作“Conv-relu-pool”。今天要讲的几种pool方法就是池化层的常用操作(具体来讲,其实是应用于NLP的CNN网络。不过对于图像应该也有所启发,过程不难,可以当小甜点食用)。在第二篇CNN的讲解中,当时的pool层是选用如下图的maxpool的方式,相对来说比较暴力,而且降维效果非常好。

1. 白

    有学者认为,直接食用maxpool太过粗暴。如上图中,每一个2*2分块要丢失3个块的信息而只取其一。所以提出了一些其他的maxpool方法。

  1.1 K-maxpool

    看名字应该知道,就是取K个最大的值作为本区域的采样代表值,保留了更多的原信息。相应的是增加了采样的维度,后续的计算会更加复杂一点(需要增多层与层之间的参数。例如CNN的MNIST例子中,最后一层全连接层为20->10,而K-maxpool可能为40->10等等)。

 

  1.2 Chunk-maxpool

    Chunk-maxpool是基于K-maxpool的一种方法。它的做法是先将采样对象分块,然后取快中的max或者K-max。这种做法就保留了更多的采样信息,同时采样量和计算量也剧增。

2. 听话

    具体使用哪种pool方法可能要依据具体的实验数据,参考一些论文或许会比较好。但是maxpool,K-maxpool,Chunk-maxpool这三种常见pool方法应该还是要有所了解的。图像领域不知道应用是否广泛,但在NLP领域这几种方法应用还是挺多的。小黑喵教程今天就到此为止了。

转载于:https://www.cnblogs.com/catallen/p/8862271.html

你可能感兴趣的文章
MIUI10系统怎么样刷成开发版获得ROOT权限
查看>>
前端内容思维导图
查看>>
Linux下装VirtualBox
查看>>
ORA-12514: TNS:listener does not currently know of service requested in connect descriptor
查看>>
linux下面安装配置LAMP环境
查看>>
libco之协程分析
查看>>
java人机猜拳游戏002user
查看>>
iOS UIButton的使用详解
查看>>
Spring Boot 2(一):Spring Boot 2.0新特性
查看>>
排序问题
查看>>
Java 序列化Serializable详解(附详细例子)
查看>>
FMDB的使用
查看>>
CodeForces--TechnoCup--2016.10.15--ProblemA--Transformation: from A to B
查看>>
android Makefile 的流程—how android makefile work---makefile progress in android
查看>>
Picasso解决 TextView加载html图片异步显示
查看>>
SQL Server如何进行时间比较的代码
查看>>
SSL证书
查看>>
NSQ
查看>>
Trie树【字典树】浅谈
查看>>
C#使用互斥量(Mutex)实现多进程并发操作时多进程间线程同步操作(进程同步)的简单示例代码及使用方法...
查看>>