找回密码
 注nanjixiong2017册

QQ登录

只需一步,快速开始

发表帖子

58

主题

58

帖子

1603

积分

版主

Rank: 7Rank: 7Rank: 7

积分
1603

Torch7深度学习教程(四)

[复制链接]
这一章不涉及太多的神经网络的原理,重点是介绍如何使用Torch7
  • 神经网络

    首先require(相当于c语言的include)nn包,该包是神经网络的依赖包,记得在语句最后加上“;”,这个跟matlab一样不加的话会打印出来数据。Torch可以让我们自己一层一层的设计自己的网络,像是容器一样可以一层一层地把你自己的Layer(神经网络的中的层)往里面添加。

    首先,要构造一个神经网络容器,即用上面的形式声明一个神经网络容器,网络名为net,博主目前知道的Torch提供了三种形式构建的神经网络的容器,如下图

    这里使用的是第一种,看名字大概也能猜到就是队列形式的,一层接一层地加载,第二种,第三种,图像展示应该比我文字描述的更形象。(有时间找个其他的列子把后面的两种的试验补充上)。

    这里代码行的序号没截屏好,第3行是没有的,第2行代码后直接接的是第4行代码。这里是net神经网络容器调用add()添加方法,向里面添加层,nn.SpatialConvolution()是创建一个卷基层,里面的参数值的含义分别为:1表示输入图片的通道为1,这个改写成3就是输入3通道的图片;6表示经过该层的卷积运算输出的通道数;5,5这两个参数代表的是用5x5的核进行卷积运算。总结,该层是把1通道的图片输入进来然后利用5x5的卷积核进行卷积运算,最后输出6通道的图片。
    [backcolor=rgba(128, 128, 128, 0.0745098)]module = nn.SpatialConvolution(nInputPlane, nOutputPlane, kW, kH, [dW], [dH], [padW], [padH])

    这是卷积层的函数说明,我们在上面只用到了前4个参数,[ ]为可以不用输入的参数,后面的dW,dH即横向移动和纵向移动的步长默认为1,padW为宽度维度附加0的参数,因为有的图像用你设置的卷积核和步长运算时,可能出现维数不对的情况(类比2x3的矩阵不能乘以2x4的矩阵一样,你的需要把2x4的矩阵换成3x4的矩阵,这里是在2x4的矩阵下面添加一行0元素,使其成为3x4的矩阵),默认为0,最好是设置成(kW-1)/2,即卷积核的宽-1后再除以2。padH默认为padW,最好设置成(kH-1)/2,即卷积核的高-1后再除以2。
如果对于卷积神经网络不是很了解的,可能看着还不是太明白我表达的意思,可以先把这些放一放,继续往下看,推荐一个网站http://cs231n.github.io/convolutional-networks/ 不喜欢看英文可以先看看这个http://dataunion.org/11692.html 网站。

第4行是往容器里面加入卷基层操作,现在就在卷积层里面添加激励函数ReLU函数,你也可以添加Sigmoid函数等等。

这里是添加pool池化层,即在2x2的区域内找最大的数,横向步长为2,纵向步长为2。
module = nn.SpatialMaxPooling(kW, kH, [dW], [dH], [padW], [padH])

padW和padH跟卷积层的那个函数一样,不再赘述。
添加卷基层torch的会自动连接前面的6张图片作为输入,这次是输出16张图片,卷积核为5x5,激励函数,池化层。

第7行之后是第9行,第8行没有代码。
这行是将16x5x5的3维tensor转换成16x5x5的1维tensor。通俗地理解为原先用16x5x5的立方体描述的东西,现在转化成用一条16x5x5线来描述之前的东西(后面有图,我会试着再解释下,希望可以理解地更清晰点)。

Linear是全连接层,我们将3维的tensor转化成(想象成立方体)转化成了1维的tensor,这在上一步时会输出16x5x5=400个节点,在这里我们让这400个节点与120个节点建立全连接。

添加激励层

同上120个节点与84个节点全连接,添加激励层。

13行的第一步,84个节点与10个节点全连接。最后是将10个节点输出转化成对数概率,用于分类问题。

最后打印出自己的建立的的神经网络。注意net:__是两个下划线,不要打错了!!!

这是建立的神经网络的结构图,我再在这里解释下那个view()函数,S4层到C5层这里就是使用了view()函数,再想象下我类比的那个立方体到直线的转换,S4层总体的可以看为长16宽5高5的立方体,C5层则变成了长120的线段。
转自SrCMpink
使用道具 举报 回复
您需要登录后才可以回帖 登录 | 注nanjixiong2017册

本版积分规则