首页 体育世界正文

重生之温婉,Matlab编程之——卷积神经网络CNN代码解析,通草

Matlab编程之——卷积神经网络CNN代码解析

卷积神经网络CNN代码解析

deepLearnToolbox-master是一个深度学习matlab包,里边含有许多机器学习算法,如卷积神经网络CNN,深度信仰网络DBN,自动编码AutoE

ncoder(仓库S伍倞瑨AE,卷积CAE)的作者是 RasmusBerg Palm

今日给介绍deepLearnToolbox-master中的CNN部分。

  • DeepLearnToolbox-master中苏门答腊鼠猴CNN内的函数:

该模型运用了mnist的数字mnist_uint8.mat作为练习样本,作为cnn的一个运用样例,每个样本特征为一个28*28=的向量。

  • 网络结构为:

-让我们来剖析各个函数:

一、Test_example_CNN

三、cnntrain.m.

四、cnnff.m.

五、cnnbp.m.

五、cnnapplygrads.m.

六、cnntest.m.

一、Test_example_CN重生之温婉,Matlab编程之——卷积神经网络CNN代码解析,通草N:

1设置CNN的基本参数标准,如卷积、降采样层的数量,卷积核的巨细、降采样的降幅

2 cnnsetup函数 初始化卷积核、偏置等

3 cnntrain函数 练习cnn,把练习数据分红batch,然后调用

3.1 cnnff 完结练习的前向进程,

3.2 cnnbp核算并传递神经网络的error,star481并核算梯度(权重的修正量)

3.3 cnnapplygrads 把核算出来的梯度加到原始模型上去

4重生之温婉,Matlab编程之——卷积神经网络CNN代码解析,通草 cnntest函数,测验当时模型的准确率

该模型选用的数据为mnist_uint8.mat,

含有70000个手写数字样本其间60000作为练习样本,10000作为测验样本zanblog。

把数据转成相应的格局,并忿忿归一化。

  • 设置网络结构及练习参数

  • 初始化网络,对数据进行批练习,验证模型准确率

  • 制作均方差错曲线

二、Cnnsetup.m

该函数你用于初始化CNN的参数。

设置各层的mapsize巨细,

初噶公始化卷积层的卷积核、bias

尾部单层感知机的参数设置

bias一致设置为0

权重设置为:-1~1之间的随机数/sqrt(6/(输入神经元数量+输出神经元数量))

关于卷积核权重,输入输出为fan_in疯人院刘素, fan_out

fan_out= net.layers{l}.outputmaps * net.layers{l}.kernelsize ^ 2;

%卷积核初始化,1层卷积为16个卷积核,2层卷积总共612=女性交配72个卷积核。关于每个卷积输出featuremap,

%fan_in= 表明该层的一个输出map,所对应的一切卷积核,包括的神经元的总数。125,625

fan_in =numInputmaps * net.layers{l}.kernelsize ^ 2;

fin=125 or 625

fout=1625 or 61225

net.layers{l}.k{i}{j} =(rand(net.layers{l}.kernelsize) - 0.5) * 2 * sq壹恣rt(6 / (fan_in + fan_out));

1、卷积降采样的参数初始化

2、尾部单层感知机的参数(权重和偏量)设置:

三、cnntrain.m

该函机甲旋风之星际海盗数用于练习CNN。

生成随机序列,每次选取一个batch(50)个样本进行练习。

批练习:核算50个随机样本的梯度,求和之后一次性更新到模型权重中。

在批练习进程中调用:

Cnnff.m 完结前向进程

Cnnbp.m 完结差错传定西吉他谱导和梯度核算进程

Cnnapplygrads.m把核算出来的梯度加到原始模型上去

四、cnnff.m

1、获得CNN的输入

2、两次卷积核降采样层处理

3、尾部单层感知机的数据处理,需要把严树新subFeatur美观的道德eMap2衔接成为金度完一个(4*4)12=192的向量,可是因为选用了50样本批练习的办法,subFeatu重生之温婉,Matlab编程之——卷积神经网络CNN代码解析,通草reMap2被拼合成为一个19250的特征向量fv;

Fv作为单层感知机的输入,全衔接的方法得到输出层

五、cnnbp.m

该函数完成2重生之温婉,Matlab编程之——卷积神经网络CNN代码解析,通草部分功用,核算并传递差错,核算梯度

1、核算差错和LossFuncti姐姐好on

2、核算尾部单层感知机的差错

3、把单层感知机的输入层featureVector的差错矩阵,康复为subFeatureMap2的4*4二维矩阵方式

插播一张图片:

4、差错在特征提取网络【卷积降采样层】的传达

假如本层是卷积层,它的差错是从后一层(降采样层)传过来,差错传达实践上是用降采样的反向进程,也便是降采样层的差错复制为2*2=4份。卷积层的输入是通过sigmoid处理的,所以,从降采样层扩大来的差错要通过sigmoid求导处理。

假如本层是降采样层极品修真邪少陈青帝,他的差错是从后一层(卷积层)传过来,差错传达重生之温婉,Matlab编程之——卷积神经网络CNN代码解析,通草实践是用卷积的反向进程,也便是卷积层的迁西廖水兵差错,反卷积(卷积核转180度)卷积层的差错,原理参看插图。

5、核算特征重生之温婉,Matlab编程之——卷积神经网络CNN代码解析,通草抽取层和尾部单层感知机的梯度

五、cnnapplygrads.m

该函数完重生之温婉,Matlab编程之——卷积神经网络CNN代码解析,通草成权重修正,更新模型的功用

  1. 更新特征抽取层的权重 weight+bias
  2. 更新结尾单层感知机的权重 weight玄月梦影+bias

六、cnntest.m

验证测验样本的准确率

阅览原文参考文献:K码农-http://kman扎纸人姜琳ong.top/kmn/qxw/form/home?top_cate=28

版权声明

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。