CNN(卷积神经网络)、RNN(循环神经网络)、D深度的内部结构有什么区别?_hth体育_hth华体育app官网登录_hth体育_hth官网app下载
源头厂家直供,专注于水处理行业过滤器生产国家专利技术 以用户至上为服务理念
全国咨询热线:135-7083-9962
您的位置:首页 > hth体育

CNN(卷积神经网络)、RNN(循环神经网络)、D深度的内部结构有什么区别?

浏览量: 发布时间:2024-01-16 16:05:36 作者: hth体育

  卷积神经网络(convolutional neural network, CNN),是一种专门用来处理是指那些至少在网络的一层中运用卷积运算来代替一般的矩阵乘法运算的神经网络。

  上图为DNN神经网络图,DNN内部的神经网络层可大致分为三类,输入层,躲藏层和输出层,一般来说第一层是输出层,最终一层是输出层,而中心的层数都是躲藏层。

  (1)DNN是一种最简略的神经网络。各个神经元别离归于不同的层,每个神经元和前一层的一切神经元相衔接,信号从输入层向输出层单向传达。

  (2)CNN是一种通过卷积核算的前馈神经网络,其是受生物学上的感触野机制提出的,具有平移不变性,运用卷积核,最大的运用了部分信息,保留了平面结构信息。

  (3)DNN以向量方式输入,未考虑平面的结构信息,而在图画范畴和自然语言处理范畴,平面信息很重要,因而CNN比DNN处理成果更好。因为DNN、CNN的输入、输出长度固定,而自然语言处理中的句子长度一般不固定,所以DNN、CNN处理这类问题功率较低,且无法处理时序相关的序列问题.未处理这样一些问题,呈现了循环神经网络RNN。(RNN本文暂不解说,后续文章会讲到)

  在处理图画的CNN中,输入层一般代表了一张图片的像素矩阵。能够用三维矩阵代表一张图片。三维矩阵的长和宽代表了图画的巨细,而三维矩阵的深度代表了图画的颜色通道。比方黑白图片的深度为1,而在RGB颜色形式下,图画的深度为3。

  卷积层是CNN最重要的部分。它与传统全衔接层不同,卷积层中每一个节点的输入仅仅上一层神经网络的一小块。卷积层被称为过滤器(filter)或许内核(kernel),Tensorflow的官方文档中称这个部分为过滤器(filter)。

  【留意】在一个卷积层中,过滤器(filter)所处理的节点矩阵的长和宽都是由人工指定的,这个节点矩阵的尺度也被称为过滤器尺度。常用的尺度有3x3或5x5,而过滤层处理的矩阵深度和当时处理的神经层网络节点矩阵的深度共同。

  具体进程如下,Input矩阵是像素点矩阵,Kernel矩阵是过滤器(filter)

  池化层不会改动三维矩阵的深度,可是它能够缩小矩阵的巨细。通过池化层,能愈加进一步缩小最终全衔接层中节点的个数,从而到达削减整个神经网络参数的意图。运用池化层既能够加速核算速度也能够有用的防备过拟合。池化层filter的核算不是节点的加权和,而是选用最大值或许均匀值核算。运用最大值操作的池化层被称之为最大池化层(max pooling)(最大池化层是运用的最多的磁化层结构)。运用均匀值操作的池化层被称之为均匀池化层(mean pooling)。

  下图别离表明不堆叠的4个2x2区域的最大池化层(max pooling)、均匀池化层(mean pooling)

  在通过多轮卷积层和池化层的处理之后,在CNN的最终一般会由1到2个全衔接层来给出最终的分类成果。通过几轮卷积层和池化层的处理之后,能够以为图画中的信息现已被笼统成了信息含量更高的特征。咱们我们能够将卷积层和池化层当作主动图画特征提取的进程。在提取完结之后,依然需要用全衔接层来完结分类使命。


相关文章

相关产品