科百科
当前位置: 首页 范文大全

ai算法未来前景(AI产品浅谈CNN)

时间:2023-06-08 作者: 小编 阅读量: 1 栏目名: 范文大全

文章对卷积神经网络CNN核心特点以及它的基本原理展开简要的解读,希望能够加深你对卷积神经网络的解。而且在卷积后往往还会跟上一个激励函数如ReLU或Sigmoid。它和“下采样”实际上是一个意思。最后给大家一个小彩蛋,希望可以帮助你们梳理卷积神经网络的知识结构:本文由@free原创发布于人人都是产品经理。题图来自Unsplash,基于CC0协议,

文章对卷积神经网络CNN核心特点以及它的基本原理展开简要的解读,希望能够加深你对卷积神经网络的解。

一、卷积神经网络概述

1.卷积神经网络要解决的问题

传统的BP神经网络与DNN(深度神经网络)不同层神经元的连接方式是“全连接”,也就是这一次层的一个神经元的输入,会接受上一次每一个神经元的输出,这种方式即为“全连接神经网络”。

这样的连接方式有一个的缺点:因为权值与偏置等参数量大,导致训练收敛十分缓慢。特别是对于图像这样的训练数据,动不动就是数以百万的像素,理论上虽然可以收敛,但你可能得等上N年才有结果,而且它的泛化性也会变差。

2.卷积神经网络的特点

卷积神经网络CNN就是为了解决这个问题而生,它的核心特点有三个

局部感受野

一张图像,我们实际上并不需要让每个神经元都接受整个图片的信息,而是让不同区域的神经元对应一整张图片的不同局部,最后只要再把局部信息整合到一起就可以了。这样就相当于在神经元最初的输入层实现了一次降维

这有点像我们的眼镜,左右眼各负责看到一部分视野,最后只要通过神经把视野整合到一起,我们看到的依旧是一个相对完整的视野

卷积层的权值共享

这可以说是卷积神经网络的最最最重要也是它牛逼之处,刚刚我们说到全连接神经网络最大的问题就是权值参数太多,而卷积神经网络的卷积层,不同神经元的权值是共享的,这使得整个神经网络的参数大大减小,提高了整个网络的训练性能,具体的实现方式我们一会再说

池化层(Pooling Layer)

简单理解可以看作是对图像的一次“有损压缩”,因为在实际的训练中,我们并不需要对图像中的每一个细节都进行特征提取和训练,所以池化的作用就是更进一步的信息抽象和特征提取,当然也会减小数据的处理量

二、卷积神经网络核心概念

我们先来来看看所谓的卷积到底是什么

1.卷积核

卷积核表达式: F(x)=wx b

简单认识一下卷积到底是怎么实现特征提取的。假设现在输入一个图片作为x(3×3像素),一个简单的卷积核w=【1,1,1,1,1,1,1,1,1】,b为0,那么这个图像经过一次卷积后,实现的效果如图

这样一个3×3的图像,通过卷积后就被压缩得到一个点“6”,我们就把这个点存储在卷积层的空间里(即 Feature map)。

当然在实际的训练中,卷积核的w与b也是被随机赋值并通过迭代法学出来的。而且在卷积后往往还会跟上一个激励函数如ReLU或Sigmoid。

2.步长

刚刚我们所说的是最为简化的图像(3×3),而卷积的工作方式,我们理解为“扫描”,加入一个图像是9×9像素,而卷积核理解为一个3×3的方框,那么一次卷积得到一个数字,而步长即为卷积下次移动扫描挪动的步数。

假设stride=1,那么每次就只滑动一个单位,它主要影响卷积对数据扫描的细密程度,步长越大,当然扫描的越粗糙,通常情况下Stride都会取“1”

3.卷积滤波器与卷积层

卷积滤波器通常由一个卷积核和激励函数构成,一个局部图像经过卷积滤波器提取特征后会形成一个Feature map,该平面上所有的神经元权值共享

4.Pooling Layer(池化层)

池化层是在图像经过卷积处理后的又一次有效特征提取和模糊处理。它和“下采样”实际上是一个意思。下面我们来看看所谓的“池化处理”或“下采样过程”到底是怎么回事。

常见的方式有两种,一种叫Max pooling(最大化),一种为Mean pooling(平均),它们都是对前面输入的数据做一次处理,假设我们用的是2X2的Pooling Filter(池化滤波器)

最大值池化过程

对输入的数据进行一次取最大值处理

平均值池化过程

对输入的数据进行一次取平均值处理

池化(下采样)的作用

这样的池化处理,在处理图像的时候是可以提取更为抽象的特征,减少数据处理量的同时保留有效信息。

当然它还可以防止过拟合,想想过拟合的原因就是模型过多开始学习数据中的细节导致其泛化性下降,而这样的处理刚好可以去除掉不怎么重要的细节,帮助模型更好地学习更为抽象的特征

三、参数减少和共享权值

下面我们来看看,CNN到底是以何种方式来完成权值共享的,要知道这可是它最大的卖点啊!

1.全连接神经网络

没有对比就没有伤害,不妨先来看看全连接的神经网络处理图像时候的一番景象!

这密密麻麻交错纵横的连接线,还仅仅是连接到隐含层的一个神经元,连接次数已经红字标出,不要太多。

2.“局部野”神经网络效果图

先声明本身是没有这个什么“局部野”神经网络的,只不过为了能更好地一步一步去理解我们先前说的概念

发现了没,通过不同神经元去接受局部图像的信息,这样它们明显不会有那么多的权值参数了!但这还不够

3.卷积层

如果我们在这个基础上,加上卷积滤波和激励函数的处理,最后会得到一层Feature map,在这个层中神经元之间的权值参数将会共享,完全一致哦

到这里你应该已经体会到卷积神经网络思想的核心所在:通过局部感受野、卷积层权值共享的方法,大大降低了网络参数的数量,减小网络的空间复杂程度。这就解决了我们最开始引出的问题,面对图像这样数以百万像素维度的数据,全连接神经网络无法有效对其进行处理,而卷积神经网络则刚好是对症下药!

当然在整个神经网络的宏观结构上,不同局部对应不同的卷积滤波器,以提取不同的特征。

四、CNN网络架构及训练过程

1.LeNet-5CNN的网络模型架构

可以看出来,这是一个识别字母的神经网络(大写的“A”有木有)

首先经过一次卷积滤波处理,得到了C1(卷积层 Feature map),然后又经过了一次下采样(池化)处理得到了S2(下采样层),之后又是一次卷积滤波得到C3卷积层,依次处理至途中的C5位全连接层,至此卷积的过程结束,被抽象的特征输入至传统的全连接神经网络,之后就又是熟悉的节奏了。

2.训练过程(有监督学习)

向前传播阶段

  • 选取训练样本(x,y),将x输入网络中
  • 随机初始化权值(一般情况下选取小数),信息从输入层经过一层一层的特征提取和转换,最后到达输出层,得到输出结果

反向传播阶段

  • 输出结果与理想结果对比,计算全局性误差(即我们之前说的Loss)
  • 得到的误差反向传递给不同层的神经元,按照我们之前所说的“迭代法”调整权值和偏重,寻找全局性最优的结果

五、场景应用

卷积神经网络目前最广泛的应用场景为图像识别领域,其中一个原因就是我们最初提到的,权值共享使得网络在处理图像的时候大大减少了参数数量,使得网络的训练速度更快。

当然最重要的还不止于此,我们都知道图像识别一个很大的问题就是如果图像中有一些损坏、缺失或变形的话,那么很可能干扰图像的识别结果。

卷积神经网络的卷积层和池化层在图像的本质都是提取更为抽象的特征,简单理解就是“模糊化”压缩处理,把一个图像中不那么重要的细节去掉,找到最为重要的特征进行学习。

那么图像中小细节的变化,反应在神经网络中也就是一些特征向量的变化,但这这个变化在卷积和池化处理后,对产生的结果影响几乎是微乎其微的,换句话说在CNN看来,这两张图片几乎就完全是“一张图片”了

以上就是对卷积神经网络CNN核心特点以及它的基本原理,是不是并没有想象中的那么难以理解呢?最后给大家一个小彩蛋,希望可以帮助你们梳理卷积神经网络的知识结构:

本文由 @free 原创发布于人人都是产品经理。未经许可,禁止转载。

题图来自 Unsplash ,基于 CC0 协议

,
    推荐阅读
  • 生化2重制版无限耐久小刀怎么解锁(生化危机2重制版无限小刀怎么获得)

    无限耐久小刀解锁方法不知道各位玩家有没有在游戏中注意到一个浣熊玩具,它其实是一个可以收集的物品,我们可以通过枪击碎来进行收集。如果你想要了解他们的位置的话可以来看看这篇——全浣熊玩具位置一览。这篇生化危机2重制版无限耐久小刀解锁方法就到这里,希望能够帮助到你们。

  • 边城古诗的特征(花重锦官城的重)

    由于出身好,杜甫有一群为官的亲戚和朋友。这个草堂后来很有名气,世称“杜甫草堂”,也称“浣花草堂”。杜严两家是世交,两人在长安时是发小。由于有这些官僚朋友的无私帮助,杜甫在成都生活日子过得相对比较安逸,也因此这段时间他的诗风少了一些沉郁顿挫,多了一些轻松秀丽。这首诗已编入小学教材,是国人非常熟悉的一首描写成都春夜雨景的五言律诗,历来脍炙人口,世相传诵。

  • 泸县公办幼儿园怎么录取2022 泸州2021年幼儿园招生

    超过招生计划数,由泸县教育和体育局组织、县纪委监委派驻县教育体育局纪检组监督、家长代表见证,摇号确定就读该园的幼儿名单。通过“四川省幼儿入学招生升学信息管理系统”或电话告知幼儿录取情况。

  • 老公生日适合送什么礼物(老公生日适合送的礼物有哪些)

    领带这个礼物的话,就比较适合送给那种上班族男人。钱包钱包算是一种比较实用的物品。很多男生都会有一个属于自己的钱包,而且这个钱包里面还会携带上你们两个人的合照,或者是一家人的照片。而且送一个钱包的话,还可以提醒男生注意东西的规整,不要将东西扔的乱七八糟。而且每一个男生对于剃须刀的要求,其实也是不一样的,可以买一个更加适合他的。而且剃须刀属于男生必不可少的生活用品,肯定用得上。

  • 红魔手机是什么品牌(红魔手机介绍)

    自努比亚手机开始探索游戏手机并推出「红魔」子品牌以来,不得不说其确实从「拍星星的手机」走到了另一条更加正确的道路上。努比亚去年推出的红魔6系列在性能、散热、外观和游戏专项功能上都有很好的表现,消费者的整体反馈还不错。日常使用下建议还是选择关闭散热风扇,在运行大型游戏时再选择开启。而且红魔7的触控肩键能够支持多种触发效果,可以针对不同的游戏实现多种肩键方案。

  • 名爵汽车续航怎么样(名爵车口碑到底怎么样)

    MGEZS是SAIC自2019年3月在中国上市以来,在纯电动小型SUV细分市场布局的车型产品。车尾的造型变化与老款车型明显不同,整个尾部线条处理更加饱满。全新MGZSEV座舱设计的中控布局装饰和出风口以及多功能方向盘的样式设计与老款车型相同。目前,全新名爵ZS电动车的动力信息尚未公布。虽然国内汽车消费市场仍然是全球最大的新能源汽车消费市场。这其中很大一部分是消费的需求造成的。或许这也是官方全新MGZSEV率先在国内市场发布欧版的原因之一。

  • 士兵突击班长退伍哭戏(士兵突击马班长)

    后来,范雷被评为国家一级演员。出演了太多军人角色,范雷被称为"军人专业户"。范雷却不认为自己只能演军人。2002年夏,范雷接到谢莉的电话,原来谢莉的继父出了车祸在医院抢救。范雷赶往医院,在术后夜以继日的照顾老人。但因伤势过重,谢莉的继父最终还是去世了。几年过后,谢莉怀孕,生下一个女儿。女儿的到来让范雷更加努力的工作。但是范雷却从未传出绯闻,让妻子十分放心。

  • 人流手术一共多少时间(人流手术的时间)

    人流手术一共多少时间做人流手术是避孕失败的补救措施,一般手术时间不能超过60天,太大、太小都不合适,也讲究时间,“太早”或“太晚”都不行。如果在这段时间内做人流术,很容易在手术时发生空吸或漏吸,造成手术失败或流产不完全。一旦出现这种情况,就需要进行二次手术清宫。此时的子宫壁比较厚,做人流术难度小,而且术后恢复也快。任何方法的流产都是对子宫、生育能力的伤害,一定要注意避孕,避免非意愿妊娠。

  • 无锡景点介绍(无锡景点介绍描述)

    无锡景点介绍太湖鼋头渚风景区:鼋头渚是太湖北部的一处半岛,形似浮鼋翘首而得名,有“太湖第一名胜”之称。每年3月中旬至5月初举办鼋头渚国际樱花节,推荐樱花谷、充山隐秀、长春桥一带踏青赏樱。3千百年来,石槛已被汲水者踩陷十多厘米。上池和下池之上,筑有“二泉亭”。