科百科
当前位置: 首页 范文大全

ai算法未来前景(AI产品浅谈CNN)

时间:2023-06-08 作者: 小编 阅读量: 1 栏目名: 范文大全

文章对卷积神经网络CNN核心特点以及它的基本原理展开简要的解读,希望能够加深你对卷积神经网络的解。而且在卷积后往往还会跟上一个激励函数如ReLU或Sigmoid。它和“下采样”实际上是一个意思。最后给大家一个小彩蛋,希望可以帮助你们梳理卷积神经网络的知识结构:本文由@free原创发布于人人都是产品经理。题图来自Unsplash,基于CC0协议,

文章对卷积神经网络CNN核心特点以及它的基本原理展开简要的解读,希望能够加深你对卷积神经网络的解。

一、卷积神经网络概述

1.卷积神经网络要解决的问题

传统的BP神经网络与DNN(深度神经网络)不同层神经元的连接方式是“全连接”,也就是这一次层的一个神经元的输入,会接受上一次每一个神经元的输出,这种方式即为“全连接神经网络”。

这样的连接方式有一个的缺点:因为权值与偏置等参数量大,导致训练收敛十分缓慢。特别是对于图像这样的训练数据,动不动就是数以百万的像素,理论上虽然可以收敛,但你可能得等上N年才有结果,而且它的泛化性也会变差。

2.卷积神经网络的特点

卷积神经网络CNN就是为了解决这个问题而生,它的核心特点有三个

局部感受野

一张图像,我们实际上并不需要让每个神经元都接受整个图片的信息,而是让不同区域的神经元对应一整张图片的不同局部,最后只要再把局部信息整合到一起就可以了。这样就相当于在神经元最初的输入层实现了一次降维

这有点像我们的眼镜,左右眼各负责看到一部分视野,最后只要通过神经把视野整合到一起,我们看到的依旧是一个相对完整的视野

卷积层的权值共享

这可以说是卷积神经网络的最最最重要也是它牛逼之处,刚刚我们说到全连接神经网络最大的问题就是权值参数太多,而卷积神经网络的卷积层,不同神经元的权值是共享的,这使得整个神经网络的参数大大减小,提高了整个网络的训练性能,具体的实现方式我们一会再说

池化层(Pooling Layer)

简单理解可以看作是对图像的一次“有损压缩”,因为在实际的训练中,我们并不需要对图像中的每一个细节都进行特征提取和训练,所以池化的作用就是更进一步的信息抽象和特征提取,当然也会减小数据的处理量

二、卷积神经网络核心概念

我们先来来看看所谓的卷积到底是什么

1.卷积核

卷积核表达式: F(x)=wx b

简单认识一下卷积到底是怎么实现特征提取的。假设现在输入一个图片作为x(3×3像素),一个简单的卷积核w=【1,1,1,1,1,1,1,1,1】,b为0,那么这个图像经过一次卷积后,实现的效果如图

这样一个3×3的图像,通过卷积后就被压缩得到一个点“6”,我们就把这个点存储在卷积层的空间里(即 Feature map)。

当然在实际的训练中,卷积核的w与b也是被随机赋值并通过迭代法学出来的。而且在卷积后往往还会跟上一个激励函数如ReLU或Sigmoid。

2.步长

刚刚我们所说的是最为简化的图像(3×3),而卷积的工作方式,我们理解为“扫描”,加入一个图像是9×9像素,而卷积核理解为一个3×3的方框,那么一次卷积得到一个数字,而步长即为卷积下次移动扫描挪动的步数。

假设stride=1,那么每次就只滑动一个单位,它主要影响卷积对数据扫描的细密程度,步长越大,当然扫描的越粗糙,通常情况下Stride都会取“1”

3.卷积滤波器与卷积层

卷积滤波器通常由一个卷积核和激励函数构成,一个局部图像经过卷积滤波器提取特征后会形成一个Feature map,该平面上所有的神经元权值共享

4.Pooling Layer(池化层)

池化层是在图像经过卷积处理后的又一次有效特征提取和模糊处理。它和“下采样”实际上是一个意思。下面我们来看看所谓的“池化处理”或“下采样过程”到底是怎么回事。

常见的方式有两种,一种叫Max pooling(最大化),一种为Mean pooling(平均),它们都是对前面输入的数据做一次处理,假设我们用的是2X2的Pooling Filter(池化滤波器)

最大值池化过程

对输入的数据进行一次取最大值处理

平均值池化过程

对输入的数据进行一次取平均值处理

池化(下采样)的作用

这样的池化处理,在处理图像的时候是可以提取更为抽象的特征,减少数据处理量的同时保留有效信息。

当然它还可以防止过拟合,想想过拟合的原因就是模型过多开始学习数据中的细节导致其泛化性下降,而这样的处理刚好可以去除掉不怎么重要的细节,帮助模型更好地学习更为抽象的特征

三、参数减少和共享权值

下面我们来看看,CNN到底是以何种方式来完成权值共享的,要知道这可是它最大的卖点啊!

1.全连接神经网络

没有对比就没有伤害,不妨先来看看全连接的神经网络处理图像时候的一番景象!

这密密麻麻交错纵横的连接线,还仅仅是连接到隐含层的一个神经元,连接次数已经红字标出,不要太多。

2.“局部野”神经网络效果图

先声明本身是没有这个什么“局部野”神经网络的,只不过为了能更好地一步一步去理解我们先前说的概念

发现了没,通过不同神经元去接受局部图像的信息,这样它们明显不会有那么多的权值参数了!但这还不够

3.卷积层

如果我们在这个基础上,加上卷积滤波和激励函数的处理,最后会得到一层Feature map,在这个层中神经元之间的权值参数将会共享,完全一致哦

到这里你应该已经体会到卷积神经网络思想的核心所在:通过局部感受野、卷积层权值共享的方法,大大降低了网络参数的数量,减小网络的空间复杂程度。这就解决了我们最开始引出的问题,面对图像这样数以百万像素维度的数据,全连接神经网络无法有效对其进行处理,而卷积神经网络则刚好是对症下药!

当然在整个神经网络的宏观结构上,不同局部对应不同的卷积滤波器,以提取不同的特征。

四、CNN网络架构及训练过程

1.LeNet-5CNN的网络模型架构

可以看出来,这是一个识别字母的神经网络(大写的“A”有木有)

首先经过一次卷积滤波处理,得到了C1(卷积层 Feature map),然后又经过了一次下采样(池化)处理得到了S2(下采样层),之后又是一次卷积滤波得到C3卷积层,依次处理至途中的C5位全连接层,至此卷积的过程结束,被抽象的特征输入至传统的全连接神经网络,之后就又是熟悉的节奏了。

2.训练过程(有监督学习)

向前传播阶段

  • 选取训练样本(x,y),将x输入网络中
  • 随机初始化权值(一般情况下选取小数),信息从输入层经过一层一层的特征提取和转换,最后到达输出层,得到输出结果

反向传播阶段

  • 输出结果与理想结果对比,计算全局性误差(即我们之前说的Loss)
  • 得到的误差反向传递给不同层的神经元,按照我们之前所说的“迭代法”调整权值和偏重,寻找全局性最优的结果

五、场景应用

卷积神经网络目前最广泛的应用场景为图像识别领域,其中一个原因就是我们最初提到的,权值共享使得网络在处理图像的时候大大减少了参数数量,使得网络的训练速度更快。

当然最重要的还不止于此,我们都知道图像识别一个很大的问题就是如果图像中有一些损坏、缺失或变形的话,那么很可能干扰图像的识别结果。

卷积神经网络的卷积层和池化层在图像的本质都是提取更为抽象的特征,简单理解就是“模糊化”压缩处理,把一个图像中不那么重要的细节去掉,找到最为重要的特征进行学习。

那么图像中小细节的变化,反应在神经网络中也就是一些特征向量的变化,但这这个变化在卷积和池化处理后,对产生的结果影响几乎是微乎其微的,换句话说在CNN看来,这两张图片几乎就完全是“一张图片”了

以上就是对卷积神经网络CNN核心特点以及它的基本原理,是不是并没有想象中的那么难以理解呢?最后给大家一个小彩蛋,希望可以帮助你们梳理卷积神经网络的知识结构:

本文由 @free 原创发布于人人都是产品经理。未经许可,禁止转载。

题图来自 Unsplash ,基于 CC0 协议

,
    推荐阅读
  • 交城融入太原(小康路上的探索之旅)

    今年以来,西社镇提前谋划布局,开启了乡村振兴的探索之旅。交城县西社镇镇长闫宇宏说。扎实开展“六乱”整治工作。据悉,全镇各村43名保洁员在镇村干部和全镇党员干部带领下,累计出动铲车等大型机械50台次,人力2300余人次,洒水车16台次,垃圾清运车25辆,清理垃圾2000余吨,清理死角垃圾700余方;清理“四堆”27处,清理河道4000余米,形成“整治无死角、责任全覆盖”的工作格局。西社镇党委书记王传奇充满信心地表示。

  • 安家房似锦和她家人最后怎么了(安家的原型是不是链家)

    最近安家这部题材剧的热议度还是挺高的,孙俪娘娘饰演的房似锦,简直和她一样是拼命三郎,接戏风风火火,工作认认真真,按规章制度做事,有时候,做事太专业,也会没有了人情味。静宜门店被安家天下收购后,房似锦被下派到静宜门店当店长,与徐文昌共同经营这个门店,周围还有“小红帽”和“阿拉丁”两家房产中介公司,他们是静宜门店最强劲的对手,不过自从房似锦来了之后,静宜门店生意显然比其他两家好。

  • 和平精英衣服有进场特效吗(和平精英有进场特效的衣服)

    尤其上了王牌的玩家,那个进场特效超酷,不仅有金色一道光砸下来,还有旋转摆pose耍帅的姿势,吸引了很多小迷妹。

  • 马戏团会表演什么节目(马戏团未正式表演)

    2014年10月31日晚上8点左右,永川乐和乐都欢乐世界皇家马戏团拉起了一道警戒线,马戏团正在警戒线内排练驯兽节目,准备迎接万圣节晚上的晚会,由于不是正式表演,所以该剧团拉起了警戒线,禁止游客进入以及参观。对于本次事件,孩子是不幸的。2019年10月,俄罗斯就发生了一起棕熊反客为主在演出中将驯兽师咬伤事件。俄罗斯是世界上棕熊数量最多的国家,有15万头左右,超过了全球棕熊数量的一半。

  • 红豆王菲歌词含义(红豆王菲歌词含义是什么)

    红豆王菲歌词含义?红豆王菲歌词含义《红豆》歌词的含义是这样的:“还没好好地感受雪花绽放的气候,我们一起颤抖会更明白什么是温柔,还没跟你牵着手走过荒芜的沙丘,可能从此以后学会珍惜天长和地久”这段描写里女性的细腻敏感很明显。相拥看雪,牵手漫步,都是爱情中的美好画面,但“还没”一词瞬间让这些画面变成了虚幻。实际表达了悔与憾。一般人面对不利的结果时,最易后悔。

  • 佟大为的妻子有几个孩子(演员佟大为的老婆是谁)

    2015年8月,获“年度挚爱知性明星”奖。2016年4月7日,关悦第三次怀孕的孕肚照被媒体曝光。于9月25日上映。2月18日,参加2015年中央电视台春节联欢晚会,表演开场节目《四世同堂合家欢》。同时与黄晓明、杨幂主演的电影《何以笙箫默》于4月30日上映。5月3日,与赵薇主演的电视剧《虎妈猫爸》于5月3日在东方卫视播出。同时参演的喜剧电影《横冲直撞好莱坞》于6月26日上映。

  • 高血压运动时间是多少 高血压要运动多少时间

    高血压患者并没有被运动抛弃,掌握相关运动知识,助你健康降压,不再压力山大。运动对高血压有什么帮助有规律的运动能降低收缩压和舒张压,并减少心脏输出及休息时的周边血管阻力,适量运动可缓解交感神经紧张,增加扩血管物质的分泌,改善内皮舒张功能,促进糖类脂类代谢,降低血压,减少心血管疾病风险。

  • 幼儿园跨年联欢会美篇(跨世纪全国联盟幼儿园仪式满满喜迎开学)

    盼望着盼望着,伴随着9月的步伐到来的,还有老师和孩子们心心念念的开学。这就是跨世纪全国联盟幼儿园喜迎开学的场景。和往年一样,这样重大的时刻,我们选择仪式感满满地渡过。疫情防控不能少,我们来测个体温吧。充满浓浓仪式感的开学典礼在跨世纪幼儿园美妙动人的园歌中落下帷幕。

  • 五年级数学怎么学(如何学号五年级数学?)

    五年级数学怎么学?当然要补上所欠缺的基础知识,是很不容易的,今天小编就来说说关于五年级数学怎么学?五年级数学怎么学要打好基础:数学是一门系统性强,前后内容联系十分紧密的学科。学习数学必须遵循从基础学起,循序渐进,逐步扩展的原则。要重视解决问题的方法和过程。要做适当的练习。要善于找规律,善于总结归纳,迁移类推,举一反三。有预习的效果是不同的。

  • 祝福情侣新年快乐的句子(祝福情侣新年快乐的句子怎么写)

    祝福情侣新年快乐的句子懂得遗忘的人获得自由,懂得放心的人获得轻松,懂得付出的人获得真爱,懂得欣赏的人获得幸福,懂得关怀的人获得朋友!所以,为了拯救人类,一定要快乐哦!在这个世界里,有一种在乎,叫惦记,有一种陪伴,叫珍惜。我的新年愿望是,有你,有个家。新年至,鞭炮响,短信来,祝福到,玉猴蹦,快乐到。送你新春好信息,愿你心情爽滋滋,祝你幸福加快乐,财源滚滚好运至,吉祥如意过大年。我爱你,新年快乐。