一文读懂卷积神经网络的基础架构

原创 已于 2023-08-11 15:03:48 修改 · 1k 阅读 · 2
标签
#cnn #深度学习 #人工智能
于 2023-08-11 15:01:53 首次发布
本文从生物视觉机制引出卷积神经网络，介绍其发展历程。详细阐述基础架构，包括卷积层、池化层、全连接层、激活函数和批量归一化。还对比了卷积神经网络与传统神经网络，指出其稀疏交互和权值共享的特性，能减少参数、避免过拟合，提高模型效率和稳健性。

引子：生物视觉机制与计算机视觉

如何让机器学会观察这个世界呢？生物的视觉认知过程给了我们诸多启示：这源于1981年获得了诺贝尔生物学和医学奖的一项研究：视觉系统的信息加工机制，这种机制使得生物通过多层视细胞和视神经对视觉刺激进行逐层处理、从而理解复杂的视觉特征并形成高层语义认知。这项于1962年提出的研究也启发了Yann LeCun，1989年，他首次提出了卷积神经网络。

时至今日，卷积神经网络作为计算机中最基本、最重要的模型，已经走过了30多年时间。1998年LeNet5提出之后，神经网络的发展一度陷入低潮。但在2012年ILSVRC（ImageNet Large Scale Visual Recognition Challenge）上一举夺魁的AlexNet又使得深度学习和人工智能有了爆发式的发展，2012年也被成为现代意义上的深度学习元年。

一、基础架构

说到卷积神经网络，就不得不提LeNet（图1），它是最早发布的卷积神经网络之一，这个模型最初是由AT&T贝尔实验室的研究院Yann LeCun于1989年提出的，目的是识别图像中的手写数字，并且它通过反向传播成功训练了卷积神经网络。当时LeNet的效果和支持向量机相媲美，成为了监督学习的主流方法。被广泛应用于自动取款机中，帮助识别支票上的数字。

LeNet-5
图1：LeNet基础网络架构

 麻雀虽小，五脏俱全，LeNet揭示了最为基础的卷积神经网络架构。这这些架构如下面的逻辑图（图2）所示：一个深度卷积神经网络通常由若干卷积层叠加若干全连接层组成，中间也包含各种非线性操作以及池化操作。和普通深度前馈网络相同，卷积神经网络也可使用前向传播算法进行训练，相较于其它网络模型，卷积操作的参数共享特性使得需要优化的参数数目大大缩减，提高了模型的训练效率和可扩展性。它主要用于处理类网络结构的数据，因此对于时间序列以及图像数据的分析与识别具有显著优势。

图2：卷积神经网络的基础架构

1.1 卷积层

要理解卷积层的概念，我们首先要明白什么是卷积？我在本科时的信号处理课上就学习过有关卷积的相关知识，当时看数学公式看花了眼，但仍然没有理解卷积的本质，而从此明白了卷积神经网络（CNN） 这篇公众号文章，以简明易懂的语言向我们阐述了什么叫做卷积，这里也是参考这篇文章，结合我自己的理解，向大家复述卷积的概念。

1.1.1 卷积的形象解释

对于左边的图像，若想要进行边界检测，我们可以设计一个中间图像所示的滤波器，往图片上“盖”，对应元素相乘求和。计算一个区域之后，就往其他区域移动，接着计算，直到把原图片每一个角落都覆盖了为止，这个过程就叫做“卷积”。

1.1.2 步长（stride）

这里所说的“移动”，就

最低0.47元/天 解锁文章
卷积神经网络（CNN）基础知识整理
小舟的博客
03-29 1472
这是机器学习的元老，是对人脑神经元工作机制的模拟，每个神经元是一个计算单元，输入的数据与权重进行相乘、求和，再加上偏置，得到的数据再经过激活函数，将结果进行输出，见下图，多个神经元相互连接组成神经网络，具体就不展开说了。实际上，上面的卷积处理过程，都是在对图片进行特征提取，而最终要进行分类或预测就需要借助神经网络了，所以一般在卷积处理之后需要对数据进行压平（flatten）操作，使其变为1维的数据，便于送入神经网络的输入层。也有一些先验的卷积核，如下面的核，进行卷积之后，可以实现锐化和边缘提取的效果。
卷积神经网络的基本操作,卷积神经网络百度百科
shirley67269的博客
08-19 1263
卷积神经网络（ConvolutionalNeuralNetwork,CNN）是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。[1] 它包括卷积层(alternatingconvolutionallayer)和池层(poolinglayer)。卷积神经网络是近年发展起来，并引起广泛重视的一种高效识别方法。
卷积神经网络（CNN）零基础通关指南：原理、图解与PyTorch实战
最新发布
闵浮龙的博客
04-11 684
想象一下，你是一个侦探，需要从一张照片里认出“这是一只猫”。你不会一下子看完整张照片，而是会先看局部：耳朵的形状、胡须的纹理、眼睛的颜色……把这些局部线索组合起来，最终得出结论。卷积神经网络（CNN）干的正是同样的事：它通过一层层的“小侦探”，逐步从局部到整体，从简单到复杂，最终认出图片里的东西。CNN 如今已经无处不在：你手机里的人脸解锁自动驾驶汽车识别红绿灯和行人医生用 AI 看 CT 片子淘宝拍照搜同款这一切的背后，都是 CNN 在默默工作。
学习笔记11--卷积神经网络基本结构
FUXI_Willard
12-09 4462
本系列博客包括6个专栏，分别为：《自动驾驶技术概览》、《自动驾驶汽车平台技术基础》、《自动驾驶汽车定位技术》、《自动驾驶汽车环境感知》、《自动驾驶汽车决策与控制》、《自动驾驶系统设计及应用》，笔者不是自动驾驶领域的专家，只是一个在探索自动驾驶路上的小白，此系列丛书尚未阅读完，也是边阅读边总结边思考，欢迎各位小伙伴，各位大牛们在评论区给出建议，帮笔者这个小白挑出错误，谢谢！ 此专栏是关于《自动驾驶汽车环境感知》书籍的笔记 3.卷积神经网络基本结构 3.1 概述 卷积神经网络由卷积层、池化层、全连接层(配合
深度学习之卷积神经网络
Small__明的博客
11-16 8801
深度学习之卷积神经网络 文章目录深度学习之卷积神经网络卷积神经网络模型结构图一、卷积层卷积核映射到卷积层的过程：局部连接和权值共享二、池化层三、Softmax层四、超参padding:补充边界，在边界补一圈0或1.Stride 步幅 卷积神经网络模型结构图 输入层（Input layer) 卷积层（convolution layer) 池化层（pooling layer) 输出层（全连接层+Softmax layer) 一、卷积层 1、提取特征。压缩提纯。 2、卷积层级之间的神经元是局部连接和权值共享
卷积神经网络（CNN）的整体框架及细节（详细简单）
热门推荐
小林学编程的博客
04-06 15万+
详细简单的介绍卷积神经网络（CNN)，让读者快速掌握！！！
【综述】一文读懂卷积神经网络(CNN)
qq_43673118的博客
09-07 2万+
卷积神经网络是多层感知机(MLP)的变种，由生物学家休博尔和维瑟尔在早期关于猫视觉皮层的研究发展而来，视觉皮层的细胞存在一个复杂的构造，这些细胞对视觉输入空间的子区域非常敏感，称之为感受野。CNN由纽约大学的Yann Lecun于1998年提出(LeNet-5)，其本质是一个多层感知机，成功的原因在于其所采用的局部连接和权值共享的方式：一方面减少了权值的数量使得网络易于优化；另一方面降低了模型的复杂度、减小了过拟合的风险。当网络的输入为图像时，这些优点将表现地更加明显。
【CNN】一文读懂卷积神经网络CNN
产业智能官
01-03 2万+
来源：机器学习算法与自然语言处理作者：白雪峰本文为图文结合，建议阅读10分钟。本文为大家解读如何简单明了的解释卷积，并且分享了学习中的一些方法案例。首先文章的提纲为：CNN栗子镇楼What is CNN            什么是卷积            什么是池化Why CNN对CNN的其他一些理解CNN实现（接口）1、CNN栗子（A Beginning Glimpse of CNN）Mod
【CNN】一文读懂卷积神经网络（CNN）详细过程！
qq_54432917的博客
11-21 4808
图片演示卷积神经网络经历卷积层、池化层和非线性激励层的全过程；直观的方式解释卷积神经网络的工作原理
一文读懂卷积神经网络（CNN）
dyna_lidan的博客
09-13 4869
卷积神经网络—起源 1981年，Hubel和Wiesel对猫的视觉皮层细胞研究表明：哺乳动物对外界的视觉感知信息采用了局部感知策略，为此Hubel和Wiesel获得了诺贝尔生物理和医学奖。 视觉的全局感知会导致记忆分散和模糊。局部感知则会增强记忆。那么在神经网络构建，局部连接就会减少权重，降低训练难度。全局感知和局部感知的结构示意图如下: 受生物视觉感知的启发，Yann LeCun改进了...
一文精简介绍CNN神经网络
m0_67912929的博客
05-28 1万+
随着卷积网络层数的增加，误差的逆传播过程中存在的梯 度消失和梯度爆炸问题同样也会导致模型的训练难以进行，甚至会出现随着网络深度的加深，模型在训练集上的训练误差会出现先降低再升高的现象。CNN的训练，也称神经网络的学习算法与经典BP网络是一样的，都属于随机梯度下降（SGD：Stochastic Gradient Descent），也称增量梯度下降，实验中用于优化可微分目标函数的迭代算法。在CSDN上2021-11-19发布的一篇深度学习的卷积神经网，内容整理的精简，移动，现在将其进行转载，并发布在公众号“
DL入门(1)：卷积神经网络(CNN)
KI的博客
01-16 7万+
CNN通常包括这几层：输入层（Input layer）、卷积层（Convolutional layer）、池化层（pooling layer）以及输出层（全连接层+softmax layer）。
图像领域|第一章|卷积神经网络
qq_45055172的博客
11-06 2666
卷积神经网络基本概念，主要的几种卷积网络结构，介绍其原理并通过代码实际测试比较。
卷积神经网络算法原理(卷积层，卷积运算，填充，步幅，经过卷积运算后的特征图大小，池化层，最大池化，平均池化，经过池化层运算后的特征图大小)
每一个不曾起舞的日子，都是对生命的辜负
03-13 2850
深度学习三大领域：大数据与数据挖掘、计算机视觉、自然语言处理；在计算机视觉中，卷积神经网络（CNN）扮演着重要角色，用来提取图像的特征；卷积神经网络是深度学习中极其重要的神经网络模型，在此基础上发展成计算机视觉领域，目前计算机神经有图像分类、目标检测、图像分割等分支，其落地项目也很多。其中大部分算法都是在卷积神经网络的基础上进行改进而成，想学习好卷积神经网络需要配合各种网络模型图去理解。
CNN 卷积神经网络结构
zhongkeli的专栏
07-07 4万+
CNNcnn每一层会输出多个feature map, 每个Feature Map通过一种卷积滤波器提取输入的一种特征，每个feature map由多个神经元组成，假如某个feature map的shape是m*n, 则该feature map有m*n个神经元。对于卷积层会有kernel, 记录上一层的feature map与当前层的卷积核的权重,因此kernel的shape为(上一层feature
CNN（卷积神经网络）一
Lahzylj的博客
06-20 1万+
CNN架构,卷积神经网络介绍，代码介绍
深度学习——CNN(卷积神经网络)（超详细）
weixin_37763870的博客
11-16 6万+
目录 一、卷积神经网络（CNN）定义 二、DNN与CNN的区别 三、CNN五种结构组成 1、输入层 2、卷积层(Convolution Layer) 3、池化层(Pooling Layer) 4、全连接层 5、Softmax层 一、卷积神经网络（CNN）定义 卷积神经网络（convolutional neural network, CNN），是一种专门用来处理具有类似网格结构的数据的神经网络。卷积...
CNN学习笔记（1）稀疏连接和权值共享的理解
tuyunbin1995的博客
10-22 1万+
CNN中，图像作为一个visual field，而每一个hidden layer中cells也就是各种滤波器，每一个局部滤波器就是一个卷积核，通过局部滤波器对图像的subset产生响应，之后每个cell提取到的信息传递到更高层汇总后就是整个图像的信息。 CNN的两大特性稀疏连接和权值共享能有效解决神经网络中自由参数过多带来的计算复杂的问题。
图解深度学习-卷积神经网络
qq_40107571的博客
12-26 651
图解深度学习-卷积神经网络
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值