卷积神经网络基础CNN

最新推荐文章于 2025-07-28 18:43:37 发布
原创 最新推荐文章于 2025-07-28 18:43:37 发布 · 308 阅读 · 0 ·
本内容遵循CC 4.0 BY-SA版权协议
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
收录于
深度学习&图像处理

当前文章被收录于：

深度学习&图像处理
26 篇文章 4 人学习
订阅专栏 查看详情

文章目录

反向传播（Back Propagation，BP）算法
尽可能使用GPU，提速明显

主要部件

一、全连接层

在这里插入图片描述

实例：利用BP神经网络做车牌数字识别

  1. 预处理
    在这里插入图片描述
    上图分别为：原始RGB图像–>灰度化–>二值化处理得到黑白图像

  2. 使用5行3列的窗口在二值化处理过后的图像上进行滑动，计算白色像素所占的比例
    当滑动到边缘可能出现越界情况时，可以补一列0或改变滑动窗口大小（变成5* 2等），最后得到5*5的矩阵
    在这里插入图片描述

  3. 将5* 5的矩阵按行展开成1*25的行向量，作为神经网络的输入层
    在这里插入图片描述

  4. 输出层，期望输出0-9，使用one-hot编码。0对应的编码为1000000000，1对应的编码为0100000000，以此类推
    在这里插入图片描述
    在这里插入图片描述

二、卷积层

  1. 把卷积核放到特征矩阵Image上进行滑动，每位对应相乘再相加得到一个值。每滑动一次得到一个结果，最后得到3*3的卷积结果

  2. 卷积目的：进行图像特征提取

  3. 卷积特性：拥有局部感知机制（滑动窗口在Image的局部上滑动）；权值共享（卷积核不变）
    在这里插入图片描述

  4. 与普通神经网络的比较：CNN大大减少所需要的参数
    在这里插入图片描述

  5. 计算过程：卷积核1中的粉色在R上滑动，第一个位置得到0；卷积核1中的绿色在G上滑动，第一个位置得到0；卷积核1中的蓝色在B上滑动，第一个位置得到1，故卷积核1得到的黄色输出特征矩阵左上角为0+0+1=1；其他位置依次
    ，在这里插入图片描述
    注意：
    由于输入特征矩阵为三维，故卷积核同样为三维
    输出特征矩阵的层数与卷积核个数相同

  6. 加上偏移量bias的计算：
    若卷积核1的偏移量为-1，则黄色输出特征矩阵变为
    在这里插入图片描述

  7. 加上激活函数的计算
    在这里插入图片描述
    不建议使用很大的学习率进行学习，可能导致很多神经元失活

  8. 卷积核滑动过程中出现越界时，使用padding补0，补0之后的矩阵尺寸由4个因素决定
    在这里插入图片描述

三、池化层

  1. 在卷积神经网络中，卷积层之间往往会加上一个池化层。池化层可以非常有效地缩小参数矩阵的尺寸，从而减少最后全连层中的参数数量。使用池化层即可以加快计算速度也有防止过拟合的作用。
  2. 在图像识别领域，有时图像太大，我们需要减少训练参数的数量，它被要求在随后的卷积层之间周期性地引进池化层。池化的唯一目的是减少图像的空间大小。
  3. 池化层目的：对特征图进行稀疏处理，减少数据运算量
  4. 最大下采样层，取最大值。即第一行第一个位置=max{1，1，5，6}=6；第一行第二个位置=max{2，4，7，8}=8；第二行类似在这里插入图片描述
  5. 平均下采样层，第一个位置=(1+1+5+6)/4=3.25
  6. 池化在每一个纵深维度上独自完成，因此图像的纵深保持不变。即channel不变，只改变特征矩阵的w和h
  7. 一般池化和大小和步距一样
    在这里插入图片描述

反向传播过程中

四、误差的计算

在这里插入图片描述
在这里插入图片描述

五、误差的反向传播

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

六、权重的更新

在这里插入图片描述
由于算力等等的限制多采用分批次样本进行求解
在这里插入图片描述
由于分批次样本求解的过程损失梯度总是指向当前批次最优的方向，因此引入优化器
优化器可以使网络得到更快的收敛
优化器optimazer

  1. SGD
    缺点：
  • 易受样本噪声的影响（当有数据标注错误时，某一批次的梯度方向可能不是指向正确的梯度方向）
  • 可能陷入局部最优解
    在这里插入图片描述

  1. SGD+Momentum
    解决了SGD中易陷入局部最优解的情况
    在这里插入图片描述

  2. Adagrad
    缺点：学习率下降的太快可能还没收敛就停止收敛
    在这里插入图片描述

  3. RMSProp
    改进了Adagrad优化器，多添加了 η 和 1 − η \eta和1-\eta η和1−η两个参数控制衰减速度
    在这里插入图片描述

  4. Adam
    在这里插入图片描述
    优化器比较
    在这里插入图片描述
    学习视频：https://www.bilibili.com/video/BV1b7411T7DA?t=10
    https://www.bilibili.com/video/BV1M7411M7D2?t=83

池化方法总结（Pooling）
Daniel_djf的专栏
01-05 6万+
在卷积神经网络中，我们经常会碰到池化操作，而池化层往往在卷积层后面，通过池化来降低卷积层输出的特征向量，同时改善结果（不易出现过拟合）。 为什么可以通过降低维度呢？ 因为图像具有一种“静态性”的属性，这也就意味着在一个图像区域有用的特征极有可能在另一个区域同样适用。因此，为了描述大的图像，一个很自然的想法就是对不同位置的特征进行聚合统计，例如，人们可以计算图像一个区域上的某个特定特征的平均值
详细版【卷积神经网络CNN】基础模型（邱锡鹏）
weixin_43232279的博客
04-24 1737
卷积神经网络CNN 全连接前馈问题： 参数太多：效率低且容易过拟合 局部不变特性：忽略物体的局部不变性特征，比如图像中的尺度缩放、平移、旋转等操作不影响其语义信息。如果使用全连接，则所有维度都被一视同仁，如(x1,y1) (x2,y2)中的四个数字被等价看待，但是实际上x1和x2的关联度（相关性）会高于x1和y1，一般需要进行数据增强来提高性能。 卷积神经网络CNN是一种具有局部连接、权重共享、汇聚等特性的深层前馈神经网络。 一维卷积（信号处理中使用） 𝑦𝑡= ∑ 𝑤𝑘𝑥𝑡−𝑘+1 ( 1
卷积神经网络(CNN)张量(图像)的尺寸和参数计算(深度学习)
kyle1314608的博客
06-02 6858
卷积神经网络(CNN)张量(图像)的尺寸和参数计算(深度学习) 分享一些公式计算张量（图像）的尺寸，以及卷积神经网络（CNN）中层参数的计算。 以AlexNet网络为例，以下是该网络的参数结构图。 AlexNet网络的层结构如下： 1.Input:图像的尺寸是227*227*3. 2.Conv-1:第1层卷积层的核大小11*11，...
【深度学习基础模型】卷积神经网络（Convolutional Neural Networks, CNN）详细理解并附实现代码。
985小水博的摸鱼日常
10-02 1221
卷积神经网络（Convolutional Neural Networks, CNN）学习笔记！
卷积层和池化层后输出大小方法
ddy_sweety的博客
04-26 2万+
卷积后图片输出大小几个数W:图像宽，H:图像高，D:图像深度（通道数）F：卷积核宽高，N:卷积核（过滤器）个数S:步长，P:用零填充个数卷积后输出图像大小：                                    Width=(W-F+2P)/S+1                                    Height=(H-F+2P)/S+1卷积后输出图像深度：   ...
对于CNN中pooling（池化层）的理解
xiaodong_11的博客
08-23 2万+
pooling层(池化层)的输入一般来源于上一个卷积层,主要有以下几个作用： 1.保留主要的特征,同时减少下一层的参数和计算量，防止过拟合； 2. 保持某种不变性，包括translation(平移)，rotation(旋转)，scale(尺度),常用的有mean-pooling和max-pooling。 mean-pooling(平均值)   对一块小区域取平均值,假设pooling的窗大...
【卷积神经网络】卷积神经网络（Convolutional Neural Networks, CNN）基础
__阿健__的博客
12-16 6290
卷积神经网络（Convolutional Neural Networks, CNN），是一种 针对图像数据 的特殊神经网络。 图像数据的维数很高，比如 1,000×1,000大小的彩色图像对应于1000×1000×3=300w 维特征。如果继续沿用 常规的全连接网络，会导致 巨大的参数量【第一个隐层中每一个单独的全连接神经元就有300w权重】。大参数量意味着 繁重的计算，而更重要的是，会有 更高的过拟合风险。
【Python · PyTorch】卷积神经网络 CNN（基础概念）
茶色喵的博客
11-14 5992
本文介绍卷积神经网络的基础概念，为博主自用笔记提纲。
卷积神经网络(CNN)基础介绍
热门推荐
网络资源是无限的
01-16 37万+
卷积神经网络(CNN)基础介绍
卷积神经网络(CNN)基础
A125679880的博客
04-09 3860
在卷积神经网络（CNN）中，softmax损失函数（也称为交叉熵损失函数）是用来衡量模型预测结果与真实标签之间的差异的损失函数。它在分类任务中被广泛使用，尤其是当输出需要解释为概率分布时。定义：Softmax损失函数是结合了Softmax激活函数和交叉熵损失的函数，用于衡量模型预测结果与真实标签之间的差异。作用作为优化目标，引导模型调整参数以最小化损失。适用于多分类任务，输出概率分布便于解释和比较。
CNN卷积神经网络之基础（一）
最新发布
Hao_diedie的博客
07-28 1138
本文介绍了卷积神经网络(CNN)的基础知识和核心组件。首先分析了传统全连接神经网络在处理图像时的缺陷，指出了CNN通过局部连接、权重共享和池化三大特性解决这些问题。然后详细讲解了卷积操作原理，包括步长和填充的作用，并提供了PyTorch实现代码。此外还介绍了池化层的作用和实现方法。最后给出了一个完整的简单CNN模块实现案例，包含卷积、ReLU激活和最大池化。全文从理论到实践，帮助读者快速掌握CNN的核心概念和基础实现。
CNN基础——卷积神经网络的组成
AI浩
05-13 1万+
以图像分类任务为例，在表5.1所示卷积神经网络中，一般包含5种类型的网络层次结构： CNN层次结构 输出尺寸 作用 输入层 W1×H1×3 卷积网络的原始输入，可以是原始或预处理后的像素矩阵 卷积层 W1×H1×K 参数共享、局部连接，利用平移不变性从全局特征图提取局部特征 激活层 W1×H1×K 将卷积层的输出结果进行非线性映射 池化层 W2×H2×K 进一步筛选特征，可以有效减少后续网络层次所需的参数量 全
深度学习基础（二）卷积神经网络（CNN）
引用原创内容标明出处即可
02-23 1万+
卷积神经网络（CNN）的应用领域广泛，尤其在图像处理方面，CNN已经成为了一种革命性的工具。本章将深入探讨CNN的架构、典型应用案例以及性能分析，旨在为读者提供一个全面的视角，理解CNN在图像处理中的核心作用及其背后的原理。
【一文读懂】卷积神经网络（CNN）基础详解
阿旭的博客
03-02 2155
【一文读懂】卷积神经网络（CNN）基础详解
卷积神经网络（CNN）基础知识总结
m0_67565597的博客
05-12 1121
一、为什么要使用卷积神经网络？全连接网络存在参数过多、计算速度慢、容易过拟合等问题。CNN 通过以下方式解决这些问题：局部连接： 减少连接权值数量，降低计算复杂度。权值共享： 同一层神经元使用相同的卷积核，进一步减少参数量。信息分层处理： 逐层提取特征，从低级特征到高级特征。二、深度学习平台简介下面是一些当前主流的深度学习平台，并从支持语言、操作系统、学习资源、建模能力、易用性、运行速度和多GPU支持等方面进行了对比。
【基础详解】手磕实现 CNN卷积神经网络！
zenRRan的博客
08-20 1921
关注“深度学习自然语言处理”，一起学习一起冲鸭！设为星标，第一时间获取更多干货作者：云不见链接：https://blog.csdn.net/Walk_OnTheRoad/article/...
卷积神经网络（CNN）必备基础知识
teach2004的博客
06-13 886
作为深度学习的重要组成部分，CNN的核心思想是通过模仿生物视觉皮层的工作原理，有效地提取和学习图像或其他数据中的特征。· 全连接层（Fully Connected Layer，简称FC）在CNN中通常位于网络的最后部分，用于将卷积和池化操作提取到的特征映射到最终的类别标签。CNN 是一种特殊的神经网络，它在传统的全连接层基础上引入了卷积层、池化层等层次结构，专门设计用于处理具有格状结构的数据（如图像）。· 池化操作通过减少空间维度，使得CNN更具鲁棒性，能够识别图像中的重要特征，而不受小的平移和变形影响。
【深度学习】 零基础介绍卷积神经网络(CNN)
mucheng771的博客
12-15 1965
卷积神经网络（CNN，Convolutional Neural Network）是深度学习中的一种神经网络，特别擅长处理图像和视频等有空间结构的数据。假设我们在做一个“照片分类”的任务，比如判断一张照片中是猫还是狗。下面用一个通俗的例子来解释CNN的工作原理。看图的方式：模拟人眼 当我们看一张图片时，并不是从头到尾一口气看完的，而是我们的眼睛会专注于某个小区域，然后逐渐移到其他地方。CNN就是模仿这种“局部视野”的方式来处理图像。它通过滑动一个小窗口（称为“卷积核”）来查看图片的不同部分。卷积层（Convo
浅析卷积神经网络（CNN）基础知识
03-26 1306
卷积神经网络（Convolutional Neural Network，CNN）是一种用于图像、音频、文本处理和自然语言处理等领域的强大的深度学习模型。随着人工智能的快速发展，CNN应用越来越广泛。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值