【6】1×1 卷积核的作用？(附实例）

文章目录一、1x1卷积核介绍二、举例说明实际作用例子1：线性变换例子2：降低通道数（归纳整理进行一次输入通道间的非线性映射）三、1x1卷积核作用降低/提升通道数增加非线性跨通道信息交互（channal 的变换）四、1x1卷积应用InceptionResNet参考文献待看文献 一、1x1卷积核介绍 1x1卷积核，又称为网中网（Network in Network）。 其实1x1卷积，可以看成一种全连接（full connection）。 二、举例说明实际作用 例子1：线性变换 这里通过一个例子来直观地介绍1x

本周讲的是卷积神经网络 1、计算机视觉 深度学习之所以让我兴奋有下面两个原因，我想你们也是这么想的。 第一，计算机视觉的高速发展标志着新型应用产生的可能，这是几年前，人们所不敢想象的。通过学习使用这些工具，你也许能够创造出新的产品和应用。 其次，即使到头来你未能在计算机视觉上有所建树，但我发现，人们对于计算机视觉的研究是如此富有想象力和创造力，由此衍生出新的神经网络结构与算法，这实际上启发...

对初学者而言，可以把卷积核理解为：卷积神经网络中可学习的小型特征探测器，它在整张输入上反复寻找边缘、纹理、形状等局部模式。例如，一个检测“垂直边缘”的卷积核，不必只在图像左上角工作，它可以在整张图像上滑动，检查不同位置是否存在类似边缘。例如，在猫狗分类任务中，有些卷积核可能逐渐对毛发纹理敏感，有些卷积核可能对眼睛、耳朵、鼻子等局部结构敏感。如果任务需要建模远距离依赖，单个小卷积核不够，需要堆叠多层、扩大卷积核、使用空洞卷积，或结合注意力机制。每到一个位置，它都会覆盖输入中的一个局部区域，并计算加权求和。

卷积核的作用在于特征的抽取，越是大的卷积核尺寸（kernal_size）就意味着更大的感受野，当然随之而来的是更多的参数。图像空域内具有局部相关性，卷积的过程是对局部相关性的一种抽取。 1*1卷积的作用? / 如何理解卷积神经网络中的1*1卷积? 1x1 卷积可以压缩信道数（channel--厚度）即减少特征的维度。池化可以改变图片的宽和高。 1x1卷积给神经网络增加非线性，从而减少...

Lin等人的《网络中的网络(Network in Network, NiN)》一文，提出了一种特殊的卷积操作，它允许跨通道参数级联，通过汇聚跨通道信息来学习复杂的交互。他们将其称为“交叉通道参数池化层”（cross channel parametric pooling layer），并将其与1x1卷积核进行卷积的操作相比较。 当时浏览一下细节，我从没想过我使用这样的操作，更不用说对其细节有任何的想法。但是通常是术语看起来很深奥，而概念本身并不是。在我了解背景和进行了一系列的测试以后，让我们一起来解开这个奇特

CNN中1*1卷积核的意义信道压缩 信道压缩 一个32* 6* 6的图片，32通道，6维矩阵图片 当用32* 1* 1的的卷积核提取特征时，得到的是一个6*6的图片 卷积运算中输出的通道数与卷积核的数量有关，但是计算过程中，图片的通道数要和卷积核的通道数相同 此时，通过1维卷积核将原来图片在通道维度上进行压缩，即将通道信息进行融合 1* 1也可以理解为一个全连接网络，分别作用所有通道上面 总结： 总结一下，1x1的卷积核可以进行降维或者升维，也就是通过控制卷积核（通道数）实现，这个可以帮助减少模型参

上一篇：Tensorflow入门五-卷积神经网络（断点续训实现，基本概念、tf卷积函数、cifar数据集百度云资源及tf实现）https://blog.csdn.net/qq_36187544/article/details/89736184 下一篇：Tensorflow入门七-迁移学习实现VGG16微调猫狗分类(迁移学习源1000分类权重文件百度云可直接再学习，线程)https://blog....

解释. 从从某种程度来讲用1×1卷积并不是是网络变得更深，而是更宽，这里的宽实际上是增加数据量 但是通过1×1的卷积我们就可以对原始图片做一个变换，得到一张新的图片，从而可以提高泛化的能力减小过拟合,同时在这个过程中根据所选用的1×1卷积和filter的数目不同，可以实现跨通道的交互和信息的整合，而且还可以改变图片的维度.而且因为通过对维度的操作，虽然网络的层数增加了，但是网络的参数却可以大大减小，节省计算量。在实际应用的过程中，通常在卷积之后就跟着一个Relu之类的非线性层，把卷积的线性变成非线性，通过这

1x1卷积核作用

前天去面某公司的AI部门，被问到了关于1×1卷积核的相关问题，因为之前没有了解过，所以也没有答上来，回来查阅了相关资料，特此总结一番。 1×1的卷积核卷积核在CNN中经常被用到，一般常见的是3×3的或者5×5的，见下图，这里不多赘述 那么1×1的卷积核，就像上面那样。 一般1×1的卷积核本质上并没有对图像做什么聚合操作，以为就是同一个ww去乘以原图像上的每一个像素点，相当于做了一个scali

作用： 跨通道的特征整合 特征通道的升维和降维 减少卷积核参数（简化模型） 1 跨通道的特征整合 如果当前层和下一层都只有一个通道那么1×1卷积核确实没什么作用，但是如果它们分别为m层和n层的话，1×1卷积核可以起到一个跨通道聚合的作用，所以进一步可以起到降维（或者升维）的作用，起到减少参数的目的。 这里通过一个例子来直观地介绍1x1卷积。输入6x6x1的矩阵，这里的1x1卷积形式为1x1x1，即为元素2，输出也是6x6x1的矩阵。但输出矩阵中的每个元素值是输入矩阵中每个元素值x2的结果。 ..

理解1x1卷积核一.1x1卷积核的提出二.1x1卷积核的应用2.1.多通道数据中1x1卷积的作用 一.1x1卷积核的提出 1x1卷积核的使用可以见《Network in network》这篇论文,这是一篇非常经典并且影响深远的论文，之后的Googlenet和ResNet等模型均有借鉴其1x1卷积核的设计。在这篇论文中，作者提出了NIN块，并在块中第一次使用1x1卷积来增强模块的抽象表达能力，以现在的眼光来看，其实现了跨通道特征融合和通道升维降维。 NIN块的结构如下： 它由一个卷积层加两个充当全连接层的

卷积核作用： 可以看作对某个局部的加权求和；它是对应局部感知，它的原理是在观察某个物体时我们既不能观察每个像素也不能一次观察整体，而是先从局部开始认识，这就对应了卷积。卷积核的大小一般有1x1,3x3和5x5的尺寸。卷积核的个数就对应输出的通道数，这里需要说明的是对于输入的每个通道，输出每个通道上的卷积核是不一样的。比如输入是28x28x192(WxDxK,K代表通道数)，然后在3x3的卷积核，卷积通道数为128，那么卷积的参数有3x3x192x128,其中前两个对应的每个卷积里面的参数，后两个对应的卷积总

点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达前言在介绍卷积神经网络中的1x1卷积之前，首先回顾卷积网络的基本概念[1]。1. 卷积核（convolutional kernel）：可以看作对某个局部的加权求和；它是对应局部感知，它的原理是在观察某个物体时我们既不能观察每个像素也不能一次观察整体，而是先从局部开始认识，这就对应了卷积。卷积核的大小一般有1x1,3x3和5x5的...

1×1卷积是卷积神经网络（CNN）中的一种特殊卷积操作，其核心特点在于使用大小为1×1的卷积核。尽管它的空间维度（高度和宽度）为1，看似不涉及局部区域的信息整合，但在深度（通道维度）上却能实现复杂的操作。

在学习1x1卷积之前，我们先对多通道卷积进行简单的回顾，这样更方便对1x1卷积的理解多通道卷积是将各通道的卷积后对应位置累加求和，简单的说就是。

1.通道数放缩。池化层只能改变输入图像的高度和宽度，无法改变通道数，1x1卷积通过控制卷积核的数量，可以实现通道数的增加或者减少。 2.1x1卷积核的卷积过程相当于全连接的计算过程，通过加入非线性激活函数，可以增加网络的非线性，使得网络可以表达更复杂的特征。 3.1x1卷积在模型设计中，可以起到模型优化和减少参数量的作用。 （1）如果不使用1x1卷积核的计算参数量： 使用1x1卷积核的计算参数量： 可以看到不使用1x1的卷积核是使用卷积核的10倍左右，所以1x1卷积核对于降低计算量是非常有效的。 （2）

1×1卷积核在卷积神经网络（CNN）中扮演着关键角色，主要用于调整通道数、融合通道信息以及优化计算效率。

1*1卷积是大小为1*1的滤波器做卷积操作，不同于2*2、3*3等filter，没有考虑在前一特征层局部信息之间的关系。我们从1*1卷积的两个主要使用来理解其原理和作用。 卷积核：可以看作对某个局部的加权求和，它是对应局部感知，它的原理是在观察某个物体时我们既不能观察每个像素也不能一次观察整体，而是先从局部开始认识，这就对应了卷积。卷积核的大小一般有1x1,3x3和5x5的尺寸。卷积核的个数就...