prototypical-networks-for-few-shot-learning------论文阅读笔记

之前我们了解了孪生网络以及他是如何处理one-shot learning的例子，现在我们再来看看另一个模型，原型网络Prototypical Networks。 之前说过，孪生网络的缺点就是要对比目标和过去每个样本之间的相似度，从而分析目标的类别，而原型网络就提出，先把样本投影到一个空间，计算每个样本类别的中心，在分类的时候，通过对比目标到每个中心的距离，从而分析出目标的类别： 大致思路很简单...

Prototypical Networks for Few-shot Learning Abstract 我们为小样本分类问题提出了原型网络，其中分类器能够很好的泛化到其他没有在训练集中出现的新类别，对于每一种新出现的类别，我们只给出很少的样本。原型网络学习一个度量空间，在该空间中，可以通过计算到每个类的原型表示的距离来执行分类。与最近的小样本学习方法...

Prototypical Networks for Few-shot Learning（用于小样本学习的原型网络） 论文中心思想：通过神经网络学会一个“好的”映射，将各个样本投影到同一空间中，对于每种类型的样本提取他们的中心点(mean)作为原型（prototype）。使用欧几里得距离作为距离度量，训练使得测试样本到自己类别原型的距离越近越好，到其他类别原型的距离越远越好。测试时，通过对到每类原...

** Prototypical Networks for Few-shot Learning.（用于少样本分类的原型网络） ** 摘要 文章提出了一种用于少样本分类的原型网络，其中分类器必须可以推广（泛化）到在训练集里面没有见过的新的类别，并且每个新的类别只有很少一部分样本。原型网络学习一个度量空间，执行分类只需要简单的计算到每个类的原型表示的距离。与其他方法的主要一点不同是原型网络反映了一种在数...

小样本-Prototypical Networks for Few-shot Learning K-means算法 K-means 是一种常用的聚类算法，其特点主要是简单、运算速度快、好理解，但是其职能应用于连续型的数据，并且在聚类前需要手工指定要分成几类。 K-means算法的过程： 首先输入k的值，即我们希望将数据经过聚类得到k个不同的分组。 从数据集中随机选择k个数据点作为初始中心(就是k个中心点) 对集合的每一个元素，计算其与每个初始质心的距离(距离的度量方式有多种，通常使用欧式距离、曼哈顿距离)

小样本学习的原型网络 论文原文链接：https://arxiv.org/abs/1703.05175 摘要 作者提出了一种小样本分类问题的原型网络，在这种网络中，分类器必须推广到训练集中没有的新类别，每个新类别只有少量样例。该原型网络学习一个度量空间，通过计算每个类的原型表示的距离进行分类。与最近的小样本学习方法相比，该方法反映出更简单的归纳偏好，这有益于这种有限数据的状况，因此取得了出色的效果。作者给出的分析表明，某些简单的设计决定能够产生实质的改进，超过了最近的方法，包括复杂的架构选择和元学习。作者把该

核心思想 该文章提出一种用于进行小样本分类任务的原型网络（Prototypical Network），其认为存在一种嵌入的表示方式，使得每一种类别对应的特征点都聚集在一个单独的原型表示附近。基于这一想法，作者采用了一种类似于聚类的方式，实现小样本分类任务。首先，作者采用一种简单的四级神经网络结构将输入的信息映射到高维的特征空间（度量空间），由于引入了ReLU激活函数因此该映射是非线性的。然后对于每...

本文结合论文和youtube上的视频来整理一下对prototypical networks在few-shot领域的理解。问题：少镜头分类问题（在只给定少量实例的情况下，分类器必须推广到未看到的新类）。提出的解决方案：Prototypical Networks学习一个度量空间，在该空间中，可以通过计算得到每个类的原型表示的距离来执行分类。优点：与最近少镜头学习方法相比，它们反映了一种更简单的归纳偏差，这种偏差在优先数据的状态下是有益的，取得了出色的结果。分析。

Background ＆ Motivation 度量学习方法，最开始是基于 KNN 的 Neighborhood Components Analysis（NCA）方法，后续改进方法是输入神经网络来输出非线性的 embedding 来替代NCA 中输出的线性变换表征。而 Prototypical Networks 与这些后续的改进方法十分类似，输出每一类的prototype 表征。 元学习方法，可以理解为当一个程序员掌握了基本的 C++、python、Java，后面不管学什么语言都能迅速掌握，这就是元..

这篇论文是介绍《作者公布了他的Pytorh。如果看不太懂原作者的代码话可以看一下这一个：https://github.com/orobix/Prototypical-Networks-for-Few-shot-Learning-PyTorch。

小样本 GNN 原型学习

在机器学习领域，特别是在处理少样本学习（Few-shot Learning）问题时，匹配网络（Matching Networks）和原型网络（Prototypical Networks）都是非常流行的元学习模型。尽管这两种方法在目标上都是为了通过少量样本实现快速学习，但它们在方法论和实现上有显著的区别。理解这两种网络的主要区别有助于在实际应用中做出更合适的选择，以达到最佳的学习效果。匹配网络是一种基于注意力机制来实现的元学习模型，它通过直接比较支持集中的样本和待分类的目标样本来进行分类。

代码主要是根据原型网络tensorflow1代码改的 源代码地址是https://github.com/sudharsan13296/Hands-On-Meta-Learning-With-Python/tree/master/03.%20Prototypical%20Networks%20and%20its%20Variants 所用数据集链接如下： 链接：https://pan.baidu.com/s/1Tp1KCq5oNv-2tq9Rso4lYw 提取码：r94v import os...

这篇论文是介绍《作者公布了他的Pytorh。如果看不太懂原作者的代码话可以看一下这一个：https://github.com/orobix/Prototypical-Networks-for-Few-shot-Learning-PyTorch。

这里写目录标题AbstractIntroductionPrototypical Networks框架图和重要部分 Abstract 本文提出的原型网络，其中分类器可以很好地泛化到其他没有在训练集中出现过的新类别上，每种新出现的类别，只给少量样本。原型网络学习一个度量空间，在该空间中，可以通过计算到每个类的原型表示的距离来执行分类。与其他小样本相比，本方法反映了一种更简单的归纳偏差，有利于在有限的数据范围内使用。 Introduction 小样本是一种任务，分类器必须进行调整以适应没有见过的类。可以在未知的数

学习报告：基于原型网络的小样本学习《Prototypical Networks for Few-shot Learning》，该论文的主要贡献有两点：（1）对图像领域的Few-Shot／Zero-Shot（小样本/零样本）任务，应用设计简单的原型网络方法（见第二部分），在通用数据集上达到了较好的实验效果（见第三部分）；（2）对原型网络本身进行了较为深入的分析，且分析了距离度量方式的选择对任务效果的影响

TRANSDUCTIVE PROTOTYPICAL NETWORK FOR FEW-SHOT CLASSIFICATION Xinyue Liu Pengxin Liu Linlin Zong School of Software, Dalian University of Technology, Dalian 116620, China ——2021 IEEE 看文章前的预备知识——原型网络： 原型网络（prototype Network）是一种简单有效的小样本学习方法，它只需要为每个目标样本寻找..

原型网络，基于这样的想法，即存在一个嵌入，其中点围绕每个类的单个原型表示聚集。为了做到这一点，我们使用神经网络学习输入到嵌入空间的非线性映射，并将类的原型作为其在嵌入空间中的支持集的平均值。然后通过简单地找到最近的类原型对嵌入的查询点执行分类。