元学习与小样本学习理解 Meta learning and Few shot learning

本文探讨了元学习的概念,其训练策略及与小样本学习的关系。元学习通过让模型在多个任务中学习,使模型能更好地处理之前未见过的小样本新任务。文章解释了元学习器和学习器的划分,以及这种学习方式如何帮助模型适应新任务。

 元学习     

      1. 训练策略:样本划分如下图所示,

        任务之间:每一行都是一个任务 task ,任务与任务之间的类别不尽相同,也就是说一般类别是不同的,有一点重叠无所谓(只要保证任务与任务的类别的不同就行了,因为这就是这种样本划分机制的关键所在)。

       任务之内,也将样本划分为两部分。training data 有的论文也把它叫做 support data , test data 有的论文也把它叫做 Query data 。Query data的类别属于support data中的类别。

       将模型经过大量的训练,每次训练都遇到的是不同的任务,这个任务里存在以前的任务中没有见到过的样本。所以模型处理的问题是,每次都要学习一个新的任务,遇见 nuseen 的class。 经过大量的训练,这个模型就理所当然的能够很好的处理一个新的任务。这个新的任务就是小样本。

        当进行Meta-testing的时候,新的任务Task 的样本设置与训练中的任务一样。现在我有 N wey k shot 的经过标记的小样本,这些样本都是以前训练中所没见过的,希望能够在这几个小样本的帮助下,能够分类识别未标记的若干张图片(当然这几张图片的类别属于 N wey)。

       更抽象的理解:这种训练方式,在经历无数的不同任务训练之后,能够更好的处理任务之间的不同,忽略特定任务的特

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值