CVPR 2021 Instance Localization for Self-supervised Detection Pretraining

摘要

本文的目的是提出专门用于目标检测的自监督预训练模型。 基于分类和检测的内在差异，我们提出了一种新的自监督借口任务，称为实例定位。 图像实例被粘贴在不同的位置和尺度上的背景图像。 借口任务是预测给定组合图像的实例类别以及前景包围框。

Introduction

1、high-level feature并不是真正重要的转移到检测和分割
2、Task misalignment in transfer learning
(1）需要将预先训练过的网络重新放入目标网络体系结构中进行细化。 这通常涉及到非平凡的体系结构变化，例如插入特征金字塔[27]或使用大膨胀的卷积核
（2）对于典型的对比学习模型，前训练借口任务考虑图像的整体，例如歧视[41]，没有明确的空间建模的区域。 虽然它提高了分类的可转移性，但这种实践与空间推理任务（如对象检测）不太兼容。

本文提出的方法在动量对比[22]的框架内实现了该方法。网络以合成图像和边界框作为输入，提取区域嵌入进行对比学习。

Pretext Task – Instance Localization

Object detection desires translation and
scale equivariance.
本文提出一个新颖的pretext任务，实例定位（InsLoc）,作为实例歧视的扩展。 如图3所示，我们通过将前景实例覆盖到背景上来合成图像组合。 目的是利用包围框信息区分前景和背景。 为了实现这一任务，必须首先对前景实例进行定位，然后提取前景特征。

前景图片为$I$,被bounding box $b$覆盖的合成图片为$I^{\prime }$,任务是预测图片$I$的实例标签