【人脸识别】DDL：数据分布知识蒸馏思想，提升困难样本（遮挡、低分辨率等）识别效果

论文题目：《Improving Face Recognition from Hard Samples via Distribution Distillation Loss》
论文地址：https://arxiv.org/pdf/2002.03662v3.pdf
代码地址：https://github.com/HuangYG123/DDL

1.前言及相关工作

Large facial variations are the main challenge in face recognition。
目前人脸识别面临的主要挑战是大的面部变化（遮挡、姿态如侧脸、低分辨率、种族、光照等）。

解决方式及缺点：

1. variation-specific：在设计特殊网络损失之前充分利用了与任务相关的方法，即针对不同的问题设计特定的算法。如姿态（pose-invatiant、face frontalization），分辨率（super- resolution），遮挡模型等。
   缺点：在不同的任务和场景中通常是不通用的。
2. generic methods：侧重于提高特征可辨别性以最小化类内距离同时最大化类间距离。如margin-based loss（