不平衡类问题（稀有类检测）的评估与改善方法

类别不平衡是一个常见问题，其中数据集中示例的分布是倾斜的或有偏差的。 1. 简介 类别不平衡是机器学习中的一个常见问题，尤其是在二元分类领域。当训练数据集的类分布不均时会发生这种情况，从而导致训练模型存在潜在偏差。不平衡分类问题的示例包括欺诈检测、索赔预测、违约预测、客户流失预测、垃圾邮件检测、异常检测和异常值检测。为了提高我们模型的性能并确保其准确性，解决类不平衡问题很重要。 在这篇文章[1]中，我们将研究解决此问题的三种方法，以提高我们模型的性能和准确性。我们还将讨论为这些类型的任务选择正确指标的重要性

本文简单介绍了不平衡类问题以及针对不平衡类问题的几个可选度量，包括定义以及计算公式等，最后进行了总结。

在数据挖掘中，经常会存在不平衡数据的分类问题，比如在异常监控预测中，由于异常就大多数情况下都不会出现，因此想要达到良好的识别效果普通的分类算法还远远不够，这里介绍几种处理不平衡数据的常用方法及对比。

在人脸识别、图像分类和实例分割等视觉任务中，人们提出了越来越多的方法来学习长尾数据。我们关注的是长尾实例分割问题，由于类不平衡问题，这一问题特别具有挑战性。最先进的方法往往无法处理这个问题，并且在罕见目标类上会出现性能大幅下降。图1举例说明了竞争性Mask R-CNN基线在高度不平衡LVIS v1.0数据集上的斗争。我们可以看到，尾部中大约有300个稀有类，它们的正对象实例不超过个。这种稀缺的训练数据导致大多数尾部类的性能较差，预测它们的类概率接近零。

有三种不同的方法来评估一个模型的预测质量： （1）estimator的score方法：sklearn中的estimator都具有一个score方法，它提供了一个缺省的评估法则来解决问题。 （2）Scoring参数：使用cross-validation的模型评估工具，依赖于内部的scoring策略。见下。 （3）Metric函数：混淆矩阵（metrics）模块实现了一些函数，用来评估预测误差。见下。...

作者|PROCRASTINATOR 编译|VK 来源|Analytics Vidhya 概述 了解类权重优化是如何工作的，以及如何在logistic回归或任何其他算法中使用sklearn实现相同的方法 了解如何在不使用任何采样方法的情况下，通过修改类权重可以克服类不平衡数据的问题 介绍 机器学习中的分类问题是我们给出了一些输入（独立变量），并且我们必须预测一个离散目标。离散值的分布极有可能是非常不同的。由于每个类的差异，算法往往偏向于现有的大多数值，而对少数值的处理效果不好。 类频率的这种差异影响模

数据不平衡是机器学习任务中的一个常见问题。真实世界中的分类任务中，各个类别的样本数量往往不是完全平衡的，某一或某些类别的样本数量远少于其他类别的情况经常发生，我们称这些样本数量较少的类别为少数类，与之相对应的数量较多的类别则被称为多数类。在很多存在数据不平衡问题的任务中，我们往往更关注机器学习模型在少数类上的表现，一个典型的例子是制造业等领域的缺陷产品检测任务，在这个任务中，我们希望使用机器学习方...

本文针对3D目标检测中的类内长尾问题提出了一种有效的解决方案。通过引入稀有性作为数据挖掘和主动学习的新准则，结合数据中心稀有示例挖掘（D-REM）和模型中心稀有示例挖掘（M-REM）方法，准确识别和利用稀有示例，从而显著提升模型在稀有目标上的性能。实验结果表明，该方法在Waymo Open Dataset上的稀有目标检测中取得了显著改进，结合D-REM和M-REM后，模型性能完全达到了全监督模型的水平。

类别不平衡问题 在二分类问题中，通常假设正负类别相对均衡（混淆矩阵），然而实际应用中类别不平衡的问题，如100, 1000, 10000倍的数据偏斜是非常常见的，比如疾病检测中未患病的人数远超患病的人数，产品质量检测中合格产品数量远超不合格产品等。在检测信用卡欺诈问题中，同样正例的数目稀少，而且正例的数量会随着时间和地点的改变而不断变化，分类器要想在不断变化的正负样本中达到好的检测效果是非常...

1. 什么是类别不平衡问题： 在很多任务中，正负样本数量通常是不平衡的，例如在欺诈、失效检测等任务中，正样本的数量远远多于负样本的数量。在类别不平衡问题中，我们将数量多的类别称为“大类”，数量少的类别成为“小类”。 由于类别不平衡问题的数据集中被大类主导，追求高分类精度是毫无意义的。例如在信用卡欺诈任务中，当类别不平衡度为1000时，即正负样本的比例为 1000 : 1，将所有的样本全部分为正样本即可获得 99.99% 的分类精度，虽然分类精度很高，但是无法检测出任何负样本，显然，这样的模型是毫无意义的。

在语义分割任务中，域泛化的目标是在没有目标域数据的情况下，使模型能够在未见过的域（数据分布）上表现良好。然后，通过插值这些基础风格，生成新的风格。：在模型中，编码器（通常是CNN或Transformer的某一部分）提取输入图像的特征表示，这些特征的“风格”可以影响模型的泛化能力。模型通过联合训练源域的有标签数据和目标域的无标签数据，来缩小源域和目标域之间的差距，从而在目标域上实现更好的性能。：另一种方法是通过增加源域数据中的风格多样性，使模型在训练中接触到更多不同的风格，以便更好地适应新的风格。

类别不平衡问题处理方法 1.基础概念 类别不均衡是指在分类学习算法中，不同类别样本的比例相差悬殊，它会对算法的学习过程造成重大的干扰。比如在一个二分类的问题上，有1000个样本，其中5个正样本，995个负样本，在这种情况下，算法只需将所有的样本预测为负样本，那么它的精度也可以达到99.5%，虽然结果的精度很高，但它依然没有价值，因为这样的学习算法不能预测出正样本。这里我们可以知道不均衡问题会导致样...

未完待续~

欺诈检测中的不平衡分类解决方案

在分类中如何处理训练集中不平衡问题，在很多机器学习任务中，训练集中可能会存在某个或某些类别下的样本数远大于另一些类别下的样本数目。即类别不平衡，为了使得学习达到更好的效果，因此需要解决该类别不平衡问题。

常见的类别不平衡问题解决方法 通常的分类学习方法中都有一个共同的假设，即不同类别的训练样例数目相同。如果不同类别的训练样例数目稍有差别，通常对分类影响不大，但是若差别很大，则会对学习造成影响，测试结果非常差。例如二分类问题中有998个反例，正例有2个，那么学习方法只需返回一个永远将新样本预测为反例的分类器，就能达到99.8%的精度；然而这样的分类器没有价值，我们必须要解决这个问题。

TP：正确肯定——实际是正例，识别为正例 FN：错误否定（漏报）——实际是正例，却识别成了负例 FP：错误肯定（误报）——实际是负例，却识别成了正例 TN：正确否定——实际是负例，识别为负例 假设有10个人 8个好人和2个坏人 如果存在一个机器学习模型，遇到人就说好人，那么模型的预测结果将会是 好人, 好人, ...... 利用准确率的计算方式 ACC = 8个好人预测正确/总共有10个...

关注微信公众号【Microstrong】,我现在研究方向是机器学习、深度学习，分享我在学习过程中的读书笔记！一起来学习，一起来交流，一起来进步吧！本文同步更新在我的微信公众号里面，公众号文章地址：https://mp.weixin.qq.com/s?__biz=MzI5NDMzMjY1MA==&mid=2247484313&idx=1&sn=568015a62bf99ca5...

1.数据不平衡 数据不平衡也可称作数据倾斜。在实际应用中，数据集的样本特别是分类问题上，不同标签的样本比例很可能是不均衡的。因此，如果直接使用算法训练进行分类，训练效果可能会很差（例如，某个标签的样本比较多，那么由于该样本数量多，评估方法或者损失函数的结果更倾向于该类标签）。 解决实际应用中数据不平衡问题可以从三个方面入手，分别是对数据进行处理、选择合适的评估方法和使用合适的算法。 2.数据不平衡的解决方法 （1）数据采样 采样方法是通过对训练集进行处理使其从不平衡的数据集变成平衡的数据集，在大部分情况下会