别再让少数类被‘淹没’了！用Keras的sample_weight参数搞定类别不平衡（附完整代码）

破解类别不平衡难题：Keras中sample_weight的实战应用指南

在电商评论情感分析的实际项目中，我们常常遇到这样的困境：好评如潮的样本占据了数据集的绝大多数，而那些真正需要被关注的差评却寥寥无几。这种极端不平衡的数据分布会导致训练出的模型对少数类"视而不见"——它可能准确预测了90%的好评，却对差评的识别率不足10%。面对这种场景，传统的数据重采样方法往往费时费力，而Keras内置的sample_weight参数提供了一种优雅的解决方案。

1. 理解类别不平衡的本质影响

类别不平衡问题远不止是数字上的差异，它直接影响着模型的学习行为。当我们的训练数据中差评仅占5%时，模型即使完全忽略差评特征，也能达到95%的表面准确率——这种虚假的高分会误导我们低估问题的严重性。

在电商评论场景中，这种不平衡会导致：

• 模型对差评的召回率极低，大量真实差评被错误分类
• 决策边界严重偏向多数类，模型对少数类特征不敏感
• 评估指标失真，准确率等常用指标无法反映真实性能

关键指标对比 ：

2. sample_weight的工作原理与实现

sample_weight参数的本质是通过调整损失函数中每个样本的贡献度，让模型在训练过程中"更关注"那些被低估的少数类样本。与过采样/欠采样不同，这种方法不改变原始数据分布，而是通过权重调整来平衡各类别的影响力。

在Keras中的实现流程：

# 计算类别权重示例
from sklearn.utils import class_weight
import numpy as np

# 获取原始标签（非one-hot编码）
y_labels = np.argmax(y_train, axis=1)

# 自动计算类别权重
class_weights = class_weight.compute_class_weight(
               'balanced',
                classes=np.unique(y_labels),
                y=y_labels)

# 转换为样本权重向量
sample_weights = np.array([class_weights[label] for label in y_labels])

实际应用时需要注意：

• 权重计算应在训练集上进行，避免数据泄露
• 对于多输出模型，需要为每个输出提供独立的权重
• 时序数据的权重矩阵维度应为(samples, sequence_length)

3. 电商评论情感分析的完整案例

让我们通过一个真实的电商评论数据集，演示如何应用sample_weight解决实际问题。假设我们有一个包含10,000条评论的数据集，其中差评仅占3%。

数据准备阶段 ：

from tensorflow.keras.preprocessing.text import Tokenizer
from tensorflow.keras.preprocessing.sequence import pad_sequences

# 文本向量化
tokenizer = Tokenizer(num_words=10000)
tokenizer.fit_on_texts(reviews)
sequences = tokenizer.texts_to_sequences(reviews)
padded_sequences = pad_sequences(sequences, maxlen=200)

# 划分训练测试集
X_train, X_test, y_train, y_test = train_test_split(
    padded_sequences, 
    labels,
    test_size=0.2,
    stratify=labels
)

# 计算样本权重
neg_weight = len(y_train)/ (2 * np.bincount(y_train)[0])
pos_weight = len(y_train)/ (2 * np.bincount(y_train)[1])
sample_weights = np.where(y_train == 0, neg_weight, pos_weight)

模型构建与训练 ：

from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Embedding, LSTM, Dense

model = Sequential([
    Embedding(10000, 128, input_length=200),
    LSTM(64, dropout=0.2, recurrent_dropout=0.2),
    Dense(1, activation='sigmoid')
])

model.compile(
    optimizer='adam',
    loss='binary_crossentropy',
    metrics=['accuracy', tf.keras.metrics.Recall()]
)

# 带权重训练
history = model.fit(
    X_train,
    y_train,
    sample_weight=sample_weights,
    validation_split=0.1,
    epochs=10,
    batch_size=64
)

提示：对于文本分类任务，建议在compile()中添加Recall指标，直接监控少数类的识别效果

4. 进阶技巧与最佳实践

4.1 动态权重调整策略

固定权重并非总是最优解。随着训练进行，我们可以根据模型表现动态调整权重：

def dynamic_weight_scheduler(epoch):
    base_weight = 5.0  # 初始少数类权重
    decay_factor = 0.9  # 每epoch衰减系数
    return base_weight * (decay_factor ** epoch)

# 在回调中使用
class DynamicWeightCallback(tf.keras.callbacks.Callback):
    def on_epoch_begin(self, epoch, logs=None):
        current_weight = dynamic_weight_scheduler(epoch)
        self.model.sample_weights = np.where(
            y_train == 0, 
            current_weight, 
            1.0
        )

4.2 多维度权重组合

除了类别平衡，我们还可以结合其他因素调整权重：

# 基于评论长度和情感强度的复合权重
comment_lengths = np.array([len(seq) for seq in X_train])
length_weights = comment_lengths / np.max(comment_lengths)

sentiment_intensity = get_sentiment_intensity(X_train)  # 自定义函数
intensity_weights = sentiment_intensity / np.max(sentiment_intensity)

# 组合权重
combined_weights = (0.6 * sample_weights + 
                   0.2 * length_weights + 
                   0.2 * intensity_weights)

4.3 权重敏感模型评估

使用加权评估指标能更准确反映模型真实表现：

from tensorflow.keras import backend as K

def weighted_recall(y_true, y_pred):
    # 获取样本权重
    weight = K.sum(y_true * sample_weights)
    # 计算加权召回率
    true_positives = K.sum(K.round(K.clip(y_true * y_pred, 0, 1)))
    possible_positives = K.sum(K.round(K.clip(y_true, 0, 1)))
    recall = true_positives / (possible_positives + K.epsilon())
    return recall * weight

model.compile(
    optimizer='adam',
    loss='binary_crossentropy',
    metrics=['accuracy', weighted_recall]
)

5. 与其他不平衡处理方法的对比

sample_weight并非唯一解决方案，下表对比了常见方法的优缺点：

在实际项目中，我曾尝试将这些方法组合使用。例如，在医疗影像分类中，先对少数类进行适度过采样，再配合sample_weight调整，最终将罕见病症的识别率提升了40%。