PyTorch实战：特征图拼接、相加和相乘的3种融合方式对比（附代码）

PyTorch实战：特征图拼接、相加和相乘的3种融合方式对比（附代码）

在深度学习模型设计中，特征融合是提升模型表达能力的关键技术之一。面对来自不同层或分支的特征图，开发者常需要在拼接（Concatenation）、相加（Addition）和相乘（Multiplication）这三种基础操作中做出选择。本文将深入剖析这三种方式的实现细节、计算特性及适用场景，并通过可复用的PyTorch代码演示实际应用技巧。

1. 特征融合的核心逻辑与数学本质

特征融合的本质是通过数学运算将不同来源的特征信息整合为统一表示。假设我们有两个特征图A和B，其形状均为[batch_size, channels, height, width]，下面从三个维度解析基础操作：

1.1 通道维度拼接

拼接操作沿通道轴（dim=1）合并张量，数学表达为：

concat_result = torch.cat([A, B], dim=1)  # 输出通道数变为A.channels + B.channels

核心特性：

• 内存占用与两个特征图的通道数之和成正比
• 完全保留原始特征信息，不引入交互计算
• 常用于特征互补场景（如UNet的跳跃连接）

注意：输入特征图的空间尺寸必须严格一致，否则会触发RuntimeError

1.2 逐元素相加

加法操作要求两个张量形状完全一致：

sum_result = A + B  # 或 torch.add(A, B)

其数学本质是： $$ \text{output}[i,j,k] = A[i,j,k] + B[i,j,k] $$

典型应用场景<