SIMT与SIMD定量对比

SIMT与SIMD定量对比：从指令执行到系统性能的量化分析

引言：走出概念混淆的认知陷阱

SIMD与SIMT的关系是并行计算领域最容易被误读的技术命题之一。常见误区包括：将SIMT视为“GPU版SIMD”、认为SIMT是SIMD的超集、或简单地将两者归结为“向量宽度不同”。事实是：SIMD是ISA（指令集架构）层面的向量化执行模型，而SIMT是以SIMD为硬件后端、通过多线程虚拟化实现SPMD编程模型的硬件架构。两者的差异贯穿指令格式、寄存器模型、寻址能力、分支处理、编程接口直至系统吞吐量。

本文拒绝泛化描述，全部对比锚定在可量化的技术指标上：指令宽度（位）、执行周期（周期）、加速倍数（×）、分支代价（%）、代码密度（1/N）等维度。全部数据引自NVIDIA/Intel官方文档、顶级会议论文及已验证的工程测量。

一、执行模型与硬件结构定量对比

1.1 指令与数据宽度

核心定量：以ARM NEON为例，128-bit寄存器可容纳4个32-bit浮点数，一条vadd.f32指令同时对4个数据执行加法。NVIDIA A100的SIMT单元中，一个warp的32个线程执行add.f32指令时，硬件后端实际是4个SIMD单元各执行8路操作，或等效为32路标量ALU并行。SIMT的本质是用4-16倍于SIMD的硬件代价换取编程灵活性。

1.2 代码密度与指令数定量分析

以向量加法 C[0:N] = A[0:N] + B[0:N] 为例，N=4 时的指令数对比：

标量执行（SISD）：

t1 = LD B, i      ; 1周期
t2 = LD C, i      ; 1周期
t3 = t1 + t2      ; 1周期
ST A, i, t3       ; 1周期
；重复4次 → 16条指令，16周期（理想流水）

SIMD执行（ARM NEON/AVX）：

v1 = LD B, i, 4   ; 1条指令，4元素连续加载
v2 = LD C, i, 4   ; 1条指令
v3 = v1 + v2, 4   ; 1条指令
ST A, i, 4, v3    ; 1条指令
；总计4条指令，4周期

代码量：1/4，周期数：1/4

SIMT执行（CUDA）：

int idx = threadIdx.x;
C[idx] = A[idx] + B[idx];  // 每个线程1条标量指令