低精度和混合精度推理加速器综述
在当今的计算领域,低精度和混合精度推理加速器正发挥着越来越重要的作用。这些加速器通过支持低精度(如二进制或三值)运算,能够在保证计算性能的同时,显著降低能耗和硬件成本。本文将介绍几种最先进的低精度和混合精度推理加速器,并对它们的性能、效率和灵活性进行比较。
1. 片上内存技术
在探讨具体的加速器之前,先了解一下片上内存技术。增加片上内存可以减少对外部内存的访问,从而降低能耗。实现片上内存主要有两种方式:静态随机存取存储器(SRAM)和标准单元存储器(SCM)。SRAM具有较高的存储密度,但在较小尺寸下,其能耗效率不如SCM。特别是在应用电压 - 频率缩放技术时,SCM能够比SRAM缩放至更低的电压。因此,为了降低整个系统的能耗成本,SCM通常是一个受欢迎的选择,尽管它会牺牲一定的面积和存储容量。
2. 五种低精度和混合精度加速器介绍
接下来,我们将详细介绍五种最先进的加速器,它们都支持非常低的精度运算。
| 加速器名称 | 技术节点(nm) | 供电电压(V) | 推理精度 | 内存技术 | 峰值吞吐量(GOPS) | 二进制能量/操作(fJ) | 三值能量/操作(fJ) | 8位能量/操作(fJ) | 核心面积(mm²) | 面积效率(GOPS/mm²) | 内存容量(kB) |
|---|
超级会员免费看
订阅专栏 解锁全文

1130

被折叠的 条评论
为什么被折叠?



