[linux] GFLOPS和TFLOPS的换算

近期忙于写论文，分享一下论文中表格数据的计算方法。FLOPS：注意S是大写，是“每秒所执行的浮点运算次数”（floating-point operations per second）的缩写。它常被用来估算电脑的执行效能，尤其是在使用到大量浮点运算的科学计算领域中。正因为FLOPS字尾的那个S，代表秒，而不是复数，所以不能省略掉。 FLOPs：注意s小写，是floating point operations的缩写（s表复数），意指浮点运算数，理解为计算量。可以用来衡量算法/模型的复杂度。 GFLOPs：一个

cpu算力DMIPS说明

FLOPs越高，模型计算复杂度越高，训练和推理时间越长，对硬件资源的需求也越大。例如，ResNet50的FLOPs约为16.53 GFLOPs，而更复杂的模型（如ViT-Huge）可能达到数十万亿FLOPs。GFLOPs越高，硬件每秒能处理的浮点运算越多，适合需要高吞吐量的任务（如大规模训练）。表示硬件（如GPU）每秒能执行的浮点运算次数（单位为十亿次），用于评估硬件的计算性能。• 硬件选择：高GFLOPs的GPU（如H100）适合训练大模型，但推理场景可能更关注能效比（如TFLOPs/Watt）。

BF16的指数范围跟FP32对齐，虽然尾数少，但数值稳定性极强，几乎不会溢出，也不需要额外缩放。FP8分E4M3和E5M2两种标准，速度是FP16的2到4倍，显存占用只有FP16的四分之一。FP16的速度是FP32的4到8倍，显存也减半，但容易出现数值溢出。在V100那个年代，它是模型训练的主力，但训练大模型时必须配合Loss Scaling来防止梯度爆炸，用起来比较折腾。精度后缀才是关键，同样的显卡，FP8算力是FP16的两倍。· 70B参数以内的模型：A100或昇腾910B就够了，单卡多卡都行。

FLOPS（floating-point operations per second）表示“每秒所执行的浮点运算次数它常被用来估算电脑的执行效能，尤其是在使用到大量浮点运算的科学计算领域中。正因为FLOPS字尾的那个S，代表秒，而不是复数，所以不能省略掉。

【计算机视觉】GFLOPs、FLOPS和FLOPs的区别和联系（含代码示例）

大多数时候以FLOPS值来衡量cpu每秒钟运行及计算次数，现今大部分的CPU中，都有一个专门用来处理浮点运算的“浮点运算器”（FPU）。这种情况最好的方法就是加一个内存条，增加内存，一般增加内存条之后电脑的内存是原来的2-3倍就可以了。有些用户在购买电脑时预算有限，买的电脑配置较低，内存很小，内存导致在玩一些大型游戏或者处理影像、作图时就容易内存不够，影响了电脑的速度。具体方法是：首先选择重新启动电脑，按住F8键，然后选择安全模式，最后打开你的杀毒软件进行一次彻底的杀毒。

大语言模型中的‘参数量’不再等同于实际计算开销——稀疏混合专家（MoE）架构通过条件计算与专家路由，使模型能按需调用子网络，显著降低单次推理的FLOPs和显存带宽压力。其核心在于Router决策机制、Top-k稀疏激活策略及专家负载均衡设计，技术价值体现在推理延迟压缩、私有化部署成本下降与长上下文支持增强。典型应用场景包括高并发API服务、边缘侧轻量化适配及可控算力预算下的企业级模型落地。本文深入解析GPT-4中1.8万亿参数与2%稀疏激活背后的工程权衡与实时调度逻辑。

边缘AI是指在靠近数据源头的终端设备上执行人工智能推理的技术范式，其核心原理在于通过模型轻量化、硬件加速与星地协同优化，在资源受限环境下实现低延迟、高可靠、离线可用的智能服务。技术价值体现在突破传统云中心依赖，显著降低带宽消耗与响应时延，并提升极端环境下的系统鲁棒性。典型应用场景包括野外气象监测、海上非法捕捞识别、极地科考站自主预警等对确定性延迟和全域覆盖有强需求的领域。本文聚焦低轨卫星终端（如星链Dish Gen3）的AI能力释放路径，深入解析FPGA可编程加速、TensorFlow Lite Micro

大语言模型中的稀疏激活（Sparse Activation）是一种通过门控机制（如MoE路由）实现计算资源按需分配的关键技术，其核心原理在于将海量参数划分为多个专家子网络，并依据输入Token语义动态选择少量专家参与前向计算。该机制显著提升FLOPs利用率、缓解显存带宽瓶颈，并降低推理功耗，是突破稠密模型算力墙与能耗墙的工程刚需。典型应用场景包括高吞吐API服务、长上下文推理及成本敏感型AI Infra部署。本文基于Qwen2-MoE-512B实测与LLM-Perf日志分析，深入拆解GPT-4级模型中‘1.

稀疏混合专家（MoE）是现代大模型突破算力瓶颈的核心范式，其本质是通过结构化冗余实现动态计算节能。不同于传统稠密模型的线性算力增长，MoE利用路由器按需激活子网络，在保持总参数规模的同时大幅降低单次推理的FLOPs消耗。关键技术价值在于破解显存墙、计算墙与能力天花板三重约束，支撑高吞吐、低延迟、可商用的大模型服务。典型应用场景包括云API推理、边缘轻量化部署及多领域自适应生成——而GPT-4所采用的1.8万亿参数总量与约2%每Token激活率，正是硬件限制、路由精度与负载均衡多重权衡下的工程最优解。

大语言模型推理性能的核心瓶颈常不在算力，而在显存带宽——这是现代GPU（如RTX 3090）运行中等规模模型时的普遍规律。其原理在于：KV Cache数据搬运开销远超计算耗时，尤其在FP16/BF16精度下，每token需加载MB级显存，使带宽利用率成为TPOT（单Token耗时）的决定性因素。vLLM通过PagedAttention分页机制显著提升显存连续读取效率，将带宽利用推至98%以上，从而释放消费级硬件的实用天花板。该技术路径广泛适用于本地知识库、RAG服务与低延迟私有API等场景，特别契合预算有限

FLOPS （全部大写）是floating-point operations per second的缩写，意指每秒浮点运算次数。用来衡量硬件的性能。 FLOPs 是floating point of operations的缩写，是浮点运算次数，可以用来衡量算法/模型复杂度。 常用当然还有GFLOPs和TFLOPs GFLOPS 就是 Giga Floating-point Operations Per Second,即每秒10亿次的浮点运算数,常作为GPU性能参数但不一定代表GPU的实际表现，因为还要考虑具

1Flops/s简写为T/s，是数据流量的计数单位，意思是“1万亿次浮点指令每秒”，它是衡量一个电脑计算能力的标准。 1TFlops=1024GFlowps，即1T=1024G。 各种FLOPS的含义： 1） 一个MFLOPS（megaFLOPS）等于每秒1百万（=10^6）次的浮点运算； 2） 一个GFLOPS（gigaFLOPS）等于每秒10亿（=10^9）次的浮点运算； 3） 一个TFLOPS（teraFLOPS）等于每秒1万亿（=10^12）次的浮点运算； 4） 一个PFLOPS（petaF..

GMACs是指每秒钟可以执行的十亿次乘加运算（billion multiply-accumulate operations per second），通常用于衡量神经网络计算的性能。GMACs通常用于衡量计算机的向量乘加运算性能，这是神经网络计算中最常见的计算。通常情况下，GMACs与GFLOPs之间存在一个大约1:2的比例关系，因为每个乘加运算需要进行两个浮点运算（一个乘法和一个加法）。它被用来衡量计算机在执行其他种类的计算密集型任务时的性能，如科学计算、图形渲染等。它们的区别在于测量的单位不同。

计算机集群系统的主要性能指标有峰值速度、实测速度和运行效率。计算速度一般以计算机系统每秒执行的浮点运算次数(Floatingpoint Operation Per Second, Flops)为单位。 其中， MFlops — 百万(10^6)次浮点运算每秒； GFlops — 十亿(10^9)次浮点运算每秒； TFlops — 万亿(10^12)次浮点运算每秒； PFlops — 千万...

FLOPS：注意S是大写，是 “每秒所执行的浮点运算次数”（floating-point operations per second）的缩写。它常被用来估算电脑的执行效能，尤其是在使用到大量浮点运算的科学计算领域中。正因为FLOPS字尾的那个S，代表秒，而不是复数，所以不能省略掉。FLOPs：注意s小写，是floating point operations的缩写（s表复数），意指浮点运算数，理解为计算量。可以用来衡量算法/模型的复杂度。