NUMA的原理与局限

1. 自Win7引入处理器组开始，原有的不识别group的函数，参数和返回值都变成组内编号/信息。2. 自Win10 20348 由于node可以关联多个group，引入“主组”之后，原有的node相关不支持多个group的函数，参数和返回值都变成主组信息。

微软官网链接：https://docs.microsoft.com/en-us/windows/win32/procthread/numa-support 译文如下： 多处理器支持的传统模型是对称多处理器(SMP)。在这种模型中，每个处理器对内存和输入/输出有平等的访问权。随着处理器数量的增加，处理器总线成为系统性能的一个限制。 系统设计人员使用非均匀内存访问(NUMA)来提高处理器速度，而不增加处理器总线上的负载。体系结构是不统一的，因为每个处理器靠近内存的某些部分，而远离内存的其他部分。处理.

定位解决问题-CPU NUMA问题1. 背景2. 现象分析2.1 本设备的numa现象3.解决4. 实例 1. 背景 之前做的一个项目，遇到设备内存和网卡绑定在不同的numa上，（网卡在numa1上，内存/巨页在numa0上） 导致问题如下：docker起来找不到hugepage 故障现象： Error: the kernel module vfio_pci has not been instal...

CGroup 介绍CGroup 是 Control Groups 的缩写，是 Linux 内核提供的一种可以限制、记录、隔离进程组 (process groups) 所使用的物力资源 (如 cpu memory i/o 等等) 的机制。2007 年进入 Linux 2.6.24 内核，CGroups 不是全新创造的，它将进程管理从 cpuset 中剥离出来，作者是 Google 的 Pa...

为什么要有NUMA在NUMA架构出现前，CPU欢快的朝着频率越来越高的方向发展。受到物理极限的挑战，又转为核数越来越多的方向发展。如果每个core的工作性质 都是share-nothing(类似于map-reduce的node节点的作业属性)，那么也许就不会有NUMA。由于所有CPU Core都是通过共享一个北桥来读取内存，随着核数如何的发展，北桥在响应时间上的性能瓶颈越来越明显。于是，聪明的硬件...

Linux的NUMA机制 NUMA对性能的影响 cgroup的cpuset问题 深挖NUMAhttp://www.litrin.net/2017/10/31/%E6%B7%B1%E6%8C%96numa/ NUMA的原理与局限https://www.cnblogs.com/longchang/p/10734540.html ...

NUMA暗示错误是指，当进程访问某个内存页面时，内核利用页面错误机制“暗示”（hint）自己该页面的使用情况。这种错误不同于传统页面错误（例如页面未分配或被换出到磁盘），仅用于统计和优化，不中断进程执行。

NUMANUMA的诞生背景二级目录三级目录 NUMA的诞生背景 在NUMA出现之前，CPU朝着高频率的方向发展遇到了天花板，转而向着多核心的方向发展。 在一开始，内存控制器还在北桥中，所有CPU对内存的访问都要通过北桥来完成。此时所有CPU访问内存都是“一致的”，如下图所示： 这样的架构称为UMA(Uniform Memory Access)，直译为“统一内存访问”，这样的架构对软件层面来说非常容易，总线模型保证所有的内存访问是一致的，即每个处理器核心共享相同的内存地址空间。但随着CPU核心数的增加，这样

一些numa 架构相关的基础知识

随着CPU多核心技术的发展，一颗物理CPU中集成了越来越多的core（比如ARM架构服务器CPU基本是64核起步），当多个核心（Core）都是通过一条总线进行访问内存时，就会产生“争抢”情况，这种“争抢”会导致内存访问的延迟增加，从而导致系统的整体性能下降。为了提升CPU的计算能力，CPU的技术发展大体经历了增加晶体管的数量、提高CPU的主频、增加核心数量、增加CPU个数（CPU互联）等多个阶段。在Linux系统中，针对NUMA架构的优化和调优主要涉及操作系统层面的内存管理和调度，以及应用程序层面的优化。

在多核处理器和高并发场景中，内存访问性能是系统优化的关键。传统UMA架构下，所有CPU核心通过共享总线访问统一内存，但随着核心数增加，总线带宽成为瓶颈。为解决可扩展性问题，现代服务器普遍采用NUMA架构，将CPU和内存分组为多个节点，节点内访问为本地内存，延迟低；跨节点访问为远程内存，延迟较高。这种非均匀访问特性要求操作系统内核进行精细管理，Linux内核通过节点抽象、本地优先分配策略和自动NUMA平衡机制，优化内存访问效率。理解NUMA原理对于开发高性能应用至关重要，特别是在数据库、大数据计算等场景中，通

境外服务器的3种体系架构：SMP、NUMA、MPP！ 从系统的体系架构来看，目前的商用服务器大体上可以分为3类：SMP（对称多处理器）结构、NUMA（非一致存储访问）结构和MPP（海量并行处理）结构。这3类系统体系架构的服务器，它们具体的特征描述如下： 一、 SMP(Symmetric Multi-Processor) 所谓“对称多处理器”结构，是指服务器中多个CPU对称工作，无主次或从属关系。各CPU共享相同的物理内存，每个CPU访问内存中的任何地址所需时间是相同的，因此SMP也被称为“一致存储器访问”结

转自：http://www.cnblogs.com/yubo/archive/2010/04/23/1718810.html 从系统架构来看，目前的商用服务器大体可以分为三类，即对称多处理器结构 (SMP ： Symmetric Multi-Processor) ，非一致存储访问结构 (NUMA ： Non-Uniform Memory Access) ，以及海量并行处理结构 (MPP

在多核处理器架构中，缓存局部性是影响并行计算性能的关键因素。其原理在于CPU多级缓存体系依赖数据访问的时空局部性，当线程在不同核心间迁移时会导致缓存失效，产生高昂的延迟开销。线程亲和性技术通过将线程绑定到特定CPU核心，能有效减少这种迁移，提升缓存命中率，从而显著优化计算密集型任务的执行效率。在C++并行编程领域，随着C++26执行器模型的完善，开发者获得了更底层的控制能力，使得线程亲和性调优从系统级黑盒操作转变为可编程的工程实践。该技术在高性能计算、实时数据处理和金融交易等对延迟敏感的场景中价值尤为突出，

【转】http://blog.csdn.net/aesop_wubo/article/details/7533186 NUMA与SMP SMP(Symmetric Multi-Processor)，即对称多处理器结构，指服务器中多个CPU对称工作，每个CPU访问内存地址所需时间相同。其主要特征是共享，包含对CPU，内存，I/O等进行共享。SMP的优点是能够保证内存一致性，缺点是这些共享的资源...

1.1 SMP(Symmetric Multi-Processor) 对称多处理器结构，它是相对非对称多处理技术而言的、应用十分广泛的并行技术。在这种架构中，一台计算机由多个CPU组成，并共享内存和其他资源，所有的CPU都可以平等地访问内存、I/O和外部中断。虽然同时使用多个CPU，但是从管理的角度来看，它们的表现就像一台单机一样。操作系统将任务队列对称地分布于多个CPU之上，从而极大地提高了整个系统的数据处理能力。但是随着CPU数量的增加，每个CPU都要访问相同的内存资源，共享资源可能会成为系统瓶颈，导致