Golang 内存分配原理

1. 问题与目标

背景:堆中的对象由内存分配器分配并由垃圾收集器回收,学习golang的内存分配原理,如何减少在多线程模型下,锁的竞争开销,来提高内存分配的效率。

2. tcmalloc

image-20260901141856155

  • tcmalloc 内存分配分为ThreadCache、CentralCache、PageHeap 三个层次。
  • ThreadCache 是每一个线程的缓存,分配时不需要加锁,速度比较快。ThreadCache中对于每一个size class维护一个单独的 FreeList,缓存还没有分配的空闲对象。
  • FreeList 有不同单元的链表,有 8Bytes 16Bytes 32Bytes 。。。32KB,
  • CentralCache 也同样为每一个size class维护一个FreeList,但是是所有线程公用的,分配时需要加锁。
  • 8Bytes 16Bytes 32Bytes 。。。32KB
  • CentralCache 中内存不够时,会从PageHeap中申请。CentralCache 从PageHeap 中申请的内存,可能来自于PageHeap 的缓存,也可能是PageHeap 从操作系统中申请的新的内存。PageHeap 内部,对于128个Page 以内的span,会都用一个链表来缓存,超过了128个Page的span,则存储于一个有序的set

好处:

  • 减小锁竞争
  • 减小系统调用,上下文切换

3. Golang 的内存分配实现

Go 语言的内存分配器包含内存管理单元、线程缓存、中心缓存和页堆几个重要组件, mspan、mcache、mcentral 和 mheap

image-20260901141856155

  • 每一个处理器(P)都会分配一个线程缓存 mcache 用于处理微对象和小对象的分配,它们会持有内存管理单元 mspan。
  • 每个类型的内存管理单元都会管理特定大小的对象,(8B,16B,32B…32KB)
  • 内存管理单元中不存在空闲对象时,它们会从 mcentral 中获取新的内存单元,中心缓存属于全局的堆结构体 mheap,mheap会从操作系统中申请内存

内存管理单元 mspan

mspan是一个内存管理的一个基本单元,多个 mspan 形成双向链表

  • 微对象 (0, 16B) — 先使用微型分配器,再依次尝试线程缓存、中心缓存和堆分配内存;
  • 小对象 [16B, 32KB] — 依次尝试使用线程缓存、中心缓存和堆分配内存;
  • 大对象 (32KB, +∞) — 直接在堆上分配内存;

每个mspan都对应一个大小等级,小对象类型的堆对象会根据其大小分配到相应设定好大小等级 mspan 上分配内存。

每个 mspan 都管理 npages 个大小为 固定数量(8B,16B,32B…32KB) 的页,还有一个bitmap用来标注哪些页未被使用

image-20260901141856155

如果mspan的页单位是固定的,可能造成内存碎片导致浪费,例如当一页48KB,每个对象都是33KB,存入一个mspan里效果如下,48kb会出现15kb的剩余

image-20260901141856155

线程缓存 mcache

mcache 是 Go 语言中的线程缓存,它会与线程上的处理器(GMP - P)一一绑定。每个线程,分配一个mcache用于处理微对象和小对象的分配。因为是每个线程独有的,不需要加锁。

mcache在刚刚被初始化时是不包含 mspan 的,只有当用户程序申请内存时才会从上一级组件获取新的 mspan 满足内存分配的需求。

  • mcache 会持有tiny相关字段用于微对象内存分配。
  • mcache 会持有mspan用于小对象内存分配。

一个mcache包含多个mspan

image-20260901141856155

中心缓存 mcentral

mcentral 是内存分配器的中心缓存,会有多个线程的mcache向mcentral申请mspan,因此访问mcentral中的mspan时需要使用互斥锁。

页堆 mheap

内存分配的核心组件,包含mcentral和heapArena,堆上所有mspan都是从mheap结构分配来的。

  • allspans:已经分配的所有mspan
  • arenas:heapArena数组,用于管理一个个内存块
  • central:mcentral数组,用于管理对应spanClass的mspan

HeapArena

在mheap中维护一个heapArena数组,记录所有内存块。

  • bitmap:标记heapArena内存中每个地址空间的使用情况。
  • spans:记录page ID映射到的mspan
  • pageInUse、pageMarks:标记状态为mSpanInUse或在gc扫描中被标记的page,用于加速内存回收
  • zeroedBase:标记此 arena 中尚未使用的第一个page的首地址

image-20260901141856155

  1. 获取到合适的内存后,会向操作系统申请,并进行heapArena初始化,将 heapArena 添加到 arena 列表中

image-20260901141856155

mcentral从mheap中申请新的mspan时:

  1. 从heap的pages中获取内存,并生成mspan
  2. heap中无法获取到mspan,这时需要对堆进行增长

总结:

Go 的内存分配器在分配对象时,根据对象的大小,分成三类:微对象(小于等于 16B)、小对象(大于 16B,小于等于 32KB)、大对象(大于 32KB)。

大体上的分配流程:

  1. 32KB 以上的对象,直接从 mheap 上分配;

  2. <=16B 的对象使用 mcache 的 tiny 分配器分配;

  3. (16B,32KB] 的对象,首先计算对象的规格大小,然后使用 mcache 中相应规格大小的 mspan 分配;

  4. 如果 mcache 没有相应规格大小的 mspan,则向 mcentral 申请

  5. 如果 mcentral 没有相应规格大小的 mspan,则向 mheap 申请

  6. 如果 mheap 中也没有合适大小的 mspan,则向操作系统申请