Golang 内存分配原理
1. 问题与目标
背景:堆中的对象由内存分配器分配并由垃圾收集器回收,学习golang的内存分配原理,如何减少在多线程模型下,锁的竞争开销,来提高内存分配的效率。
2. tcmalloc

- tcmalloc 内存分配分为ThreadCache、CentralCache、PageHeap 三个层次。
- ThreadCache 是每一个线程的缓存,分配时不需要加锁,速度比较快。ThreadCache中对于每一个size class维护一个单独的 FreeList,缓存还没有分配的空闲对象。
- FreeList 有不同单元的链表,有 8Bytes 16Bytes 32Bytes 。。。32KB,
- CentralCache 也同样为每一个size class维护一个FreeList,但是是所有线程公用的,分配时需要加锁。
- 8Bytes 16Bytes 32Bytes 。。。32KB
- CentralCache 中内存不够时,会从PageHeap中申请。CentralCache 从PageHeap 中申请的内存,可能来自于PageHeap 的缓存,也可能是PageHeap 从操作系统中申请的新的内存。PageHeap 内部,对于128个Page 以内的span,会都用一个链表来缓存,超过了128个Page的span,则存储于一个有序的set
好处:
- 减小锁竞争
- 减小系统调用,上下文切换
3. Golang 的内存分配实现
Go 语言的内存分配器包含内存管理单元、线程缓存、中心缓存和页堆几个重要组件, mspan、mcache、mcentral 和 mheap

- 每一个处理器(P)都会分配一个线程缓存
mcache用于处理微对象和小对象的分配,它们会持有内存管理单元mspan。 - 每个类型的内存管理单元都会管理特定大小的对象,(8B,16B,32B…32KB)
- 内存管理单元中不存在空闲对象时,它们会从
mcentral中获取新的内存单元,中心缓存属于全局的堆结构体mheap,mheap会从操作系统中申请内存
内存管理单元 mspan
mspan是一个内存管理的一个基本单元,多个 mspan 形成双向链表
- 微对象
(0, 16B)— 先使用微型分配器,再依次尝试线程缓存、中心缓存和堆分配内存; - 小对象
[16B, 32KB]— 依次尝试使用线程缓存、中心缓存和堆分配内存; - 大对象
(32KB, +∞)— 直接在堆上分配内存;
每个mspan都对应一个大小等级,小对象类型的堆对象会根据其大小分配到相应设定好大小等级 mspan 上分配内存。
每个 mspan 都管理 npages 个大小为 固定数量(8B,16B,32B…32KB) 的页,还有一个bitmap用来标注哪些页未被使用

如果mspan的页单位是固定的,可能造成内存碎片导致浪费,例如当一页48KB,每个对象都是33KB,存入一个mspan里效果如下,48kb会出现15kb的剩余

线程缓存 mcache
mcache 是 Go 语言中的线程缓存,它会与线程上的处理器(GMP - P)一一绑定。每个线程,分配一个mcache用于处理微对象和小对象的分配。因为是每个线程独有的,不需要加锁。
mcache在刚刚被初始化时是不包含 mspan 的,只有当用户程序申请内存时才会从上一级组件获取新的 mspan 满足内存分配的需求。
- mcache 会持有tiny相关字段用于微对象内存分配。
- mcache 会持有mspan用于小对象内存分配。
一个mcache包含多个mspan

中心缓存 mcentral
mcentral 是内存分配器的中心缓存,会有多个线程的mcache向mcentral申请mspan,因此访问mcentral中的mspan时需要使用互斥锁。
页堆 mheap
内存分配的核心组件,包含mcentral和heapArena,堆上所有mspan都是从mheap结构分配来的。
- allspans:已经分配的所有mspan
- arenas:heapArena数组,用于管理一个个内存块
- central:mcentral数组,用于管理对应spanClass的mspan
HeapArena
在mheap中维护一个heapArena数组,记录所有内存块。
- bitmap:标记heapArena内存中每个地址空间的使用情况。
- spans:记录page ID映射到的mspan
- pageInUse、pageMarks:标记状态为mSpanInUse或在gc扫描中被标记的page,用于加速内存回收
- zeroedBase:标记此 arena 中尚未使用的第一个page的首地址

- 获取到合适的内存后,会向操作系统申请,并进行heapArena初始化,将 heapArena 添加到 arena 列表中

mcentral从mheap中申请新的mspan时:
- 从heap的pages中获取内存,并生成mspan
- heap中无法获取到mspan,这时需要对堆进行增长
总结:
Go 的内存分配器在分配对象时,根据对象的大小,分成三类:微对象(小于等于 16B)、小对象(大于 16B,小于等于 32KB)、大对象(大于 32KB)。
大体上的分配流程:
-
32KB 以上的对象,直接从 mheap 上分配;
-
<=16B 的对象使用 mcache 的 tiny 分配器分配;
-
(16B,32KB] 的对象,首先计算对象的规格大小,然后使用 mcache 中相应规格大小的 mspan 分配;
-
如果 mcache 没有相应规格大小的 mspan,则向 mcentral 申请
-
如果 mcentral 没有相应规格大小的 mspan,则向 mheap 申请
-
如果 mheap 中也没有合适大小的 mspan,则向操作系统申请