python垃圾回收机制的原理

用通俗的语言解释内存管理和垃圾回收的过程，搞懂这一部分就可以去面试、去装逼了…

1.1 大管家refchain

在Python的C源码中有一个名为refchain的环状双向链表，这个链表比较牛逼了，因为Python程序中一旦创建对象都会把这个对象添加到refchain这个链表中。也就是说他保存着所有的对象。例如：

1. age = 18
2. name = "武沛齐"

1.2 引用计数器

在refchain中的所有对象内部都有一个ob_refcnt用来保存当前对象的引用计数器，顾名思义就是自己被引用的次数，例如：

1. age = 18
2. name = "武沛齐"
3. nickname = name

上述代码表示内存中有 18 和 “武沛齐” 两个值，他们的引用计数器分别为：1、2 。

当值被多次引用时候，不会在内存中重复创建数据，而是引用计数器+1 。 当对象被销毁时候同时会让引用计数器-1,如果引用计数器为0，则将对象从refchain链表中摘除，同时在内存中进行销毁（暂不考虑缓存等特殊情况）。

1. age = 18
2. number = age # 对象18的引用计数器 + 1
3. del age # 对象18的引用计数器 - 1
5. def run(arg):
6. print(arg)
8. run(number) # 刚开始执行函数时，对象18引用计数器 + 1，当函数执行完毕之后，对象18引用计数器 - 1 。
10. num_list = [11,22,number] # 对象18的引用计数器 + 1

1.3 标记清除&分代回收

基于引用计数器进行垃圾回收非常方便和简单，但他还是存在循环引用的问题，导致无法正常的回收一些数据，例如：

1. v1 = [11,22,33] # refchain中创建一个列表对象，由于v1=对象，所以列表引对象用计数器为1.
2. v2 = [44,55,66] # refchain中再创建一个列表对象，因v2=对象，所以列表对象引用计数器为1.
3. v1.append(v2) # 把v2追加到v1中，则v2对应的[44,55,66]对象的引用计数器加1，最终为2.
4. v2.append(v1) # 把v1追加到v1中，则v1对应的[11,22,33]对象的引用计数器加1，最终为2.
6. del v1 # 引用计数器-1
7. del v2 # 引用计数器-1

对于上述代码会发现，执行del操作之后，没有变量再会去使用那两个列表对象，但由于循环引用的问题，他们的引用计数器不为0，所以他们的状态：永远不会被使用、也不会被销毁。项目中如果这种代码太多，就会导致内存一直被消耗，直到内存被耗尽，程序崩溃。

为了解决循环引用的问题，引入了标记清除技术，专门针对那些可能存在循环引用的对象进行特殊处理，可能存在循环应用的类型有：列表、元组、字典、集合、自定义类等那些能进行数据嵌套的类型。

标记清除：创建特殊链表专门用于保存 列表、元组、字典、集合、自定义类等对象，之后再去检查这个链表中的对象是否存在循环引用，如果存在则让双方的引用计数器均 - 1 。

分代回收：对标记清除中的链表进行优化，将那些可能存在循引用的对象拆分到3个链表，链表称为：0/1/2三代，每代都可以存储对象和阈值，当达到阈值时，就会对相应的链表中的每个对象做一次扫描，除循环引用各自减1并且销毁引用计数器为0的对象。

1. // 分代的C源码
2. #define NUM_GENERATIONS 3
3. struct gc_generation generations[NUM_GENERATIONS] = {
4. /* PyGC_Head, threshold, count */
5. {{(uintptr_t)_GEN_HEAD(0), (uintptr_t)_GEN_HEAD(0)}, 700, 0}, // 0代
6. {{(uintptr_t)_GEN_HEAD(1), (uintptr_t)_GEN_HEAD(1)}, 10, 0}, // 1代
7. {{(uintptr_t)_GEN_HEAD(2), (uintptr_t)_GEN_HEAD(2)}, 10, 0}, // 2代
8. };

特别注意：0代和1、2代的threshold和count表示的意义不同。

• 0代，count表示0代链表中对象的数量，threshold表示0代链表对象个数阈值，超过则执行一次0代扫描检查。
• 1代，count表示0代链表扫描的次数，threshold表示0代链表扫描的次数阈值，超过则执行一次1代扫描检查。
• 2代，count表示1代链表扫描的次数，threshold表示1代链表扫描的次数阈值，超过则执行一2代扫描检查。

1.4 情景模拟

根据C语言底层并结合图来讲解内存管理和垃圾回收的详细过程。

第一步：当创建对象age=19时，会将对象添加到refchain链表中。

第二步：当创建对象num_list = [11,22]时，会将列表对象添加到 refchain 和 generations 0代中。

第三步：新创建对象使generations的0代链表上的对象数量大于阈值700时，要对链表上的对象进行扫描检查。

当0代大于阈值后，底层不是直接扫描0代，而是先判断2、1是否也超过了阈值。

• 如果2、1代未达到阈值，则扫描0代，并让1代的 count + 1 。
• 如果2代已达到阈值，则将2、1、0三个链表拼接起来进行全扫描，并将2、1、0代的count重置为0.
• 如果1代已达到阈值，则讲1、0两个链表拼接起来进行扫描，并将所有1、0代的count重置为0.

对拼接起来的链表在进行扫描时，主要就是剔除循环引用和销毁垃圾，详细过程为：

• 扫描链表，把每个对象的引用计数器拷贝一份并保存到 gc_refs中，保护原引用计数器。
• 再次扫描链表中的每个对象，并检查是否存在循环引用，如果存在则让各自的gc_refs减 1 。
• 再次扫描链表，将 gc_refs 为 0 的对象移动到unreachable链表中；不为0的对象直接升级到下一代链表中。
• 处理unreachable链表中的对象的 析构函数 和 弱引用，不能被销毁的对象升级到下一代链表，能销毁的保留在此链表。
  • 析构函数，指的就是那些定义了__del__方法的对象，需要执行之后再进行销毁处理。
  • 弱引用，
• 最后将 unreachable 中的每个对象销毁并在refchain链表中移除（不考虑缓存机制）。

至此，垃圾回收的过程结束。

1.5 缓存机制

从上文大家可以了解到当对象的引用计数器为0时，就会被销毁并释放内存。而实际上他不是这么的简单粗暴，因为反复的创建和销毁会使程序的执行效率变低。Python中引入了“缓存机制”机制。
例如：引用计数器为0时，不会真正销毁对象，而是将他放到一个名为 free_list 的链表中，之后会再创建对象时不会在重新开辟内存，而是在free_list中将之前的对象来并重置内部的值来使用。

• float类型，维护的free_list链表最多可缓存100个float对象。

  1. v1 = 3.14 # 开辟内存来存储float对象，并将对象添加到refchain链表。
  2. print( id(v1) ) # 内存地址：4436033488
  3. del v1 # 引用计数器-1，如果为0则在rechain链表中移除，不销毁对象，而是将对象添加到float的free_list.
  4. v2 = 9.999 # 优先去free_list中获取对象，并重置为9.999，如果free_list为空才重新开辟内存。
  5. print( id(v2) ) # 内存地址：4436033488
  7. # 注意：引用计数器为0时，会先判断free_list中缓存个数是否满了，未满则将对象缓存，已满则直接将对象销毁。

• int类型，不是基于free_list，而是维护一个small_ints链表保存常见数据（小数据池），小数据池范围：-5 。即：重复使用这个范围的整数时，不会重新开辟内存。

  1. v1 = 38 # 去小数据池small_ints中获取38整数对象，将对象添加到refchain并让引用计数器+1。
  2. print( id(v1)) #内存地址：4514343712
  3. v2 = 38 # 去小数据池small_ints中获取38整数对象，将refchain中的对象的引用计数器+1。
  4. print( id(v2) ) #内存地址：4514343712
  6. # 注意：在解释器启动时候-5~256就已经被加入到small_ints链表中且引用计数器初始化为1，代码中使用的值时直接去small_ints中拿来用并将引用计数器+1即可。另外，small_ints中的数据引用计数器永远不会为0（初始化时就设置为1了），所以也不会被销毁。

• str类型，维护unicode_latin1[256]链表，内部将所有的ascii字符缓存起来，以后使用时就不再反复创建。

  1. v1 = "A"
  2. print( id(v1) ) # 输出：4517720496
  3. del v1
  4. v2 = "A"
  5. print( id(v1) ) # 输出：4517720496
  7. # 除此之外，Python内部还对字符串做了驻留机制，针对那么只含有字母、数字、下划线的字符串（见源码Objects/codeobject.c），如果内存中已存在则不会重新在创建而是使用原来的地址里（不会像free_list那样一直在内存存活，只有内存中有才能被重复利用）。
  8. v1 = "wupeiqi"
  9. v2 = "wupeiqi"
  10. print(id(v1) == id(v2)) # 输出：True
• list类型，维护的free_list数组最多可缓存80个list对象。
  1. v1 = [11,22,33]
  2. print( id(v1) ) # 输出：4517628816
  3. del v1
  4. v2 = ["武","沛齐"]
  5. print( id(v2) ) # 输出：4517628816
• tuple类型，维护一个free_list数组且数组容量20，数组中元素可以是链表且每个链表最多可以容纳2000个元组对象。元组的free_list数组在存储数据时，是按照元组可以容纳的个数为索引找到free_list数组中对应的链表，并添加到链表中。
  1. v1 = (1,2)
  2. print( id(v1) )
  3. del v1 # 因元组的数量为2，所以会把这个对象缓存到free_list[2]的链表中。
  4. v2 = ("武沛齐","Alex") # 不会重新开辟内存，而是去free_list[2]对应的链表中拿到一个对象来使用。
  5. print( id(v2) )
• dict类型，维护的free_list数组最多可缓存80个dict对象。
  1. v1 = {"k1":123}
  2. print( id(v1) ) # 输出：4515998128
  3. del v1
  4. v2 = {"name":"武沛齐","age":18,"gender":"男"}
  5. print( id(v1) ) # 输出：4515998128

2. C语言源码分析

上文对Python的内存管理和垃圾回收进行了快速讲解，基本上已可以让你拿去装逼了。

接下来这一部分会让你更超神，我们要再在源码中来证实上文的内容。

2.1 两个重要的结构体

1. #define PyObject_HEAD PyObject ob_base;
2. #define PyObject_VAR_HEAD PyVarObject ob_base;
4. // 宏定义，包含 上一个、下一个，用于构造双向链表用。(放到refchain链表中时，要用到)
5. #define _PyObject_HEAD_EXTRA \
6. struct _object *_ob_next; \
7. struct _object *_ob_prev;
9. typedef struct _object {
10. _PyObject_HEAD_EXTRA // 用于构造双向链表
11. Py_ssize_t ob_refcnt; // 引用计数器
12. struct _typeobject *ob_type; // 数据类型
13. } PyObject;
15. typedef struct {
16. PyObject ob_base; // PyObject对象
17. Py_ssize_t ob_size; /* Number of items in variable part，即：元素个数 */
18. } PyVarObject;

这两个结构体PyObject和PyVarObject是基石，他们保存这其他数据类型公共部分，例如：每个类型的对象在创建时都有PyObject中的那4部分数据；list/set/tuple等由多个元素组成对象创建时都有PyVarObject中的那5部分数据。

2.2 常见类型结构体

平时我们在创建一个对象时，本质上就是实例化一个相关类型的结构体，在内部保存值和引用计数器等。

• float类型
  1. typedef struct {
  2. PyObject_HEAD
  3. double ob_fval;
  4. } PyFloatObject;
• int类型
  1. struct _longobject {
  2. PyObject_VAR_HEAD
  3. digit ob_digit[1];
  4. };
  5. /* Long (arbitrary precision) integer object interface */
  6. typedef struct _longobject PyLongObject; /* Revealed in longintrepr.h */

• str类型

  1. typedef struct {
  2. PyObject_HEAD
  3. Py_ssize_t length; /* Number of code points in the string */
  4. Py_hash_t hash; /* Hash value; -1 if not set */
  5. struct {
  6. unsigned int interned:2;
  7. /* Character size:
  9. - PyUnicode_WCHAR_KIND (0):
  11. * character type = wchar_t (16 or 32 bits, depending on the
  12. platform)
  14. - PyUnicode_1BYTE_KIND (1):
  16. * character type = Py_UCS1 (8 bits, unsigned)
  17. * all characters are in the range U+0000-U+00FF (latin1)
  18. * if ascii is set, all characters are in the range U+0000-U+007F
  19. (ASCII), otherwise at least one character is in the range
  20. U+0080-U+00FF
  22. - PyUnicode_2BYTE_KIND (2):
  24. * character type = Py_UCS2 (16 bits, unsigned)
  25. * all characters are in the range U+0000-U+FFFF (BMP)
  26. * at least one character is in the range U+0100-U+FFFF
  28. - PyUnicode_4BYTE_KIND (4):
  30. * character type = Py_UCS4 (32 bits, unsigned)
  31. * all characters are in the range U+0000-U+10FFFF
  32. * at least one character is in the range U+10000-U+10FFFF
  33. */
  34. unsigned int kind:3;
  35. unsigned int compact:1;
  36. unsigned int ascii:1;
  37. unsigned int ready:1;
  38. unsigned int :24;
  39. } state;
  40. wchar_t *wstr; /* wchar_t representation (null-terminated) */
  41. } PyASCIIObject;
  43. typedef struct {
  44. PyASCIIObject _base;
  45. Py_ssize_t utf8_length; /* Number of bytes in utf8, excluding the
  46. * terminating \0. */
  47. char *utf8; /* UTF-8 representation (null-terminated) */
  48. Py_ssize_t wstr_length; /* Number of code points in wstr, possible
  49. * surrogates count as two code points. */
  50. } PyCompactUnicodeObject;
  52. typedef struct {
  53. PyCompactUnicodeObject _base;
  54. union {
  55. void *any;
  56. Py_UCS1 *latin1;
  57. Py_UCS2 *ucs2;
  58. Py_UCS4 *ucs4;
  59. } data; /* Canonical, smallest-form Unicode buffer */
  60. } PyUnicodeObject;
• list类型
  1. typedef struct {
  2. PyObject_VAR_HEAD
  3. PyObject **ob_item;
  4. Py_ssize_t allocated;
  5. } PyListObject;
• tuple类型
  1. typedef struct {
  2. PyObject_VAR_HEAD
  3. PyObject *ob_item[1];
  4. } PyTupleObject;
• dict类型
  1. typedef struct {
  2. PyObject_HEAD
  3. Py_ssize_t ma_used;
  4. PyDictKeysObject *ma_keys;
  5. PyObject **ma_values;
  6. } PyDictObject;

通过常见结构体可以基本了解到本质上每个对象内部会存储的数据。

扩展：在结构体部分你应该发现了str类型比较繁琐，那是因为python字符串在处理时需要考虑到编码的问题，在内部规定（见源码结构体）：

• 字符串只包含ascii，则每个字符用1个字节表示，即：latin1

• 字符串包含中文等，则每个字符用2个字节表示，即：ucs2

• 字符串包含emoji等，则每个字符用4个字节表示，即：ucs4

2.3 Float类型

2.3.1 创建

1. val = 3.14

类似于这样创建一个float对象时，会执行C源码中的如下代码：

1. // Objects/floatobject.c
3. // 用于缓存float对象的链表
4. static PyFloatObject *free_list = NULL;
5. static int numfree = 0;
7. PyObject *
8. PyFloat_FromDouble(double fval)
9. {
10. // 如果free_list中有可用对象，则从free_list链表拿出来一个；否则为对象重新开辟内存。
11. PyFloatObject *op = free_list;
12. if (op != NULL) {
13. free_list = (PyFloatObject *) Py_TYPE(op);
14. numfree--;
15. } else {
16. // 根据float类型的大小，为float对象新开辟内存。
17. op = (PyFloatObject*) PyObject_MALLOC(sizeof(PyFloatObject));
18. if (!op)
19. return PyErr_NoMemory();
20. }
21. // 对float对象进行初始化，例如：引用计数器初始化为1、添加到refchain链表等。
22. /* Inline PyObject_New */
23. (void)PyObject_INIT(op, &PyFloat_Type);
25. // 对float对象赋值。即：op->ob_fval = 3.14
26. op->ob_fval = fval;
27. return (PyObject *) op;
28. }

1. // Include/objimpl.h
3. #define PyObject_INIT(op, typeobj) \
4. ( Py_TYPE(op) = (typeobj), _Py_NewReference((PyObject *)(op)), (op) )

1. // Objects/object.c
3. // 维护了所有对象的一个环状双向链表
4. static PyObject refchain = {&refchain, &refchain};
7. void
8. _Py_AddToAllObjects(PyObject *op, int force)
9. {
11. if (force || op->_ob_prev == NULL) {
12. op->_ob_next = refchain._ob_next;
13. op->_ob_prev = &refchain;
14. refchain._ob_next->_ob_prev = op;
15. refchain._ob_next = op;
16. }
17. }
19. void
20. _Py_NewReference(PyObject *op)
21. {
22. _Py_INC_REFTOTAL;
24. // 引用计数器初始化为1。
25. op->ob_refcnt = 1;
27. // 对象添加到双向链表refchain中。
28. _Py_AddToAllObjects(op, 1);
30. _Py_INC_TPALLOCS(op);
31. }

2.3.2 引用

1. val = 3.14
2. data = val

在项目中如果出现这种引用关系时，会将原对象的引用计数器+1。
C源码执行流程如下：

1. // Include/object.h
3. static inline void _Py_INCREF(PyObject *op)
4. {
5. _Py_INC_REFTOTAL;
6. // 对象的引用计数器 + 1
7. op->ob_refcnt++;
8. }
10. #define Py_INCREF(op) _Py_INCREF(_PyObject_CAST(op))

2.3.3 销毁

1. val = 3.14
2. del val

在项目中如果出现这种删除的语句，则内部会将引用计数器-1，如果引用计数器减为0，则进行缓存或垃圾回收。
C源码执行流程如下：

1. // Include/object.h
3. static inline void _Py_DECREF(const char *filename, int lineno,
4. PyObject *op)
5. {
6. (void)filename; /* may be unused, shut up -Wunused-parameter */
7. (void)lineno; /* may be unused, shut up -Wunused-parameter */
8. _Py_DEC_REFTOTAL;
9. // 引用计数器-1，如果引用计数器为0，则执行 _Py_Dealloc去缓存或垃圾回收。
10. if (--op->ob_refcnt != 0) {
11. #ifdef Py_REF_DEBUG
12. if (op->ob_refcnt 0) {
13. _Py_NegativeRefcount(filename, lineno, op);
14. }
15. #endif
16. }
17. else {
18. _Py_Dealloc(op);
19. }
20. }
22. #define Py_DECREF(op)