PostgreSQL Executor(4): 元组表
在PostgreSQL中,所有记录都存储在元组中,包括系统数据和用户数据。存储模块提供了元组(HeapTuple)的定义和操作接口。但是这些接口是针对物理元组的,解析和构造的开销较大,不能满足执行器对性能的需求。
执行器在进行投影和选择操作时,需要快速获取元组的属性;在缓存元组时,又希望元组的体积尽可能的小,以节省内存空间。为此,执行器定义了MinmalTuple
,去掉了“系统列(system columns)“(实际上有一个OID,但是不需要访问)。
执行器将元组存储在一个元组表(Tuple Table)中,元组表实际上是一个由单独的TupleTableSlot
组成的链表。
TupleTableSlot
定义在src/include/executor/tuptable.h
中,其定义如下:
typedef struct TupleTableSlot
{
NodeTag type;
bool tts_isempty; /* true = slot is empty */
bool tts_shouldFree; /* should pfree tts_tuple? */
bool tts_shouldFreeMin; /* should pfree tts_mintuple? */
#define FIELDNO_TUPLETABLESLOT_SLOW 4
bool tts_slow; /* saved state for slot_deform_tuple */
#define FIELDNO_TUPLETABLESLOT_TUPLE 5
HeapTuple tts_tuple; /* physical tuple, or NULL if virtual */
#define FIELDNO_TUPLETABLESLOT_TUPLEDESCRIPTOR 6
TupleDesc tts_tupleDescriptor; /* slot's tuple descriptor */
MemoryContext tts_mcxt; /* slot itself is in this context */
Buffer tts_buffer; /* tuple's buffer, or InvalidBuffer */
#define FIELDNO_TUPLETABLESLOT_NVALID 9
int tts_nvalid; /* # of valid values in tts_values */
#define FIELDNO_TUPLETABLESLOT_VALUES 10
Datum *tts_values; /* current per-attribute values */
#define FIELDNO_TUPLETABLESLOT_ISNULL 11
bool *tts_isnull; /* current per-attribute isnull flags */
MinimalTuple tts_mintuple; /* minimal tuple, or NULL if none */
HeapTupleData tts_minhdr; /* workspace for minimal-tuple-only case */
#define FIELDNO_TUPLETABLESLOT_OFF 14
uint32 tts_off; /* saved state for slot_deform_tuple */
bool tts_fixedTupleDescriptor; /* descriptor can't be changed */
} TupleTableSlot;
TupleTableSlot
需要处理以下情况:
- 位于磁盘缓冲区页面上的物理元组
- 在分配的内存中构造的物理元组
- 在分配的内存中构造的“最小化”的物理元组
- 由
Datum/isnull
数组组成的“虚拟”元组
前两种情况是相似的,它们处理的都是“物化”的元组,只是资源管理方式不同。对于在磁盘页上的元组,需要将其在缓冲区中钉住(Pin),直到TupleTableSlot
上元组的引用被删除;对于在分配的内存中的元组,通常在TupleTableSlot
上元组的引用被删除时释放内存。
对一个“最小化”的元组的处理方式与在分配的内存中的元组类似。目前,最小化元组不会存储在缓冲区上,因此没有与情况1相同的情况。
“虚拟”元组是一种优化,用来在计划节点上最小化物理数据的拷贝。任何通过引用传递的元组的数据(Datum)并不是直接指向其关联的TupleTableSlot
;一般它们会指向存储在低层计划节点的输出TupleTableSlot
上的元组的部分,或者指向在计划节点的per-tuple的内存中构造的函数的结果。由计划节点保证这些资源不会被释放,只要虚拟元组需要有效。虚拟元组只会在计划节点的结果中使用--拷贝到其它任何地方的元组都需要“物化”成物理元组。需要注意的是虚拟元组没有任何“系统列”。
TupleTableSlot
也可能同时持有物理元组和最小元组。这是在slot被请求提供与它持有的元组不同的格式时(如果替换元组的格式,会导致任何指向已存在的slot内容的按引用传递的Datum
失效)。
TupleTableSlot
上的Datum/isnull
数组有两个作用。当slot含有虚拟元组时,它们是权威的数据。当slot含有物理元组时,这个数组包含的是从物理元组提取的数据(在这种情况下,任何按引用传递的Datum
都指向物理元组)。提取的信息被延迟构造,只有需要时才会构造,这样避免从物理元组上重复提取数据。
TupleTableSlot
也可以是空的,不持有任何有效数据。这种状态只在刚创建的还没有赋上元组描述符的slot上有效。在这种状态,tts_isempty
必须为true,tts_shouldFree
为false,tts_tuple
为NULL,tts_buffer
为InvalidBuffer,并且tts_nvalid
为零。
TupleTableSlot
只简单引用元组描述符,而不复制。ExecSetSlotDescriptor()
的调用者负责提供描述符,并且保证不小于slot的存活时间。
当tts_shouldFree
为true时,物理元组被slot拥有,因而在slot到元组的引用被删除时需要释放物理元组。
如果tts_buffer
不是InvalidBuffer,那么slot钉住了其指示的缓冲区页面;当释放slot上指向该缓冲区的引用时需要释放缓冲区(在这种情况下,tts_shouldFree
应该总是为false)。
tts_nvalid
说明在tts_values/isnull
数组中的有效列的数量。当slot持有虚拟元组时,它必须等于描述符的natts
。当slot持有物理元组时,它等于已提取的列的数量(列总是被从左到右提取,因此没有空洞)。
如果slot不持有最小化元组,那么tts_mintuple
必须为NULL。当slot持有最小化元组时,tts_mintuple
指向实际的MinimalTupleData
对象(如果tts_shouldFreeMin
为true,则需要释放内存)。如果slot只有最小化元组而没有普通的物理元组,那么tts_tuple
指向tts_minhdr
,并且结构体的字段被正确设置了;这里特别说明,tts_minhdr.t_data
指向了tts_mintuple
的MINMAL_TUPLE_OFFSET
个字节。
tts_slow/tts_off
为slot_deform_tuple
保存了状态,不应被其它代码访问。
元组表存储在EState
的es_tupleTable
字段中。节点会根据自身需求申请分配TupleTableSlot
,用于存储节点的输出元组、扫描到的元组等。执行完成后会统一释放元组表中的所有元组。
执行器定义了一组对TupleTableSlot
的操作接口,包括slot的创建、销毁、访问等。实现在src/backend/executor/execTuples.c
中。