NDB 集群磁盘数据存储是使用以下对象实现的
表空间:充当其他磁盘数据对象的容器。一个表空间包含一个或多个数据文件和一个或多个撤消日志文件组。
数据文件:存储列数据。一个数据文件直接分配给一个表空间。
撤消日志文件:包含回滚事务所需的撤消信息。分配给一个撤消日志文件组。
日志文件组:包含一个或多个撤消日志文件。分配给一个表空间。
撤消日志文件和数据文件是每个数据节点文件系统中的实际文件;默认情况下,它们位于 NDB 集群 config.ini
文件中指定的 DataDir
中的 ndb_
中,其中 node_id
_fsnode_id
是数据节点的节点 ID。可以通过在创建撤消日志或数据文件时在文件名中指定绝对路径或相对路径,将这些文件放置在其他位置。创建这些文件的语句将在本节后面显示。
撤消日志文件仅由磁盘数据表使用,而仅存储在内存中的 NDB
表不需要或使用它们。
NDB 集群表空间和日志文件组未实现为文件。
尽管并非所有磁盘数据对象都实现为文件,但它们都共享相同的命名空间。这意味着 每个磁盘数据对象 都必须具有唯一的名称(而不仅仅是给定类型的每个磁盘数据对象)。例如,您不能同时拥有一个名为 dd1
的表空间和一个名为 dd1
的日志文件组。
假设您已经设置了一个包含所有节点(包括管理节点和 SQL 节点)的 NDB 集群,则在磁盘上创建 NDB 集群表的基本步骤如下
创建一个日志文件组,并将一个或多个撤消日志文件分配给它(撤消日志文件有时也称为 撤消文件)。
创建一个表空间;将日志文件组以及一个或多个数据文件分配给该表空间。
创建一个使用此表空间进行数据存储的磁盘数据表。
可以使用 mysql 客户端或其他 MySQL 客户端应用程序中的 SQL 语句来完成这些任务,如下面的示例所示。
我们使用
CREATE LOGFILE GROUP
创建一个名为lg_1
的日志文件组。该日志文件组由两个撤消日志文件组成,我们将其命名为undo_1.log
和undo_2.log
,其初始大小分别为 16 MB 和 12 MB。(撤消日志文件的默认初始大小为 128 MB。)或者,您也可以为日志文件组的撤消缓冲区指定大小,或允许其采用默认值 8 MB。在本例中,我们将 UNDO 缓冲区的大小设置为 2 MB。必须使用撤消日志文件创建日志文件组;因此,我们在此CREATE LOGFILE GROUP
语句中将undo_1.log
添加到lg_1
CREATE LOGFILE GROUP lg_1 ADD UNDOFILE 'undo_1.log' INITIAL_SIZE 16M UNDO_BUFFER_SIZE 2M ENGINE NDBCLUSTER;
要将
undo_2.log
添加到日志文件组,请使用以下ALTER LOGFILE GROUP
语句ALTER LOGFILE GROUP lg_1 ADD UNDOFILE 'undo_2.log' INITIAL_SIZE 12M ENGINE NDBCLUSTER;
一些需要注意的事项
此处使用的
.log
文件扩展名不是必需的。我们使用它只是为了使日志文件易于识别。每个
CREATE LOGFILE GROUP
和ALTER LOGFILE GROUP
语句都必须包含ENGINE
选项。此选项的唯一允许值为NDBCLUSTER
和NDB
。重要在任何给定时间,同一个 NDB 集群中最多只能存在一个日志文件组。
当您使用
ADD UNDOFILE '
将撤消日志文件添加到日志文件组时,将在集群中每个数据节点的filename
'DataDir
内的ndb_
目录中创建一个名为node_id
_fsfilename
的文件,其中node_id
是数据节点的节点 ID。每个撤消日志文件的大小在 SQL 语句中指定。例如,如果一个 NDB 集群有 4 个数据节点,那么刚才显示的ALTER LOGFILE GROUP
语句将在 4 个数据节点中的每个数据节点的数据目录中分别创建一个撤消日志文件;这些文件中的每一个都名为undo_2.log
,并且每个文件的大小为 12 MB。UNDO_BUFFER_SIZE
受可用系统内存量的限制。有关这些语句的更多信息,请参阅 第 15.1.16 节“CREATE LOGFILE GROUP 语句” 和 第 15.1.6 节“ALTER LOGFILE GROUP 语句”。
现在我们可以创建一个表空间,它是一个抽象容器,用于存储磁盘数据表用于存储数据的文件。一个表空间与一个特定的日志文件组相关联;在创建新的表空间时,您必须指定它用于撤消日志记录的日志文件组。您还必须至少指定一个数据文件;您可以在创建表空间后向表空间添加更多数据文件。也可以从表空间中删除数据文件(请参阅本节后面的示例)。
假设我们要创建一个名为
ts_1
的表空间,该表空间使用lg_1
作为其日志文件组。我们希望该表空间包含两个数据文件,分别名为data_1.dat
和data_2.dat
,其初始大小分别为 32 MB 和 48 MB。(INITIAL_SIZE
的默认值为 128 MB。)我们可以使用两个 SQL 语句来完成此操作,如下所示CREATE TABLESPACE ts_1 ADD DATAFILE 'data_1.dat' USE LOGFILE GROUP lg_1 INITIAL_SIZE 32M ENGINE NDBCLUSTER; ALTER TABLESPACE ts_1 ADD DATAFILE 'data_2.dat' INITIAL_SIZE 48M;
CREATE TABLESPACE
语句使用数据文件data_1.dat
创建表空间ts_1
,并将ts_1
与日志文件组lg_1
相关联。ALTER TABLESPACE
添加第二个数据文件 (data_2.dat
)。一些需要注意的事项
与在本例中用于撤消日志文件的
.log
文件扩展名一样,.dat
文件扩展名也没有特殊意义;它只是为了便于识别而使用。当您使用
ADD DATAFILE '
将数据文件添加到表空间时,将在集群中每个数据节点的filename
'DataDir
内的ndb_
目录中创建一个名为node_id
_fsfilename
的文件,其中node_id
是数据节点的节点 ID。每个数据文件的大小在 SQL 语句中指定。例如,如果一个 NDB 集群有 4 个数据节点,那么刚才显示的ALTER TABLESPACE
语句将在 4 个数据节点中的每个数据节点的数据目录中分别创建一个数据文件;这些文件中的每一个都名为data_2.dat
,并且每个文件的大小为 48 MB。NDB
会为每个表空间保留 4% 的空间,供数据节点重新启动期间使用。此空间不可用于存储数据。CREATE TABLESPACE
语句必须包含ENGINE
子句;只能在表空间中创建使用与表空间相同存储引擎的表。对于NDB
表空间,ALTER TABLESPACE
仅接受ALTER TABLESPACE ... ADD DATAFILE
的ENGINE
子句;任何其他ALTER TABLESPACE
语句都会拒绝ENGINE
。对于NDB
表空间,ENGINE
选项的唯一允许值为NDBCLUSTER
和NDB
。区段的分配是在给定表空间使用的所有数据文件中以循环方式执行的。
有关
CREATE TABLESPACE
和ALTER TABLESPACE
语句的更多信息,请参阅 第 15.1.21 节“CREATE TABLESPACE 语句” 和 第 15.1.10 节“ALTER TABLESPACE 语句”。
现在可以创建一个表,其未索引的列存储在表空间
ts_1
中的文件使用的磁盘上CREATE TABLE dt_1 ( member_id INT UNSIGNED NOT NULL AUTO_INCREMENT PRIMARY KEY, last_name VARCHAR(50) NOT NULL, first_name VARCHAR(50) NOT NULL, dob DATE NOT NULL, joined DATE NOT NULL, INDEX(last_name, first_name) ) TABLESPACE ts_1 STORAGE DISK ENGINE NDBCLUSTER;
TABLESPACE ts_1 STORAGE DISK
告诉NDB
存储引擎使用表空间ts_1
在磁盘上存储数据。创建表
ts_1
后,您可以像使用任何其他 MySQL 表一样,对其执行INSERT
、SELECT
、UPDATE
和DELETE
语句。还可以通过在
CREATE TABLE
或ALTER TABLE
语句中使用STORAGE
子句作为列定义的一部分,来指定将单个列存储在磁盘上还是存储在内存中。STORAGE DISK
会导致将列存储在磁盘上,而STORAGE MEMORY
会导致使用内存存储。有关更多信息,请参阅 第 15.1.20 节“CREATE TABLE 语句”。
您可以通过查询 INFORMATION_SCHEMA
数据库中的 FILES
表来获取有关刚创建的 NDB
磁盘数据文件和撤消日志文件的信息,如下所示
mysql> SELECT
FILE_NAME AS File, FILE_TYPE AS Type,
TABLESPACE_NAME AS Tablespace, TABLE_NAME AS Name,
LOGFILE_GROUP_NAME AS 'File group',
FREE_EXTENTS AS Free, TOTAL_EXTENTS AS Total
FROM INFORMATION_SCHEMA.FILES
WHERE ENGINE='ndbcluster';
+--------------+----------+------------+------+------------+------+---------+
| File | Type | Tablespace | Name | File group | Free | Total |
+--------------+----------+------------+------+------------+------+---------+
| ./undo_1.log | UNDO LOG | lg_1 | NULL | lg_1 | 0 | 4194304 |
| ./undo_2.log | UNDO LOG | lg_1 | NULL | lg_1 | 0 | 3145728 |
| ./data_1.dat | DATAFILE | ts_1 | NULL | lg_1 | 32 | 32 |
| ./data_2.dat | DATAFILE | ts_1 | NULL | lg_1 | 48 | 48 |
+--------------+----------+------------+------+------------+------+---------+
4 rows in set (0.00 sec)
如需了解更多信息和示例,请参阅“第 28.3.15 节,“INFORMATION_SCHEMA FILES 表”。
对隐式存储在磁盘上的列进行索引。 对于上例中定义的表 dt_1
,只有 dob
和 joined
列存储在磁盘上。这是因为 id
、last_name
和 first_name
列上有索引,因此属于这些列的数据存储在 RAM 中。只有未索引的列才能保存在磁盘上;索引和索引列数据继续存储在内存中。在设计磁盘数据表时,必须牢记索引的使用和 RAM 节省之间的这种权衡。
您不能将索引添加到已显式声明为 STORAGE DISK
的列,除非先将其存储类型更改为 MEMORY
;任何尝试这样做的操作都会失败并报错。可以对隐式使用磁盘存储的列建立索引;执行此操作时,列的存储类型会自动更改为 MEMORY
。 ““隐式””是指未声明其存储类型但从父表继承的列。在以下 CREATE TABLE 语句中(使用前面定义的表空间 ts_1
),列 c2
和 c3
隐式使用磁盘存储
mysql> CREATE TABLE ti (
-> c1 INT PRIMARY KEY,
-> c2 INT,
-> c3 INT,
-> c4 INT
-> )
-> STORAGE DISK
-> TABLESPACE ts_1
-> ENGINE NDBCLUSTER;
Query OK, 0 rows affected (1.31 sec)
因为 c2
、c3
和 c4
本身没有使用 STORAGE DISK
声明,所以可以对其进行索引。在这里,我们分别使用 CREATE INDEX
和 ALTER TABLE
为 c2
和 c3
添加索引
mysql> CREATE INDEX i1 ON ti(c2);
Query OK, 0 rows affected (2.72 sec)
Records: 0 Duplicates: 0 Warnings: 0
mysql> ALTER TABLE ti ADD INDEX i2(c3);
Query OK, 0 rows affected (0.92 sec)
Records: 0 Duplicates: 0 Warnings: 0
SHOW CREATE TABLE
确认已添加索引。
mysql> SHOW CREATE TABLE ti\G
*************************** 1. row ***************************
Table: ti
Create Table: CREATE TABLE `ti` (
`c1` int(11) NOT NULL,
`c2` int(11) DEFAULT NULL,
`c3` int(11) DEFAULT NULL,
`c4` int(11) DEFAULT NULL,
PRIMARY KEY (`c1`),
KEY `i1` (`c2`),
KEY `i2` (`c3`)
) /*!50100 TABLESPACE `ts_1` STORAGE DISK */ ENGINE=ndbcluster DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci
1 row in set (0.00 sec)
您可以使用 ndb_desc 查看索引列(强调文本)现在使用内存存储而不是磁盘存储
$> ./ndb_desc -d test t1
-- t1 --
Version: 33554433
Fragment type: HashMapPartition
K Value: 6
Min load factor: 78
Max load factor: 80
Temporary table: no
Number of attributes: 4
Number of primary keys: 1
Length of frm data: 317
Max Rows: 0
Row Checksum: 1
Row GCI: 1
SingleUserMode: 0
ForceVarPart: 1
PartitionCount: 4
FragmentCount: 4
PartitionBalance: FOR_RP_BY_LDM
ExtraRowGciBits: 0
ExtraRowAuthorBits: 0
TableStatus: Retrieved
Table options:
HashMap: DEFAULT-HASHMAP-3840-4
-- Attributes --
c1 Int PRIMARY KEY DISTRIBUTION KEY AT=FIXED ST=MEMORY
c2 Int NULL AT=FIXED ST=MEMORY
c3 Int NULL AT=FIXED ST=MEMORY
c4 Int NULL AT=FIXED ST=DISK
-- Indexes --
PRIMARY KEY(c1) - UniqueHashIndex
i2(c3) - OrderedIndex
PRIMARY(c1) - OrderedIndex
i1(c2) - OrderedIndex
性能说明。 如果将磁盘数据文件与数据节点文件系统保存在不同的物理磁盘上,则使用磁盘数据存储的集群的性能将大大提高。必须对集群中的每个数据节点执行此操作才能获得任何明显的益处。
您可以使用绝对和相对文件系统路径以及 ADD UNDOFILE
和 ADD DATAFILE
;相对于数据节点的数据目录计算相对路径。
必须按特定顺序创建日志文件组、表空间和任何使用它们的磁盘数据表。删除这些对象也是如此,但须遵守以下约束
只要有任何表空间使用日志文件组,就不能删除它。
只要表空间包含任何数据文件,就不能删除它。
只要还有任何表正在使用表空间,就不能从该表空间中删除任何数据文件。
无法删除与创建文件时使用的表空间以外的其他表空间关联创建的文件。
例如,要删除本节到目前为止创建的所有对象,可以使用以下语句
mysql> DROP TABLE dt_1;
mysql> ALTER TABLESPACE ts_1
-> DROP DATAFILE 'data_2.dat';
mysql> ALTER TABLESPACE ts_1
-> DROP DATAFILE 'data_1.dat';
mysql> DROP TABLESPACE ts_1;
mysql> DROP LOGFILE GROUP lg_1;
这些语句必须按所示顺序执行,但两个 ALTER TABLESPACE ... DROP DATAFILE
语句可以按任意顺序执行。