Xtrabackup备份到S3
使用方式
Xtrabackup从2.4.14版本开始,支持stream模式直接存储到文件系统(主要依赖xbcloud)。无需备份到本地后,再上传到文件系统
xbcloud的目的是从云中下载全部或部分xbstream存档并将其上传到云。同时不会覆盖相同名称的备份。xbcloud通过管道接收来自xbstream的输入,因此可以使用xtrabackup作为管道来调用它,以直接传输至云而无需本地存储。
xbcloud将每个块作为一个单独的对象存储,名称为backup_name / database / table.ibd.NNNNNNNNNNNNNNNNNNNNNNNN
,其中NNN ...
是文件中块的0填充序列号。xtrabackup和xbstream生成的块的大小更改为10M。
xbcloud具有三个基本操作:放置,获取和删除。通过这些操作,可以创建,存储,检索,还原和删除备份。xbcloud操作清楚地映射到AWS S3 API中的类似操作。
在Percona XtraBackup 2.4.14之前,Swift是将备份存储在云存储中的唯一选择。在2.4.14版本之后,xbcloud还支持Amazon S3,MinIO和Google Cloud Storage。还支持其他与Amazon S3兼容的存储,例如Wasabi或Digital Ocean Spaces。
使用方式如下:
$ xtrabackup --backup --stream=xbstream --target-dir=/tmp | xbcloud \
put [options] <name>
创建备份并备份到Amazon S3
$ xtrabackup --backup --stream=xbstream --extra-lsndir=/tmp --target-dir=/tmp | \
xbcloud put --storage=s3 \
--s3-endpoint='s3.amazonaws.com' \
--s3-access-key='YOUR-ACCESSKEYID' \
--s3-secret-key='YOUR-SECRETACCESSKEY' \
--s3-bucket='mysql_backups'
--parallel=10 \
${date -I}-full_backup
使用Amazon S3时,以下选项可用:
Option | Details |
---|---|
–s3-access-key | 用于AWS访问密钥ID |
–s3-secret-key | 用于AWS秘密访问密钥 |
–s3-bucket | 使用的AWS存储桶名称 |
–s3-region | 用于指定AWS区域。默认值为us-east-1 |
–s3-api-version = <AUTO|2|4> | 选择签名算法。默认值为AUTO。在这种情况下,xbcloud将进行探测。 |
–s3-bucket-lookup = <AUTO|PATH|DNS> | 指定使用bucket.endpoint.com还是endpoint.com/bucket*样式请求。默认值为AUTO。在这种情况下,xbcloud将进行探测。 |
使用MinIO创建完整备份
$ xtrabackup --backup --stream=xbstream --extra-lsndir=/tmp --target-dir=/tmp | \
xbcloud put --storage=s3 \
--s3-endpoint='play.minio.io:9000' \
--s3-access-key='YOUR-ACCESSKEYID' \
--s3-secret-key='YOUR-SECRETACCESSKEY' \
--s3-bucket='mysql_backups'
--parallel=10 \
${date -I}-full_backup
配置文件:
不经常更改的参数可以存储在my.cnf
或自定义配置文件中。以下示例是[xbcloud]
组下的配置选项模板:
[xbcloud]
storage=s3
s3-endpoint=http://localhost:9000/
s3-access-key=minio
s3-secret-key=minio123
s3-bucket=backupsx
s3-bucket-lookup=path
s3-api-version=4
获取备份:
$ xbcloud get s3://operator-testing/bak22 ...
在此示例中,s3表示存储类型,operator-testing
是存储桶名称,bak22
是备份名称。此快捷方式扩展如下:
$ xbcloud get --storage=s3 --s3-bucket=operator-testing bak22 ...
附加参数:
xbcloud接受可以与任何存储类型一起使用的其他参数。--md5参数计算备份块的MD5哈希值。结果存储在遵循backup_name.md5模式的文件中。
$ xtrabackup --backup --stream=xbstream \
--parallel=8 2>backup.log | xbcloud put s3://operator-testing/bak22 \
--parallel=8 --md5 2>upload.log
可以使用--header
参数在指定客户密钥时使用服务器端加密传递附加的HTTP标头。
使用–header
进行AES256
加密的示例
$ xtrabackup --backup --stream=xbstream --parallel=4 | \
xbcloud put s3://operator-testing/bak-enc/ \
--header="X-Amz-Server-Side-Encryption-Customer-Algorithm: AES256" \
--header="X-Amz-Server-Side-Encryption-Customer-Key: CuStoMerKey=" \
--header="X-Amz-Server-Side-Encryption-Customer-Key-MD5: CuStoMerKeyMd5==" \
--parallel=8
使用Amazon S3还原:
$ xbcloud get s3://operator-testing/bak22 \
--s3-endpoint=https://storage.googleapis.com/ \
--parallel=10 2>download.log | xbstream -x -C restore --parallel=8
增量备份:
首先,需要进行增量备份所基于的完整备份:
xtrabackup --backup --stream=xbstream --extra-lsndir=/storage/backups/ \
--target-dir=/storage/backups/ | xbcloud put \
--storage=swift --swift-container=test_backup \
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ --parallel=10 \
full_backup
然后,可以进行增量备份:
$ xtrabackup --backup --incremental-basedir=/storage/backups \
--stream=xbstream --target-dir=/storage/inc_backup | xbcloud put \
--storage=swift --swift-container=test_backup \
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ --parallel=10 \
inc_backup
Preparing增量备份
要Preparing备份,首先需要下载完整备份:
$ xbcloud get --swift-container=test_backup \
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ --parallel=10 \
full_backup | xbstream -xv -C /storage/downloaded_full
下载完整备份后,应做好以下准备:
$ xtrabackup --prepare --apply-log-only --target-dir=/storage/downloaded_full
准备完整备份后,可以下载增量备份
$ xbcloud get --swift-container=test_backup \
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ --parallel=10 \
inc_backup | xbstream -xv -C /storage/downloaded_inc
下载增量备份后,可以通过运行以下内容进行准备
$ xtrabackup --prepare --apply-log-only \
--target-dir=/storage/downloaded_full \
--incremental-dir=/storage/downloaded_inc
$ xtrabackup --prepare --target-dir=/storage/downloaded_full
部分下载云备份
如果不想下载整个备份来还原特定的数据库,则可以仅指定要还原的表
$ xbcloud get --swift-container=test_backup
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ full_backup \
ibdata1 sakila/payment.ibd \
> /storage/partial/partial.xbs
$ xbstream -xv -C /storage/partial < /storage/partial/partial.xbs
该命令将从完整备份中仅下载ibdata1
和sakila/payment.ibd
表
例子
搭建MinIO
[root@localhost ~]# mkdir /data/aws_s3
[root@localhost ~]# wget https://dl.minio.io/server/minio/release/linux-amd64/minio
[root@localhost ~]# chmod 755 /usr/local/bin/minio
[root@localhost ~]# minio server /data/aws_s3
简单几步,已经搭建好MinIO服务器,默认端口9000,可以通过浏览器访问,AccessKey和SecretKey在启动时已经输出到屏幕。
浏览器打开后,填入两个Key,就可以顺利进入。
MinIO点击右下角的“+”,可以创建bucket和上传文件,图中是已经创建好两个bucket。
MinIO支持分布式存储,可以可以用来搭建分布式存储系统 GlusterFS,这里只是做用单机做测试,不再赘述。
备份到MinIO
下载好最新的xtrabackup(这里用的是2.4.18),就可以开始备份了。
./xtrabackup --defaults-file=/etc/my.cnf --backup --stream=xbstream \
--target-dir=/tmp/ --extra-lsndir=/tmp/ \
--host=127.0.0.1 --port=6666 --user=root --password=changeme | \
./xbcloud put --storage=s3 \
--s3-endpoint='http://localhost:9000' \
--s3-access-key='minioadmin' \
--s3-secret-key='minioadmin' \
--s3-bucket='6666' \
--parallel=10 \
6666-${date -I}-full_backup
当看到类似
191221 16:54:14 completed OK!
191221 16:54:14 ./xbcloud: Upload completed.
代表备份成功
完。