DBA

Xtrabackup备份到S3

2019-12-21  本文已影响0人  mysia

使用方式

Xtrabackup从2.4.14版本开始,支持stream模式直接存储到文件系统(主要依赖xbcloud)。无需备份到本地后,再上传到文件系统

xbcloud的目的是从云中下载全部或部分xbstream存档并将其上传到云。同时不会覆盖相同名称的备份。xbcloud通过管道接收来自xbstream的输入,因此可以使用xtrabackup作为管道来调用它,以直接传输至云而无需本地存储。

xbcloud将每个块作为一个单独的对象存储,名称为backup_name / database / table.ibd.NNNNNNNNNNNNNNNNNNNNNNNN,其中NNN ...是文件中块的0填充序列号。xtrabackup和xbstream生成的块的大小更改为10M。

xbcloud具有三个基本操作:放置,获取和删除。通过这些操作,可以创建,存储,检索,还原和删除备份。xbcloud操作清楚地映射到AWS S3 API中的类似操作。

在Percona XtraBackup 2.4.14之前,Swift是将备份存储在云存储中的唯一选择。在2.4.14版本之后,xbcloud还支持Amazon S3,MinIO和Google Cloud Storage。还支持其他与Amazon S3兼容的存储,例如Wasabi或Digital Ocean Spaces。

使用方式如下:

$ xtrabackup --backup --stream=xbstream --target-dir=/tmp | xbcloud \
put [options] <name>

创建备份并备份到Amazon S3

$ xtrabackup --backup --stream=xbstream --extra-lsndir=/tmp --target-dir=/tmp | \
xbcloud put --storage=s3 \
--s3-endpoint='s3.amazonaws.com' \
--s3-access-key='YOUR-ACCESSKEYID' \
--s3-secret-key='YOUR-SECRETACCESSKEY' \
--s3-bucket='mysql_backups'
--parallel=10 \
${date -I}-full_backup

使用Amazon S3时,以下选项可用:

Option Details
–s3-access-key 用于AWS访问密钥ID
–s3-secret-key 用于AWS秘密访问密钥
–s3-bucket 使用的AWS存储桶名称
–s3-region 用于指定AWS区域。默认值为us-east-1
–s3-api-version = <AUTO|2|4> 选择签名算法。默认值为AUTO。在这种情况下,xbcloud将进行探测。
–s3-bucket-lookup = <AUTO|PATH|DNS> 指定使用bucket.endpoint.com还是endpoint.com/bucket*样式请求。默认值为AUTO。在这种情况下,xbcloud将进行探测。

使用MinIO创建完整备份

$ xtrabackup --backup --stream=xbstream --extra-lsndir=/tmp --target-dir=/tmp | \
xbcloud put --storage=s3 \
--s3-endpoint='play.minio.io:9000' \
--s3-access-key='YOUR-ACCESSKEYID' \
--s3-secret-key='YOUR-SECRETACCESSKEY' \
--s3-bucket='mysql_backups'
--parallel=10 \
${date -I}-full_backup

配置文件:
不经常更改的参数可以存储在my.cnf或自定义配置文件中。以下示例是[xbcloud]组下的配置选项模板:

[xbcloud]
storage=s3
s3-endpoint=http://localhost:9000/
s3-access-key=minio
s3-secret-key=minio123
s3-bucket=backupsx
s3-bucket-lookup=path
s3-api-version=4

获取备份:

$ xbcloud get s3://operator-testing/bak22 ...

在此示例中,s3表示存储类型,operator-testing是存储桶名称,bak22是备份名称。此快捷方式扩展如下:

$ xbcloud get --storage=s3 --s3-bucket=operator-testing bak22 ...

附加参数:
xbcloud接受可以与任何存储类型一起使用的其他参数。--md5参数计算备份块的MD5哈希值。结果存储在遵循backup_name.md5模式的文件中。

$ xtrabackup --backup --stream=xbstream \
--parallel=8 2>backup.log | xbcloud put s3://operator-testing/bak22 \
--parallel=8 --md5 2>upload.log

可以使用--header参数在指定客户密钥时使用服务器端加密传递附加的HTTP标头。

使用–header进行AES256加密的示例

$ xtrabackup --backup --stream=xbstream --parallel=4 | \
xbcloud put s3://operator-testing/bak-enc/ \
--header="X-Amz-Server-Side-Encryption-Customer-Algorithm: AES256" \
--header="X-Amz-Server-Side-Encryption-Customer-Key: CuStoMerKey=" \
--header="X-Amz-Server-Side-Encryption-Customer-Key-MD5: CuStoMerKeyMd5==" \
--parallel=8

使用Amazon S3还原:

$ xbcloud get s3://operator-testing/bak22 \
--s3-endpoint=https://storage.googleapis.com/ \
--parallel=10 2>download.log | xbstream -x -C restore --parallel=8

增量备份:
首先,需要进行增量备份所基于的完整备份:

xtrabackup --backup --stream=xbstream --extra-lsndir=/storage/backups/ \
--target-dir=/storage/backups/ | xbcloud put \
--storage=swift --swift-container=test_backup \
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ --parallel=10 \
full_backup

然后,可以进行增量备份:

$ xtrabackup --backup --incremental-basedir=/storage/backups \
--stream=xbstream --target-dir=/storage/inc_backup | xbcloud put \
--storage=swift --swift-container=test_backup \
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ --parallel=10 \
inc_backup

Preparing增量备份
要Preparing备份,首先需要下载完整备份:

$ xbcloud get --swift-container=test_backup \
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ --parallel=10 \
full_backup | xbstream -xv -C /storage/downloaded_full

下载完整备份后,应做好以下准备:

$ xtrabackup --prepare --apply-log-only --target-dir=/storage/downloaded_full

准备完整备份后,可以下载增量备份

$ xbcloud get --swift-container=test_backup \
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ --parallel=10 \
inc_backup | xbstream -xv -C /storage/downloaded_inc

下载增量备份后,可以通过运行以下内容进行准备

$ xtrabackup --prepare --apply-log-only \
--target-dir=/storage/downloaded_full \
--incremental-dir=/storage/downloaded_inc

$ xtrabackup --prepare --target-dir=/storage/downloaded_full

部分下载云备份
如果不想下载整个备份来还原特定的数据库,则可以仅指定要还原的表

$ xbcloud get --swift-container=test_backup
--swift-auth-version=2.0 --swift-user=admin \
--swift-tenant=admin --swift-password=xoxoxoxo \
--swift-auth-url=http://127.0.0.1:35357/ full_backup \
ibdata1 sakila/payment.ibd \
> /storage/partial/partial.xbs

$ xbstream -xv -C /storage/partial < /storage/partial/partial.xbs

该命令将从完整备份中仅下载ibdata1sakila/payment.ibd

例子

搭建MinIO

[root@localhost ~]# mkdir /data/aws_s3
[root@localhost ~]# wget  https://dl.minio.io/server/minio/release/linux-amd64/minio
[root@localhost ~]#  chmod  755  /usr/local/bin/minio
[root@localhost ~]# minio server  /data/aws_s3

简单几步,已经搭建好MinIO服务器,默认端口9000,可以通过浏览器访问,AccessKey和SecretKey在启动时已经输出到屏幕。

浏览器打开后,填入两个Key,就可以顺利进入。

MinIO

点击右下角的“+”,可以创建bucket和上传文件,图中是已经创建好两个bucket。

MinIO支持分布式存储,可以可以用来搭建分布式存储系统 GlusterFS,这里只是做用单机做测试,不再赘述。

备份到MinIO

下载好最新的xtrabackup(这里用的是2.4.18),就可以开始备份了。

./xtrabackup --defaults-file=/etc/my.cnf --backup --stream=xbstream  \
--target-dir=/tmp/ --extra-lsndir=/tmp/ \
--host=127.0.0.1 --port=6666 --user=root --password=changeme | \ 
./xbcloud put --storage=s3 \
--s3-endpoint='http://localhost:9000' \
--s3-access-key='minioadmin' \
--s3-secret-key='minioadmin' \
--s3-bucket='6666' \
--parallel=10 \
6666-${date -I}-full_backup

当看到类似

191221 16:54:14 completed OK!
191221 16:54:14 ./xbcloud: Upload completed.

代表备份成功

完。

上一篇 下一篇

猜你喜欢

热点阅读