博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
使用Azcopy在Azure上进行HBase的冷热备份还原
阅读量:5718 次
发布时间:2019-06-18

本文共 1779 字,大约阅读时间需要 5 分钟。

场景

 

HBase表TaskLog中有20.55G数据(20553078551Byte),目前存放在热存储中,现在要移至冷热储,并进行还原。

HBase目录:hbase/data/default

冷目录:Cold_Tasklog/TaskLog_20170817

其它:冷热两个存储账号的AccountName、AccountKey、ContainerName都已经准备好。

 

备份还原过程

 

1、  在Hot上

a)         disable ‘TaskLog’:执行hbase命令

b)         创建Container:backup

c)         将’TaskLog’目录下的文件复制到backup/ TaskLog_20170817下:Azcopy命令

AzCopy /Source:https://hotaccountname.blob.core.chinacloudapi.cn/hdptestjn/hbase/data/default/TaskLog /Dest:https://coldaccountname.blob.core.chinacloudapi.cn/backup/TaskLog_20170817 /SourceKey:hotaccountkey /DestKey:coldaccountkey /S

操作结束 后,TaskLog_20170817目录大小为20553078551Byte,同源文件

d)         将’TaskLog’文件复制到backup/下,进行备份(防止操作不成功):Azcopy命令

AzCopy /Source:https://hotaccountname.blob.core.chinacloudapi.cn/hdptestjn/hbase/data/default /Dest:https://hotaccountname.blob.core.chinacloudapi.cn/backup /SourceKey:hotaccountkey /DestKey:hotaccountkey /Pattern:TaskLog

 

2、  将Hot存储上的TaskLog目录,迁移到Cold存储上:Azcopy命令

AzCopy /Source:https://hotaccountname.blob.core.chinacloudapi.cn/hdptestjn/hbase/data/default/TaskLog /Dest:https://coldaccountname.blob.core.chinacloudapi.cn/hbasecold/Cold_Tasklog/TaskLog_20170817 /SourceKey:hotaccountkey /DestKey:coldaccountkey /S

 

3、  在Hot清空TaskLog:执行Hbase命令

Enable ‘TaskLog’

Truncate ‘TaskLog’

Disable ‘TaskLog’

此时数据清空,大小为0

 

4、  从Cold中还原:Azcopy命令

AzCopy /Source:https://coldaccountname.blob.core.chinacloudapi.cn/hbasecold/Cold_Tasklog/TaskLog_20170817 /Dest:https://hotaccountname.blob.core.chinacloudapi.cn/hdptestjn/hbase/data/default/TaskLog /SourceKey:coldaccountkey /DestKey:hotaccountkey /S

还原后的TaskLog数据量统计:20553078551Byte,同原始大小

 

5、  在Hot,启用TaskLog,检查数据:Hbase命令

Enable ‘TaskLog’

Scan ‘TaskLog’ ----0行

修复元数据:

hbase hbck -repair 'TaskLog'  -ignorePreCheckPermission  -fixMeta

时间较长。。。。。

修复后,数据可以查询了。

 

转载于:https://www.cnblogs.com/xianhan/p/7391369.html

你可能感兴趣的文章
New Year Permutation(Floyd+并查集)
查看>>
Qt编写输入法V2018超级终结版
查看>>
<context:component-scan>详解
查看>>
DS博客作业07--查找
查看>>
[JOI2017] サッカー (Soccer)
查看>>
Git 方法
查看>>
[Python] numpy.nonzero
查看>>
2016-11-29
查看>>
C#反射的坑
查看>>
css3 box-shadow阴影(外阴影与外发光)讲解
查看>>
时间助理 时之助
查看>>
nginx快速安装
查看>>
自定义转场动画
查看>>
英国征召前黑客组建“网络兵团”
查看>>
Silverlight 2.5D RPG游戏“.NET技术”技巧与特效处理:(十二)魔法系统
查看>>
[NPM] Run npm scripts in series
查看>>
vs2013修改书签(vs书签文件位置)
查看>>
BZOJ 1923: [Sdoi2010]外星千足虫 [高斯消元XOR]
查看>>
C语言学习笔记
查看>>
PHP 命令行模式实战之cli+mysql 模拟队列批量发送邮件(在Linux环境下PHP 异步执行脚本发送事件通知消息实际案例)...
查看>>