欢迎投稿

今日深度:

hive数据迁移,

hive数据迁移,


项目中需要把开发环境中的表与数据迁移到生产环境,Hive中没有提供直接工具,但是可以利用hive提供的export/import 工具实现批量同步。

具体使用参考 ImportExport

1. 设置默认需要导出的hive数据库
vi ~/.hiverc use logbase; 2. 创建数据临时目录
hdfs dfs -mkdir /tmp/hive-export
3.生成导出数据脚本
hive -e "show tables " | awk '{printf "export table %s to @/tmp/hive-export/%s@;\n",$1,$1}' | sed "s/@/'/g" > export.hql 手工去掉第一行(因为第一行是tab_name,不是实际表)
4.手工导出数据到hdfs
hive -f export.hql
5. 下载hdfs数据到本地并传送到目标hadoop集群的/tmp/hive-export 目录
hdfs dfs -get /tmp/hive-export/*
hdfs dfs -put * /tmp/hive-export
 7.构造导入语句 cp export.sql import.sql sed -i 's/export table/import table/g' import.sql sed -i 's/ to / from /g' import.sql
8.导入数据 (第5步上传的路径一定要与导出的路径一致,如果目标数据库不是default,需要编辑目标集群的 ~/.hiverc文件)
hive -f import.sql

www.htsjk.Com true http://www.htsjk.com/hive/37855.html NewsArticle hive数据迁移, 项目中需要把开发环境中的表与数据迁移到生产环境,Hive中没有提供直接工具,但是可以利用hive提供的export/import 工具实现批量同步。 具体使用参考  ImportExport 1. 设置...
相关文章
    暂无相关文章
评论暂时关闭