首页 > 其他 > 详细

统计hive库表在具体下所有分区大小

时间:2018-12-20 18:28:12      阅读:727      评论:0      收藏:0      [点我收藏+]

 

 

1 查询具体表分区大小,以字节展示

hadoop fs -du  /user/hive/warehouse/treasury.db/dm_user_excercise  > dm_user_excercise.txt

 

2 定义shell脚本:

#!/bin/bash
#

size18=0
size17=0
size16=0


filename=$1
echo $filename


while read line
do


num=` echo $line | cut -d " " -f 1`
#echo $num



if  [[ $line =~ "2018-" ]] ; then
   let size18=$size18+$num
elif [[ $line =~ "2017-" ]] ; then   
   let size17=$size17+$num
elif [[ $line =~ "2016-" ]] ; then   
   let size16=$size16+$num
else
   echo "2018 2017 2016年之外的分区" 
   echo $line    
fi

done < $filename                   

let size18=$size18/1024/1024/1024
let size17=$size17/1024/1024/1024
let size16=$size16/1024/1024/1024

echo "2018分区表大小G: "$size18
echo "2017分区表大小G: "$size17
echo "2016分区表大小G: "$size16

 

3 调用命令:

sh filter5.sh  dm_user_excercise.txt 

统计hive库表在具体下所有分区大小

原文:https://www.cnblogs.com/chengjianxiaoxue/p/10150632.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!