首页 > 其他 > 详细

hive transform函数介绍

时间:2015-11-05 11:55:56      阅读:244      评论:0      收藏:0      [点我收藏+]

hive 提供了通过脚本定制 mapper 和 reducer 的功能,这一功能需要用到 transform 函数。

默认情况下, transform 函数中带入的参数会被用 ‘\t 分隔开,并且以字符串对方式传入到用户脚本中。输入中 NULL 值会被转换成字符串 ‘\N‘。脚本的输出使用的分隔符也是 ‘\t‘,同时 ‘\N‘ 会再次被转化为 NULL。需要注意的是,当 transform 当参数中含有 ‘\t‘ 的时候,用户需要手动处理这些 ‘\t‘ 以免脚本里面出错。这里是一个使用样例:

FROM (
  FROM pv_users
  TRANSFORM(pv_users.userid, pv_users.date)
  USING map_script
  AS dt, uid
  CLUSTER BY dt) map_output
INSERT OVERWRITE TABLE pv_users_reduced
  TRANSFORM(map_output.dt, map_output.uid)
  USING reduce_script
  AS date, count;

‘map_script‘ 的输出,使用 ‘\t‘ 分割开以后,对应到 dt 和 uid 两个字段。默认情况下,如果不指定类型,默认认为是 string 类型的。

这样一来,就通过脚本(shell、python等)实现了UDF的功能。

hive transform函数介绍

原文:http://www.cnblogs.com/cbffr/p/4938960.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!