首页 > 移动平台 > 详细

sqoop导入hdfs时指定num-mappers参数

时间:2019-11-04 16:54:47      阅读:437      评论:0      收藏:0      [点我收藏+]

num-mappers可以指定mapper运行计算数量,当指定为1时,可以不用设置split-by参数,不指定num-mappers时,默认为4,当不指定或者num-mappers大于1时,需要指定split-by参数。例子如下:

使用查询语句(--e或--query)导入时,需要指定--split-by参数及--target-dir参数;
When importing query results in parallel, you must specify --split-by. Must specify destination with --target-dir.

 

sqoop import --connect  connect jdbc:mysql://114.215xx.xx.xx:3306/crawler_data \

--username test --password test  \

--e ‘select * from T_SQOOP_TEST where $CONDITIONS‘ --verbose --split-by  id --target-dir temp3 --m 1

 

sqoop导入hdfs时指定num-mappers参数

原文:https://www.cnblogs.com/zhnagqi-dream/p/11792612.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!