我们在hdfs的/data/join创建两个文件:
上传第一个文件名称为1.txt
内容第一列是日期,第二列uid(普通用户id)
?
上传第二个文件名称为2.txt
内容第一列是日期,第二列uid(普通用户id)
执行上传到hdfs:
hdfs命令行查询:
web控制台管理查询:
首先在命令行中设置日期格式:
然后声明两个case class:Register、Login
读取第一个文件(1.txt)并进行操作:
?
take操作:
该操作是首先读取文件的内容,然后以Tab键进行分词,然后以第二列为key,每一行的所有内容为Value构建起的Register作为Value的值;
?
读取第二个文件(2.txt)并进行操作:
take操作:
?
下面对文件执行join操作:
取出join操作的结果:
take结果:
?
或者把执行结果保存到HDFS:
到Web控制台上查看执行结果:
?
在hdfs查看一下其执行结果:
?
原文:http://stark-summer.iteye.com/blog/2183692