今天有安装了一下教程上Spark的Kafka作为Spark的数据源，看教程看不懂是干什么的，但是在教程的帮助下安装上了Kafka
然后我有下载了Eclipse可以编写Spark应用程序，安装插件安装了很久，然后测试了一下可以使用
然后我有解决了之前实验四的一些问题，2和3独立编程中sbt打包一直失败，后来发现
2.编写独立应用程序实现数据去重
对于两个输入文件 A 和 B，编写 Spark 独立应用程序，对两个文件进行合并，并剔除其 中重复的内容，得到一个新文件 C。下面是输入文件和输出文件的一个样例，供参考。 输入文件 A 的样例如下：
20170101 x 20170102 y 20170103 x 20170104 y 20170105 z 20170106 z 输入文件 B 的样例如下：
20170101 y 20170102 y 20170103 x 20170104 z 20170105 y 根据输入的文件 A 和 B 合并得到的输出文件 C 的样例如下： 20170101 x 20170101 y 20170102 y
中代码路径应该有两个 val dataFile1 = "file:///usr/local/spark/mycode/remdup/data1.txt,file:///usr/local/spark/mycode/remdup/data2.txt"
然后就完成了，输出的文件在hdfs里
跟这个一样
原文：https://www.cnblogs.com/zlj843767688/p/12272959.html