需要初始化kafka时增加properties属性。
kafkaParams.put("sasl.jaas.config", "xxxx required\n"+ " accessKey=\"xxxx\"\n"+ " securityKey=\"xxxxx\";");
换行,冒号,引号都不能少
注意kafka的依赖为:
<dependency>
<groupId>org.apache.kafka</groupId>
<artifactId>kafka-clients</artifactId>
<version>1.0.0</version>
</dependency>
同时要去掉spark-streaming-kafka中的kafka依赖
<!-- 去掉kafka 0.10.0.1 的依赖-->
<dependency>
<groupId>org.apache.spark</groupId>
<artifactId>spark-streaming-kafka-0-10_2.11</artifactId>
<version>2.3.1</version>
<exclusions>
<exclusion>
<groupId>org.apache.kafka</groupId>
<artifactId>kafka-clients</artifactId>
</exclusion>
</exclusions>
</dependency>
向spark集群提交消费kafka应用时kafka鉴权配置问题
原文:http://blog.51cto.com/zhengqidaxia/2133886