首页 > 编程语言 > 详细

Spark和Java API(一)local模式

时间:2021-06-10 14:04:41      阅读:22      评论:0      收藏:0      [点我收藏+]

spark的local模式

Local模式就是运行在一台计算机上的模式,Local 模式是最简单的一种Spark运行方式,它采用单节点多线程(CPU)方式运行, 通常就是用于在本机学习或者测试使用的。它可以通过以下的方式设置Master:

  • local:所有的计算都运行在一个线程中,没有任何的并行计算。

  • local[K]:这种方式可以指定用几个线程来计算,比如local[4],就是指定4个Worker线程。

  • local[*]:这种模式直接帮你按照CPU最多Core来设置线程数量了。

例子

进入spark的安装目录,比如D:\Software\spark-3.1.1-bin-hadoop2.7,执行求解Pi的蒙特卡洛方法:

bin\spark-submit --master local[2] --class org.apache.spark.examples.SparkPi examples\jars\spark-examples_2.12-3.1.1.jar 100

可以得到结果:
技术分享图片

Spark和Java API(一)local模式

原文:https://www.cnblogs.com/ralgo/p/14870578.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!