首页 > 数据库技术 > 详细

06 Spark SQL 及其DataFrame的基本操作

时间:2021-05-10 13:15:05      阅读:24      评论:0      收藏:0      [点我收藏+]

1.Spark SQL出现的 原因是什么?

目前关系数据库在大数据时代已经不能满足各种新增的用户需求。Spark SQL的出现,填补了这个鸿沟。首先,Spark SQL可以提供DataFrame API,可以对内部和外部各种数据源执行各种关系操作;其次,可以支持大量的数据源和数据分析算法,组合使用Spark SQL和Spark MLlib,可以融合传统关系数据库的结构化数据管理能力和机器学习算法的数据处理能力,有效满足各种复杂的应用需求。

 

2.用spark.read 创建DataFrame

 技术分享图片

 

 技术分享图片

 

 

3.观察从不同类型文件创建DataFrame有什么异同?

 txt文件创建的DataFrame数据没有结构而json文件创建的DataFrame数据有结构

 

4.观察Spark的DataFrame与Python pandas的DataFrame有什么异同?

技术分享图片

 

技术分享图片

 

06 Spark SQL 及其DataFrame的基本操作

原文:https://www.cnblogs.com/hjh062/p/14743213.html

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!