Spark SQL之External DataSource外部数据源(一)示例
一、Spark SQL External DataSource简介
随着Spark1.2的发布,Spark SQL开始正式支持外部数据源。Spark SQL开放了一系列接入外部数据源的接口,来让开发者可以实现。
这使得Spark SQL支持了更多的类型数据源,如json, parquet, avro, csv格式。只要我们愿意,我们可以开发出任意的外部数据源来连接到Spark SQL。之前大家说的支持HBASE,Cassandra都可以用外部数据源的方式来实现无缝集成。
(Ps: 关于External Datasource源码解析篇请移步至:Spark SQL之External DataSource外部数据源(二)源码分析 http://blog.csdn.net/oopsoom/article/details/42064075)
二、External DataSource
拿Spark1.2的json为例,它支持已经改为了实现了外部数据源的接口方式。所以除了先前我们操作json的API,又多了一种DDL创建外部数据源的方式。
parquetFile的操作方式也如下类似,就不一一列举了。
2.1 SQL方式 CREATE TEMPORARY TABLE USING OPTIONS
在Spark1.2之后,支持了一种CREATE TEMPORARY TABLE USING OPTIONS的DDL语法来创建外部数据源的表。
CREATE TEMPORARY TABLE jsonTable USING org.apache.spark.sql.json OPTIONS ( path ‘/path/to/data.json‘ )
1、操作示例:
我们拿example下people.json文件来做示例。
shengli-mac$ cat /Users/shengli/git_repos/spark/examples/src/main/resources/people.json {"name":"Michael"} {"name":"Andy", "age":30} {"name":"Justin", "age":19}2、DDL创建外部数据源表jsonTable:
14/12/21 16:32:14 INFO repl.SparkILoop: Created spark context.. Spark context available as sc. scala> import org.apache.spark.sql.SQLContext import org.apache.spark.sql.SQLContext scala> val sqlContext = new SQLContext(sc) sqlContext: org.apache.spark.sql.SQLContext = org.apache.spark.sql.SQLContext@7be62956 scala> import sqlContext._ import sqlContext._ //创建jsonTable外部数据源表,并且指定其数数据源文件是people.json这个json文件,同时指定使用org.apache.spark.sql.json该类型的隐式转化类(这个后续文章会介绍) scala> val jsonDDL = s""" | |CREATE TEMPORARY TABLE jsonTable | |USING org.apache.spark.sql.json | |OPTIONS ( | | path ‘file:///Users/shengli/git_repos/spark/examples/src/main/resources/people.json‘ | |)""".stripMargin jsonDDL: String = " CREATE TEMPORARY TABLE jsonTable USING org.apache.spark.sql.json OPTIONS ( path ‘file:///Users/shengli/git_repos/spark/examples/src/main/resources/people.json‘ )" scala> sqlContext.sql(jsonDDL).collect() //创建该外部数据源表jsonTable 14/12/21 16:44:27 INFO scheduler.DAGScheduler: Job 0 finished: reduce at JsonRDD.scala:57, took 0.204461 s res0: Array[org.apache.spark.sql.Row] = Array()
我们来看下该schemaRDD:
scala> val jsonSchema = sqlContext.sql(jsonDDL) jsonSchema: org.apache.spark.sql.SchemaRDD = SchemaRDD[7] at RDD at SchemaRDD.scala:108 == Query Plan == == Physical Plan == ExecutedCommand (CreateTableUsing jsonTable, org.apache.spark.sql.json, Map(path -> file:///Users/shengli/git_repos/spark/examples/src/main/resources/people.json))
ExecutedCommand来取把数据用spark.sql.json的方式从path加载到jsonTable中。涉及到得类是CreateTableUsing,后续源码分析会讲到。
各阶段执行计划情况:
scala> sqlContext.sql("select * from jsonTable").queryExecution res6: org.apache.spark.sql.SQLContext#QueryExecution = == Parsed Logical Plan == ‘Project [*] ‘UnresolvedRelation None, jsonTable, None == Analyzed Logical Plan == Project [age#0,name#1] Relation[age#0,name#1] JSONRelation(file:///Users/shengli/git_repos/spark/examples/src/main/resources/people.json,1.0) == Optimized Logical Plan == Relation[age#0,name#1] JSONRelation(file:///Users/shengli/git_repos/spark/examples/src/main/resources/people.json,1.0) == Physical Plan == PhysicalRDD [age#0,name#1], MapPartitionsRDD[27] at map at JsonRDD.scala:47 Code Generation: false == RDD ==
至此,创建加载外部数据源到Spark SQL已经完成。
3、SQL查询方式:
scala> sqlContext.sql("select * from jsonTable") 21 16:52:13 INFO spark.SparkContext: Created broadcast 6 from textFile at JSONRelation.scala:39 res2: org.apache.spark.sql.SchemaRDD = SchemaRDD[20] at RDD at SchemaRDD.scala:108 == Query Plan == == Physical Plan == PhysicalRDD [age#2,name#3], MapPartitionsRDD[24] at map at JsonRDD.scala:47
执行查询:
scala> sqlContext.sql("select * from jsonTable").collect() res1: Array[org.apache.spark.sql.Row] = Array([null,Michael], [30,Andy], [19,Justin])
2.2 API方式
sqlContext.jsonFile
scala> val json = sqlContext.jsonFile("file:///Users/shengli/git_repos/spark/examples/src/main/resources/people.json") scala> json.registerTempTable("jsonFile") scala> sql("select * from jsonFile").collect() res2: Array[org.apache.spark.sql.Row] = Array([null,Michael], [30,Andy], [19,Justin])
三、总结
总的来说,Spark SQL 在努力的向各种数据源靠拢,希望让Spark SQL能和其它许多类型的数据源的集成。
Spark SQL提供的了一种创建加载外部数据源表的DDL语法:CREATE TEMPORARY TABLE USING OPTIONS
Spark SQL对外开放了一系列的扩展接口,能够通过实现这些接口,来实现对不同的数据源接入,如avro, csv, parquet,json, etc......
——THE END——
原创文章,转载请注明出自:http://blog.csdn.net/oopsoom/article/details/42061077
郑重声明:本站内容如果来自互联网及其他传播媒体,其版权均属原媒体及文章作者所有。转载目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,也不构成任何其他建议。