大数据之spark_spark SQL的建表语句

1.通过RDD+case class创建DataFrame

package com.doit.spark.day10

import org.apache.spark.rdd.RDD
import org.apache.spark.sql.{
   
   DataFrame, SparkSession}

object CaseClassCreateDataFrame {
   
   
  def main(args: Array[String]): Unit = {
   
   
    //构建SparkSession
    val sparkSession: SparkSession = SparkSession.builder().appName(this.getClass().getSimpleName).master("local[*]").getOrCreate()
    //使用RDD读取切分数据,放入case class中
    val lineRDD: RDD[String] = sparkSession.sparkContext.textFile("C:\\Users\\WoBo\\Desktop\\user.txt")

    val userRDD: RDD[User] = lineRDD.map(x => {
   
   
      val arr: Array[String] = x.split(",")
      val name: String = arr(0)
      val age: Int = arr(1).toInt
      val fv: Double = arr(2).toDouble
      User(name, age, fv)
    })

    //通过RDD创建DataFrame
    val dataFrame: DataFrame = sparkSession.createDataFrame(userRDD)
    //创建好DataFrame之后,就能通过RDD获取到表格结构信息和表内数据
    dataFrame.printSchema() //打印表结构
    dataFrame.show()  //展示表内数据,默认show前20行
  }
}
case class User(name:String,age:Int,fv :Double)

2.通过RowRDD+StructType创建DataFrame

package com.doit.spark.day10

import org.apache.spark.rdd.RDD
import org.apache.spark.sql.types.{
   
   DataTypes, StructField, StructType}
import org.apache.spark.sql.{
   
   DataFrame, Row, SparkSession}

object DataStructTypeCreateDataFrame {
   
   
  def main(args: Array[String]): Unit = {
   
   
    //构建SparkSession
    val sparkSession: SparkSession = SparkSession.builder().appName(this.getClass().getSimpleName).master("local[*]").getOrCreate()
    //使用RDD读取切分数据,放入Row中
    val lineRDD: RDD[String] = sparkSession.sparkContext.textFile("C:\\Users\\WoBo\\Desktop\\user.txt")
    val rowRDD: RDD[Row] = lineRDD.map(x => {
   
   
      val arr: Array[String] = x.split(",")
      val name: String = arr(0)
      val age: Int = arr<
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值