sql >> Database teknologi >  >> NoSQL >> Redis

DataFrame til RDD[(String, String)] konvertering

Du kan bruge df.map(row => ...) til at konvertere datarammen til en RDD, hvis du vil tilknytte en række til et andet RDD-element.

For eksempel:

val df = Seq(("table1",432),
      ("table2",567),
      ("table3",987),
      ("table1",789)).
      toDF("tablename", "Code").toDF()

    df.show()

    +---------+----+
|tablename|Code|
+---------+----+
|   table1| 432|
|   table2| 567|
|   table3| 987|
|   table1| 789|
+---------+----+

    val rddDf = df.map(r => (r(0), r(1))).rdd // Type:RDD[(Any,Any)]

    OR

    val rdd = df.map(r => (r(0).toString, r(1).toString)).rdd  //Type: RDD[(String,String)]

Se venligst https://community.hortonworks.com/questions/106500/error-in-spark-streaming-kafka-integration-structu.html vedrørende AnalysisException:Forespørgsler med streamingkilder skal udføres med writeStream.start()

Du skal vente på afslutningen af ​​forespørgslen ved hjælp af forespørgsel.awaitTermination() For at forhindre processen i at afslutte, mens forespørgslen er aktiv.




  1. Hvilken SchemaType i Mongoose er bedst til tidsstempel?

  2. Betinget gruppering med $ findes inde i $cond

  3. Redis flere abonnenter

  4. MongoDb lukker ned med kode 100