Redis
 sql >> база данни >  >> NoSQL >> Redis

Преобразуване от DataFrame в RDD[(String, String)].

Можете да използвате df.map(row => ...) за преобразуване на рамката от данни в RDD, ако искате да съпоставите ред с различен RDD елемент.

Например:

val df = Seq(("table1",432),
      ("table2",567),
      ("table3",987),
      ("table1",789)).
      toDF("tablename", "Code").toDF()

    df.show()

    +---------+----+
|tablename|Code|
+---------+----+
|   table1| 432|
|   table2| 567|
|   table3| 987|
|   table1| 789|
+---------+----+

    val rddDf = df.map(r => (r(0), r(1))).rdd // Type:RDD[(Any,Any)]

    OR

    val rdd = df.map(r => (r(0).toString, r(1).toString)).rdd  //Type: RDD[(String,String)]

Моля, вижте https://community.hortonworks.com/questions/106500/error-in-spark-streaming-kafka-integration-structu.html относно AnalysisException:Заявките с източници на поточно предаване трябва да се изпълняват с writeStream.start()

Трябва да изчакате прекратяването на заявката с помощта на query.awaitTermination() За да предотвратите излизането на процеса, докато заявката е активна.




  1. Redis
  2.   
  3. MongoDB
  4.   
  5. Memcached
  6.   
  7. HBase
  8.   
  9. CouchDB
  1. Node.js, Socket.io, Redis pub/sub голям обем, трудности с ниска латентност

  2. Spring boot + Redis - Генериране на странен ключ

  3. Как мога да се свържа сигурно с хостван от Heroku Redis от командния ред?

  4. Не може да се обвърже TCP слушател *:6379 с помощта на Redis в Windows

  5. Изчакване при изпълнение на SET {Key}, inst:0, mgr:Неактивен, опашка:2, qu=1, qs=1, qc=0, wr=1/1, in=0/0