Redis
 sql >> Cơ Sở Dữ Liệu >  >> NoSQL >> Redis

Chuyển đổi DataFrame sang RDD [(Chuỗi, Chuỗi)]

Bạn có thể sử dụng df.map (row => ...) để chuyển đổi khung dữ liệu thành RDD nếu bạn muốn ánh xạ một hàng thành một phần tử RDD khác.

Ví dụ:

val df = Seq(("table1",432),
      ("table2",567),
      ("table3",987),
      ("table1",789)).
      toDF("tablename", "Code").toDF()

    df.show()

    +---------+----+
|tablename|Code|
+---------+----+
|   table1| 432|
|   table2| 567|
|   table3| 987|
|   table1| 789|
+---------+----+

    val rddDf = df.map(r => (r(0), r(1))).rdd // Type:RDD[(Any,Any)]

    OR

    val rdd = df.map(r => (r(0).toString, r(1).toString)).rdd  //Type: RDD[(String,String)]

Vui lòng tham khảo https://community.hortonworks.com/questions/106500/error-in-spark-streaming-kafka-integration-structu.html về AnalysisException:Các truy vấn có nguồn phát trực tuyến phải được thực thi bằng writeStream.start ()

Bạn cần đợi kết thúc truy vấn bằng cách sử dụng truy vấn. awaitTermination () Để ngăn quá trình thoát ra khi truy vấn đang hoạt động.




  1. Redis
  2.   
  3. MongoDB
  4.   
  5. Memcached
  6.   
  7. HBase
  8.   
  9. CouchDB
  1. Có phải lần nào master cũng được redis instance với mức độ ưu tiên nhỏ nhất không?

  2. Redis dưới ASP cổ điển (VBScript)

  3. Tách một chuỗi theo một ký tự trong Lua

  4. Tôi có nên chia sẻ kết nối Redis giữa các tệp / mô-đun không?

  5. Hiredis đang chờ tin nhắn