Mysql
 sql >> Cơ Sở Dữ Liệu >  >> RDS >> Mysql

Có thể đọc dữ liệu MongoDB, xử lý nó bằng Hadoop và xuất nó thành RDBS (MySQL) không?

Một số điều cần lưu ý:

  1. Không thể xuất dữ liệu từ MongoDB sang Hadoop bằng Sqoop. Điều này là do Sqoop sử dụng JDBC cung cấp API cấp cuộc gọi cho Cơ sở dữ liệu dựa trên SQL , nhưng MongoDB không phải là cơ sở dữ liệu dựa trên SQL . Bạn có thể xem «Trình kết nối MongoDB dành cho Hadoop» để thực hiện công việc này. Trình kết nối có sẵn trên GitHub . (Chỉnh sửa:như bạn đã chỉ ra trong bản cập nhật của mình.)

  2. Xuất khẩu Sqoop không được thực hiện trong một giao dịch theo mặc định. Thay vào đó, theo tài liệu Sqoop :

  3. «Trình kết nối MongoDB dành cho Hadoop» dường như không bắt buộc quy trình làm việc bạn mô tả. Theo tài liệu:

  4. Thật vậy, theo như tôi hiểu từ «Trình kết nối MongoDB dành cho Hadoop»:ví dụ , có thể chỉ định org.apache.hadoop.mapred.lib.db.DBOutputFormat vào công việc Hadoop MapReduce của bạn để ghi đầu ra vào cơ sở dữ liệu MySQL. Theo ví dụ từ kho lưu trữ trình kết nối:

    job.setMapperClass( TokenizerMapper.class );
    job.setCombinerClass( IntSumReducer.class );
    job.setReducerClass( IntSumReducer.class );
    job.setOutputKeyClass( Text.class );
    job.setOutputValueClass( IntWritable.class );
    job.setInputFormatClass( MongoInputFormat.class );
    /* Instead of:
     * job.setOutputFormatClass( MongoOutputFormat.class );
     * we use an OutputFormatClass that writes the job results 
     * to a MySQL database. Beware that the following OutputFormat 
     * will only write the *key* to the database, but the principle
     * remains the same for all output formatters
     */
    job.setOutputFormatClass( DBOutputFormat.class );
    


  1. Database
  2.   
  3. Mysql
  4.   
  5. Oracle
  6.   
  7. Sqlserver
  8.   
  9. PostgreSQL
  10.   
  11. Access
  12.   
  13. SQLite
  14.   
  15. MariaDB
  1. Bạn sử dụng mệnh đề WITH trong MySQL như thế nào?

  2. Cách thực hiện sao lưu gia tăng trong Mysql

  3. MySQL Workbench:Lỗi trong truy vấn (1064):Lỗi cú pháp gần 'VISIBLE' ở dòng 1

  4. Truy vấn MySql GIỮA hai Chuỗi đôi khi không hoạt động

  5. Cách bảo mật MySQL:Phần thứ hai