SeaTunnel 、DataX 、Sqoop、Flume、Flink CDC 对比

阅读 14

2024-01-18

场景1:如Sqoop在导出hdfs数据到Mysql时,某个字段过长导致任务失败,该错误记录之前的数据正常导入,之后的数据无法导入。如何保证错误发生后数据回滚?

场景2:如Sqoop在导出hdfs数据到Mysql时,某个字段重复导致主键冲突,该错误记录之前的数据正常导入,之后的数据无法导入。如何保证错误发生后数据回滚?

  • 采用staging-table,临时表策略,创建一个临时表要和主表结构一致,数据为空即可,这样会先往临时表写,如果写入过程异常了就会删除临时表数据,否则合并到主表

  • sqoop export \
    --connect jdbc:mysql://172.16.10.155:8306/dmp \
    --username shurong --password Shurong@202205 --table staging \
    --export-dir /warehouse/tablespace/managed/hive/staging/delta_0000001_0000001_0000 \ 
    --columns name,age \
    --input-fields-terminated-by '\001' \
    --staging-table staging_tmp \
    --clear-staging-table

     

精彩评论(0)

0 0 举报