1.相同hadoop版本同步數據
hadoop distcp -skipcrccheck -update -m 20 hdfs://dchadoop002.dx:8020/user/dc/warehouse/test /user/dc/warehouse/test
2.不同hadoop版本同步數據
hadoop distcp -skipcrccheck -update -m 20 hftp://ns1/user/test /user/dc/test
參數:
-m 表示并發數
-skipcrccheck 跳過hdfs校驗
-update 更新文件