spark exchange2.0无法生成sst文件

  1. 下面的问题可以参考帖子 使用exchange并发 spark-submit --master "local[16]" 报错 的解决方法,这类问题在Hadoop的社区有一些解决方式可借鉴,具体解决步骤可以去google下,我就不搬运了哈~
  1. 2.0的exchange生成的sst文件的规则是:
    位于hdfs上,且路径为/namespace/partition_number/{part}-{task}.sst
    ps: 查看1.0的exchange代码会发现,1.0的exchange生成的sst文件的实际命名不是{TYPE}-${FIRST_KEY_IN_THIS_FILE}, 应该是文档未更新。

  2. 当前版本的 SST导入未正式发布,exchange生成的SST文件还不能应用到后续的download和ingest功能。