spark exchange2.0无法生成sst文件

我试了下,已经可以跑通了。但是有个问题是 edge只导入了正向边,没有导入反向边。这个问题怎么解决啊?

这个递交给文档同学 @RandomJoe

hi,有啥更新吗? @RandomJoe

按现在的设计,

如果数据文件中有a->b,导入的时候只会导入a->b不会主动导入b->a,

@steam 1.0中exchange生成的sst文件的命名 格式是 $localPath/$currentPart-$taskID.sst 由current part 和 task ID组成的

不会主动导入 b->a, 是不是可以提供一个接口得到 b->a的key,重新跑一次,导入反向边?

感觉是不方便, 我们会记录一下, 过两天讨论, 您也可以提个 issue.

OK, issue: Migrate data from sst files only adds forward edge · Issue #28 · vesoft-inc/nebula-spark-utils · GitHub

1 个赞

我自己做了Fix,测试OK。

https://github.com/vesoft-inc/nebula-spark-utils/pull/30

1 个赞

:thinking: 好像冲突了。

冲突已解决。

1 个赞

@nicole 有 pr 啦

好的,等client的pr合入后 这个pr再合, 否则其他用户拉取新代码会编译失败的。

默认情况 edge 不会导入反向边

我想这个地方需要一个参数来控制一下 是否将反向边一起导入

“3.当前版本的 SST导入未正式发布,exchange生成的SST文件还不能应用到后续的download和ingest功能”

请问现在ingest功能发布了吗?
我在这里下载的nebula-exchange-2.0.1.jar, 在hdfs上生成了sst,但数据没有导入nebula
https://repo1.maven.org/maven2/com/vesoft/nebula-exchange/2.0.1/

你好,SST导入功能在下一版本中发布,你可以使用exchange的SNAPSHOT版本进行sst文件生成,并在NebulaGraph中执行download和ingest完成数据导入。

有几项前提条件:

  1. 在nebula graphd配置文件中配置 ws_meta_http_port
  2. 在nebula metad配置文件中配置ws_storage_http_port
  3. 确保只有一个metad服务启动,若有多个,可以临时关闭其他metad服务,只保留一个。
1 个赞

请问sst导入的功能发布了吗?

没有

由于原帖非你所有,且原帖首发时间距离现在较久了,按照 论坛帖子自动关闭制度 (最后更新于 2021.06.07) 所说的,这边先关闭帖子了,sst 的功能发布情况,你可以关注下论坛的产品公告 产品公告 - NebulaGraph 了解最近的产品动态,也可以关注下我们的视频号,会有功能发布预告