neo4j
2022 年4 月 19 日 08:48
1
大家好，做手动导入sst的时候遇到的几个问题，有了解过的，请帮忙回答
nebula 版本：3.0.2
部署方式：单机
安装方式：Docker
是否为线上版本：N
问题的具体描述
在nebula-console使用ingest命令导入sst文件失败.
sst文件保证是没有问题的，然后我把文件放到对应的storage节点的/data/storage/nebula/3/download目录了
（1）第一次没有目录，/data/storage/nebula/3/download，手动创建3/download，文件放到下面，执行ingest，然后立马查询，match (n:player) return count(n) 返回数量为0，ingest是否有延迟，大概多久？
I20220419 07:41:44.567314 176 NebulaStore.cpp:828] Ingesting extra file: /data/storage/nebula/3/download/1/1-189.sst
E20220419 07:41:44.572053 176 RocksEngine.cpp:426] Ingest Failed: IO error: No such file or directory: While open a file for appending: /data/storage/nebula/3/data/000150.sst: No such file or directory
E20220419 07:41:44.574631 176 StorageHttpIngestHandler.cpp:97] SSTFile Ingest Failed: E_UNKNOWN
E20220419 07:41:44.577844 176 StorageHttpIngestHandler.cpp:71] SSTFile ingest failed
（3）想问一下这个报错什么原因导致的？
1 个赞
neo4j
2022 年4 月 19 日 09:51
3
（1）我又新建了一个space，系统自动创建了文件夹目录：data/storage/nebula/新的空间id，下面存在data和wal文件夹，我在data/storage/nebula/新的空间id下新建download目录，把所有的sst文件拷贝进去。
但是查询还是没有查询到导入的数据。截止目前已经距离执行ingest，过了半个小时，查询还是查不到。
附细节：我这里保证sst文件没有问题的原因，是昨天下午测试这个步骤也没有成功，但是今天没有做任何操作，直接进入space查看，竟然可以查到昨天按步骤本应该导入的数据。
您在Ingest之后可以用show jobs命令看一下Ingest的进度。可能确实是因为您这边数据量比较大，所以它没有执行完。
neo4j
2022 年4 月 21 日 11:06
5
在测试手动导sst的过程中，引入了另外一个环境问题，我觉得这个可能是手动导sst文件，会出现的一个通用问题，希望帮忙排查一下问题出在哪里。
本地搭建环境参考的文档是这个：Nebula Exchange SST 2.x Hands-on Guide - siwei.io ，本地使用docker compose搭建了3个graphd、3个metad、3个storaged，用来测试导入sst
通过nebula-console创建了space，并在里面创建了schema，增加了索引，语句如下
//创建schema
CREATE TAG player(name string, age int);
//创建索引
CREATE TAG INDEX IF NOT EXISTS age_index ON player (age) COMMENT '年龄索引';
然后登陆nebula-docker-compose_storaged1_1，发现目录：/data/storage/nebula/，自动创建了spaceid的目录25，并且在文件夹25下面创建了data和wal两个系统文件
第二天打开容器，发现nebula-docker-compose_storaged1_1容器已经处于restarting状态，不断重启，
启动时storage的log日志报错如下
Log file created at: 2022/04/21 09:05:21
Running on machine: e2e5e79b25f5
Running duration (h:mm:ss): 0:00:00
Log line format: [IWEF]yyyymmdd hh:mm:ss.uuuuuu threadid file:line] msg
F20220421 09:05:21.001977 1 RocksEngine.cpp:398] Check failed: key.size() == sizeof(PartitionID) + sizeof(NebulaSystemKeyType) (12 vs. 8)
（1）希望大佬帮忙分析一下是什么原因导致的nebula-docker-compose_storaged1_1容器挂掉，是否因为我放置sst导致破坏了节点的数据？
wey
2022 年4 月 22 日 02:41
6
Exchange 的 sst 是针对给定的图空间生成的，我还不确定想做到跨空间（而且副本数不同）的情况下只是改一下目录 id 名字可以不以，看起来是不可以
neo4j
2022 年4 月 22 日 02:49
7
大佬，昨天我这边分析结果也是由于这份sst文件不是exchange针对当前空间生成的，所以导入冲突产生的失败。但是没有找到源码对应的位置，所以不太确定原理。
正在看nebula-exchange源码中，希望自己也找到答案
wey
2022 年4 月 22 日 03:00
8
我不是大佬，您这个用exchange来跨space导数据的方法不是 exchange 被设计出来的初衷，我还不懂 SST 的很多知识，但感觉上直接放进去应该不行，比如数据里 key 的部分有 part ID 这个信息，这在跨 space 的情况下已经无效了。
1 个赞
neo4j
2022 年4 月 22 日 03:12
9
感谢，我看文档的时候注意到这个设计图
本地部署使用的3.0的nebula，所以理解底层设计应该使用的是v3.x的最后一个，去掉tagID的结构
exchange对space1生成sst，对space2倒入这个sst
5个分片，3个副本，schema如下
CREATE SPACE IF NOT EXISTS space1 ( partition_num=5,replica_factor = 3,vid_type = FIXED_STRING(30)) COMMENT = 'space1';
10个分片，1个副本，schema如下
CREATE SPACE IF NOT EXISTS space2 ( partition_num=10,replica_factor = 1,vid_type = INT64) COMMENT = 'space2';
但是没有理解，上面报错这个具体原因，比如根据什么计算出来的,特别是12与8
Check failed: key.size() == sizeof(PartitionID) + sizeof(NebulaSystemKeyType) (12 vs. 8)
挂的原因就是生成的sst文件里面key不合法，大概说下原因：NebulaKeyType::kSystem, 后四个字节必须是 NebulaSystemKeyType 里的一个值。所以生成的sst里肯定有同时满足这个条件的……然后启动时候扫描这个内部的key，不符合预期，crash。
enum class NebulaKeyType : uint32_t {
kTag_ = 0x00000001,
kEdge = 0x00000002,
kIndex = 0x00000003,
kSystem = 0x00000004,
kOperation = 0x00000005,
kKeyValue = 0x00000006,
kVertex = 0x00000007,
kPrime = 0x00000008, // used in TOSS, if we write a lock succeed
kDoublePrime = 0x00000009, // used in TOSS, if we get RPC back from remote.
};
1 个赞
你这个是 system 的 key，exchange sst 只生产 tag 和 edge 的数据，和 system 没有关系。检查一下你 生成 sst 的机器，和运行 nebula 的机器，是不是都是大端或都是小端。
echo -n I | od -to2 | head -n1 | cut -f2 -d" " | cut -c6
需要先创建 space，按这个 space 生成 sst，再导入到这个 space 里。导入其他 space，即便导出成功，也是有可能查不出数据的。
原因：
1 个赞
neo4j
2022 年4 月 22 日 04:48
12
@HarrisChu @critical27 都是使用的docker容器，测试了一下容器环境都是属于小端
type: {
source: csv
sink: client
}
exchange 一直都不会生成系统的 key
看了下，数据量很少，插了 9 个带 tag 的点，2个不带 tag 的点？
没有系统的 key，你再想想看你环境里做了啥吧。
1 个赞
neo4j
2022 年4 月 22 日 09:06
16
假如我在大端机器上生成的sst文件，放到小端机器导入sst文件，是否会有问题？
neo4j
2022 年5 月 7 日 02:50
18
手动ingest数据sst需要注意，先测试client模式，这个比较简单使用限制 - Nebula Graph Database 手册 配置参数 - Nebula Graph Database 手册 exchange 3.0 的生成的sst只包含不带tagID的数据 https://github.com/vesoft-inc/nebula-exchange/issues/71 https://github.com/vesoft-inc/nebula-exchange/pull/49
感谢大佬们的回复，如果有不对的请帮忙指正，以上为本人操作具体实践结论。
1 个赞
wey
2022 年5 月 7 日 03:56
19
感谢 @neo4j ，看起来这里是有问题的，我们要看下 repartitionWithNebula: false 在什么情况下才可以使用，还是 false 时候有 bug。
。
。