提问参考模版:
nebula 版本:3.6,lite级
部署方式:单机
安装方式:Docker
是否上生产环境:N
硬件信息
问题的具体描述 insert float类型,32.1234567,match(v:自动创建实体) return v; 展示为32.12345504760742 为什么前6位有效小数都不准确呢?
自动创建实体
浮点型是会有精度的问题
你好,我看官网这个float精度写的是6-7位,我怎么判断我超出精度了吗?还是啥意思呢?
查了下,可以学习下这个。感觉说得还算是比较详细的了。
6-7 位应该是包含了整数部分的
此话题已在最后回复的 30 天后被自动关闭。不再允许新回复。