insert float类型32.1234567

提问参考模版:

  • nebula 版本:3.6,lite级

  • 部署方式:单机

  • 安装方式:Docker

  • 是否上生产环境:N

  • 硬件信息

  • 问题的具体描述
    insert float类型,32.1234567,match(v:自动创建实体) return v;
    展示为32.12345504760742
    为什么前6位有效小数都不准确呢?

浮点型是会有精度的问题

image
你好,我看官网这个float精度写的是6-7位,我怎么判断我超出精度了吗?还是啥意思呢?

查了下,可以学习下这个。感觉说得还算是比较详细的了。

6-7 位应该是包含了整数部分的

此话题已在最后回复的 30 天后被自动关闭。不再允许新回复。