
stod("-112.0707922"),为什么只能得到-112.071 。怎样才能不丢失精度。
1 KaoN 2017-07-15 16:52:54 +08:00 |
2 alqaz 2017-07-15 16:56:13 +08:00 via Android 自己写一个 |
3 mhjyzs OP @KaoN 嗯嗯,谢谢,但是还有个问题是但我设置了输出的精度后,发现经过 stod 转换后为什么数据不精确了,之后输出是-112.07079315185546875。 |
6 unavph 2017-07-15 20:29:25 +08:00 浮点数表示机制问题,误差几乎一定存在不可避免。 |
7 unavph 2017-07-15 20:39:47 +08:00 你的值是不是有问题,差的有点多,我试了一下是-112.07079219999999964 |