
1 gomars 2018 年 2 月 1 日 整数 |
2 lred 2018 年 2 月 1 日 |
3 sundev 2018 年 2 月 1 日 再加个方法,修复 toFixed 四舍五入的问题应该就齐活了! |
4 Mutoo 2018 年 2 月 1 日 操作数 1: 0.1000000000000000055511151231257827021181583404541015625 操作数 2: 0.200000000000000011102230246251565404236316680908203125 相加 结果:0.30000000000000004 答案为什么不是 0.3000000000000000444089209850062616169452667236328125 十进制高精度算法还是老老实实逐位运算比较靠谱 |
5 sundev 2018 年 2 月 1 日 @Mutoo 他的这个算法只能解决浮点数运算过程中精度丢失的问题,就是把浮点数转换为整数进行运算。但是转换后超过 16 位时,精度一样会丢失,这是 IEEE 754 标准中定义尾数部分只有 53 位决定的。 |
6 AV1 2018 年 2 月 1 日 @Mutoo 你的答案也不对吧 可以用 https://github.com/MikeMcl/bignumber.js BigNumber('0.1000000000000000055511151231257827021181583404541015625') .plus('0.200000000000000011102230246251565404236316680908203125') .toString(); 答案应该是 0.3000000000000000166533453693773481063544750213623046875 |
7 xieranmaya 2018 年 2 月 26 日 math.js http://mathjs.org/ |
8 Jobing 2022 年 11 月 5 日 可以采用 npm 的一个开源库解决:json-bn 。 |