微信号:ardays

介绍:android每日绝对干货

JavaScript四舍五入的那些坑

2017-12-06 14:36 徐亚光

前言

经常使用JavaScript用来处理数字的程序员都知道,JavaScript的Number.toFixed,这一函数,在格式化数字时,会自动进行四舍五入,例如:

10.125.toFixed(2) ---> "10.13"

但是在某些情况下,其四舍五入的结果,往往都不尽人意,例如:

10.145.toFixed(2) ---> "10.14"

那为何为出现上述这种情况,需要从进制谈起。

进制之谜

众所周知,计算机在设计之初,出于各方面角度考虑,最终采用二进制的格式来存储数据。而我们平时对于数字所惯用的进制是十进制。用二进制的格式来存储十进制的数据,必然会面临进制的转换,进制的转换就会面临精度的丢失。

例如,对于⅓,对于三进制的数来说是0.1,而对于十进制来说,是0.333(3循环)。那对于三个⅓相加,对于三进制来说,就是一(逢三进一),而对于十进制来说,就是0.999(9循环)。

同样的情况,也会出现在十进制和二进制的转换中。当我们在计算机中,声明一个变量为10.145,其实该数字作为二进制保存在计算机中,并不真的是10.145。可以通过Number.prototype.toPrecision方法来一探究竟。

Number.prototype.toPrecision方法以指定的精度返回该数值对象的字符串表示。

10.145.toPrecision(21) ---> "10.1449999999999995737"

因此就可以解释,为什么toFixed()方法返回的四舍五入的值,在某些情况不符合预料。

同样,也告诉大家,浮点数的所有计算,加减乘除无一例外,在某些情况下,都会出现不符合预料的情况,最常见的如0.1+0.2,等等。

解决方案

针对上述情况,我写了一个简单的库,可以满足数字的四舍五入需求。round-js

探索浮点数标准

和大部分语言不同,JavaScript目前对于数字的表示,只有一种类型,即Number,采用64位双精度浮点数来表示一个数,其标准与大多数语言一样,采用IEEE-754标准。IEEE-754下64位双精度浮点数的标准,可以用一张图来表示,如下:


float.png

  • sign:代表符号,用1位来表示,即正数负数,1代表正数,0代表负数;

  • exponent:代表指数,底数为2,用11位来表述;

  • fraction:真正的有效数字,用52位来表示。

最终,任何一个数,对于该标准,都使用如下公式来表示得出:



其中:

  • V:结果

  • S:上面的sign

  • M:有效数字fraction

  • E:上面的exponent

可以看出,这个表示方法,类似十进制中的科学计数法。
对于这些概念,IEEE-754标准中还有许多规定,例如<1M<2,等等,更多细节就不展开了。

完。


 
Android每日干货 更多文章 探索ES2015:箭头函数(Arrow Functions) 微信浏览器踩坑集锦 详解Object.defineProperty() 基于css选择器设计交互效果时的一些思考 CSS学习笔记(渐变色文本)
猜您喜欢 Python标准库02 时间与日期 (time, datetime包) 如何快速创建docker化主机 日请求从百万到八亿的技术历程 中国年轻人为什么喜欢以狗相称?