JS数值类型的两个坑,你踩过没?
发布于 1 年前 作者 RajanZhan 798 次浏览 来自 分享

JS数值类型的两个坑,你踩过没?

几乎大部分语言都存在浮点数运算精度的问题,只是它们在底层就处理好了,而js则没有被默认处理,稍不留神就引发问题,详见如下。

坑一、浮点数运算精度问题, 0.1 + 0.2 != 0.3

console.log(0.1 + 0.2); // 期望值:0.3 实际值:0.30000000000000004
console.log(1 - 0.7); // 期望值:0.3 实际值:0.30000000000000004
console.log(0.1 * 0.2);// 期望值:0.02 实际值:0.020000000000000004
console.log(0.029 / 10); // 期望值:0.0029 实际值:0.0029000000000000002

分析以及解决: 分析:计算时,计算机会将0.1、0.2 转化为二进制,于是分别得到类似 0.0001100110011(无限循环…)、0.001100110011(无限循环…)的二进制,双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004。 解决: 最简单的方法,使用toFixed();四舍五入。例如

console.log((0.1 + 0.2).toFixed(1)); // 结果:0.3

但是如果业务涉及金融行业,则不建议使用toFixed方法。可以按需选择使用 decimal.js 库。见如下 安装 yarn add decimal.js 或者 npm i decimal.js

const d = require("decimal.js");
console.log("加法运算", new d(0.1).add( new d(0.2) ).toNumber() ); // 0.3
console.log("减法运算", new d(1).sub( new d(0.7) ).toNumber() ); // 0.3
console.log("乘法运算", new d(0.1).mul( new d(0.2) ).toNumber() ); // 0.02
console.log("除法运算", new d(0.029).div( new d(10) ).toNumber() ); // 0.0029

坑二、 NaN 问题

NaN 不等于自身,需用isNaN() 来判断。

let nan =  Number("a"); // nan 是 NaN
console.log(nan == NaN); // false
console.log(isNaN(nan)); // true

如果文中有错误,欢迎指正。 微信号

1 回复
  1. 浮点运算精度问题任何主流语言都相同,要么采用数学库来计算
  2. 用 Number.isNaN() 才能准确判断 nan . 对于不是数字的值,比如字符串 isNaN() 执行结果也是 true
回到顶部