在 js 中有浮点数运算不正确的时候怎么办

guozi • 2024年6月3日下午5:17 • 行业资讯

在 JavaScript 中，浮点数运算可能会产生一些精度问题，比如 0.1 + 0.2 不等于 0.3。这是由于浮点数的表示方式导致的。这种现象不仅存在于 JavaScript，也存在于其他编程语言中。让我们详细探讨一下原因以及如何解决这个问题。

原因

JavaScript 使用 IEEE 754 标准的双精度浮点数（64位）来表示数字。这种表示方式在处理十进制小数时会出现精度问题，因为某些十进制小数在二进制系统中是无法精确表示的。

例如，十进制的 0.1 和 0.2 在二进制系统中是无限循环小数，所以它们只能被近似表示。由于这种近似表示，计算 0.1 + 0.2 时会产生一个微小的误差，导致结果不完全等于 0.3。

console.log(0.1 + 0.2); // 输出 0.30000000000000004console.log(0.1 + 0.2 === 0.3); // 输出 false

解决方法

有几种方法可以解决或缓解浮点数精度问题：

1. 使用 toFixed 或 toPrecision

这两种方法可以格式化浮点数，使其保留指定的小数位数。不过需要注意的是，这些方法会返回字符串，而不是数值。

let sum = (0.1 + 0.2).toFixed(2); // '0.30'sum = parseFloat(sum); // 转换回数值console.log(sum); // 0.3

2. 使用整数运算

通过将浮点数转换为整数进行运算，然后再转换回浮点数，可以避免精度问题。这种方法在处理涉及小数的货币计算时特别有用。

let sum = (0.1 * 10 + 0.2 * 10) / 10;console.log(sum); // 0.3

当然，还有一些第三方库专门用来处理高精度计算，比如 decimal.js 或 big.js，这里不做展开。

原创文章，作者：guozi，如若转载，请注明出处：https://www.sudun.com/ask/88372.html