如何实现js的精确数值计算方法?

更新于
2026-09-26 12:34:03
1阅读来源:SEO资源
  • 内容介绍
  • 文章标签
  • 相关推荐

本文共计1125个文字,预计阅读时间需要5分钟。

如何实现js的精确数值计算方法?

在JavaScript中,当你进行浮点数运算时,可能会遇到精度误差问题。这是因为计算机内部使用二进制来表示浮点数,而某些十进制小数无法精确表示为二进制小数。

例如,以下代码:

javascriptvar numA=0.1;var numB=0.2;alert(numA + numB);

输出结果为 `0.30000000000000004`,而不是预期的 `0.3`。这是因为 `0.1` 和 `0.2` 在二进制中无法精确表示,所以它们相加时会产生微小的误差。

对于浮点数的四则运算,几乎所有的编程语言都会遇到类似的问题。这是因为:

1. 二进制表示:计算机使用二进制表示数字,而某些十进制小数无法精确转换为二进制。

2.有限精度:计算机中的浮点数类型通常有有限的位数来表示数字,这限制了其精度。

为了减少这种误差,可以采取以下措施:

- 使用整数:如果可能,尽量使用整数进行计算。

- 使用高精度库:一些编程语言提供了高精度数学库,可以处理更大范围的数值和更高的精度。- 格式化输出:在输出结果时,可以限制小数点后的位数,以减少视觉上的误差。

总之,浮点数精度误差是计算机科学中的一个普遍问题,需要我们理解和处理。

var numA = 0.1; var numB = 0.2; alert( numA + numB );

0.1 + 0.2 = 0.30000000000000004。
计算精度误差问题(和二进制相关)。

如何实现js的精确数值计算方法?

对于浮点数的四则运算,几乎所有的编程语言都会有类似精度误差的问题,只不过在 C++/C#/Java 这些语言中已经封装好了方法来避免精度的问题,而JavaScript是一门弱类型的语言,从设计思想上就没有对浮点数有个严格的数据类型,所以精度误差的问题就显得格外突出。

我们先把 0.1 和 0.2 转换成二进制看看:

0.1 => 0.0001 1001 1001 1001…(无限循环)

0.2 => 0.0011 0011 0011 0011…(无限循环)

双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004。

如何解决呢?

首先将数乘以10的幂次方去掉小数位得到可以转化二进制的整数,计算之后再还原。

/** ** 除法函数,用来得到精确的除法结果 ** 说明:JavaScript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 ** 调用:accdiv(arg1,arg2) ** 返回值:arg1除以arg2的精确结果 **/ function accdiv(arg1, arg2) { var t1 = 0, t2 = 0, r1, r2; try { t1 = arg1.toString().split(".")[1].length; } catch (e) { } try { t2 = arg2.toString().split(".")[1].length; } catch (e) { } with (Math) { r1 = Number(arg1.toString().replace(".", "")); r2 = Number(arg2.toString().replace(".", "")); return (r1 / r2) * Math.pow(10, t2 - t1); } } /** ** 加法函数,用来得到精确的加法结果 ** 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 ** 调用:accAdd(arg1,arg2) ** 返回值:arg1加上arg2的精确结果 **/ function accAdd(arg1, arg2) { var r1, r2, m, c; try { r1 = arg1.toString().split(".")[1].length; } catch (e) { r1 = 0; } try { r2 = arg2.toString().split(".")[1].length; } catch (e) { r2 = 0; } c = Math.abs(r1 - r2); m = Math.pow(10, Math.max(r1, r2)); if (c > 0) { var cm = Math.pow(10, c); if (r1 > r2) { arg1 = Number(arg1.toString().replace(".", "")); arg2 = Number(arg2.toString().replace(".", "")) * cm; } else { arg1 = Number(arg1.toString().replace(".", "")) * cm; arg2 = Number(arg2.toString().replace(".", "")); } } else { arg1 = Number(arg1.toString().replace(".", "")); arg2 = Number(arg2.toString().replace(".", "")); } return (arg1 + arg2) / m; } /** ** 乘法函数,用来得到精确的乘法结果 ** 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 ** 调用:accMul(arg1,arg2) ** 返回值:arg1乘以 arg2的精确结果 **/ function accMul(arg1, arg2) { var m = 0, s1 = arg1.toString(), s2 = arg2.toString(); try { m += s1.split(".")[1].length; } catch (e) { } try { m += s2.split(".")[1].length; } catch (e) { } return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m); }

以上就是js精准计算的详细内容,更多关于js精准计算的资料请关注自由互联其它相关文章!

本文共计1125个文字,预计阅读时间需要5分钟。

如何实现js的精确数值计算方法?

在JavaScript中,当你进行浮点数运算时,可能会遇到精度误差问题。这是因为计算机内部使用二进制来表示浮点数,而某些十进制小数无法精确表示为二进制小数。

例如,以下代码:

javascriptvar numA=0.1;var numB=0.2;alert(numA + numB);

输出结果为 `0.30000000000000004`,而不是预期的 `0.3`。这是因为 `0.1` 和 `0.2` 在二进制中无法精确表示,所以它们相加时会产生微小的误差。

对于浮点数的四则运算,几乎所有的编程语言都会遇到类似的问题。这是因为:

1. 二进制表示:计算机使用二进制表示数字,而某些十进制小数无法精确转换为二进制。

2.有限精度:计算机中的浮点数类型通常有有限的位数来表示数字,这限制了其精度。

为了减少这种误差,可以采取以下措施:

- 使用整数:如果可能,尽量使用整数进行计算。

- 使用高精度库:一些编程语言提供了高精度数学库,可以处理更大范围的数值和更高的精度。- 格式化输出:在输出结果时,可以限制小数点后的位数,以减少视觉上的误差。

总之,浮点数精度误差是计算机科学中的一个普遍问题,需要我们理解和处理。

var numA = 0.1; var numB = 0.2; alert( numA + numB );

0.1 + 0.2 = 0.30000000000000004。
计算精度误差问题(和二进制相关)。

如何实现js的精确数值计算方法?

对于浮点数的四则运算,几乎所有的编程语言都会有类似精度误差的问题,只不过在 C++/C#/Java 这些语言中已经封装好了方法来避免精度的问题,而JavaScript是一门弱类型的语言,从设计思想上就没有对浮点数有个严格的数据类型,所以精度误差的问题就显得格外突出。

我们先把 0.1 和 0.2 转换成二进制看看:

0.1 => 0.0001 1001 1001 1001…(无限循环)

0.2 => 0.0011 0011 0011 0011…(无限循环)

双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004。

如何解决呢?

首先将数乘以10的幂次方去掉小数位得到可以转化二进制的整数,计算之后再还原。

/** ** 除法函数,用来得到精确的除法结果 ** 说明:JavaScript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 ** 调用:accdiv(arg1,arg2) ** 返回值:arg1除以arg2的精确结果 **/ function accdiv(arg1, arg2) { var t1 = 0, t2 = 0, r1, r2; try { t1 = arg1.toString().split(".")[1].length; } catch (e) { } try { t2 = arg2.toString().split(".")[1].length; } catch (e) { } with (Math) { r1 = Number(arg1.toString().replace(".", "")); r2 = Number(arg2.toString().replace(".", "")); return (r1 / r2) * Math.pow(10, t2 - t1); } } /** ** 加法函数,用来得到精确的加法结果 ** 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 ** 调用:accAdd(arg1,arg2) ** 返回值:arg1加上arg2的精确结果 **/ function accAdd(arg1, arg2) { var r1, r2, m, c; try { r1 = arg1.toString().split(".")[1].length; } catch (e) { r1 = 0; } try { r2 = arg2.toString().split(".")[1].length; } catch (e) { r2 = 0; } c = Math.abs(r1 - r2); m = Math.pow(10, Math.max(r1, r2)); if (c > 0) { var cm = Math.pow(10, c); if (r1 > r2) { arg1 = Number(arg1.toString().replace(".", "")); arg2 = Number(arg2.toString().replace(".", "")) * cm; } else { arg1 = Number(arg1.toString().replace(".", "")) * cm; arg2 = Number(arg2.toString().replace(".", "")); } } else { arg1 = Number(arg1.toString().replace(".", "")); arg2 = Number(arg2.toString().replace(".", "")); } return (arg1 + arg2) / m; } /** ** 乘法函数,用来得到精确的乘法结果 ** 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 ** 调用:accMul(arg1,arg2) ** 返回值:arg1乘以 arg2的精确结果 **/ function accMul(arg1, arg2) { var m = 0, s1 = arg1.toString(), s2 = arg2.toString(); try { m += s1.split(".")[1].length; } catch (e) { } try { m += s2.split(".")[1].length; } catch (e) { } return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m); }

以上就是js精准计算的详细内容,更多关于js精准计算的资料请关注自由互联其它相关文章!