js 页面小数相加精度问题

2024-10-09 18:07:09

解决方法：把需要计算的数字升级（乘以10的n次幂）成计算机能够精确识别的整数，等计算完毕再降级（除以10的n次幂），这是大部分编程语言处理精度差异的通用方法。

比如计算0.33和5.2的和，则需要把（0.33*100+5.2*100）/100。

函数：

var numAdd = function (num1, num2) {//要相加的两个数
var baseNum, baseNum1, baseNum2;
try {
baseNum1 = num1.toString().split(".")[1].length;
} catch (e) {
baseNum1 = 0;
}
try {
baseNum2 = num2.toString().split(".")[1].length;
} catch (e) {
baseNum2 = 0;
}
baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
var n = (num1 * baseNum + num2 * baseNum) / baseNum;
return n;
};

最新文章

热门文章