js 乘除算法浮点精度解决办法

js中进行浮点数运算时容易出现精度问题

1）除法函数

//说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
//调用：accDiv(arg1,arg2)
//返回值：arg1除以arg2的精确结果

function accDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){} //--小数点后的长度
try{t2=arg2.toString().split(".")[1].length}catch(e){} //--小数点后的长度
with(Math){
r1=Number(arg1.toString().replace(".","")) //--去除小数点变整数
r2=Number(arg2.toString().replace(".","")) //--去除小数点变整数
return (r1/r2)*pow(10,t2-t1); //---整数相除在乘上10的平方小数点的长度
}
}

2）乘法函数

//说明：javascript的乘法结果会有误差，在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
//调用：accMul(arg1,arg2)
//返回值：arg1乘以arg2的精确结果
function accMul(arg1,arg2){
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}

3）加法函数

//说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
//调用：accAdd(arg1,arg2)
//返回值：arg1加上arg2的精确结果
function accAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (arg1*m+arg2*m)/m
}

4）减法函数

巴特西

js 乘除算法浮点精度解决办法

js中进行浮点数运算时容易出现精度问题

1）除法函数

2）乘法函数

3）加法函数

4）减法函数

最新文章

热门文章

巴特西

js 乘除算法 浮点 精度解决办法

js中进行浮点数运算时容易出现精度问题

1） 除法函数

2） 乘法函数

3） 加法函数

4） 减法函数

最新文章

热门文章

js 乘除算法浮点精度解决办法

1）除法函数

2）乘法函数

3）加法函数

4）减法函数