ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

JS浮点数运算Bug的解决办法

2021-05-25 21:56:05  阅读:176  来源: 互联网

标签:r1 arg2 arg1 浮点数 Number JS r2 toString Bug


方法一:重写浮点运算的函数

//除法函数,用来得到精确的除法结果 //说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 //调用:accDiv(arg1,arg2) //返回值:arg1除以arg2的精确结果 function accDiv(arg1, arg2) {    var t1 = 0,
        t2 = 0,
        r1, r2;    try {
        t1 = arg1.toString().split(".")[1].length
    } catch (e) {}    try {
        t2 = arg2.toString().split(".")[1].length
    } catch (e) {}    with(Math) {
        r1 = Number(arg1.toString().replace(".", ""))
        r2 = Number(arg2.toString().replace(".", ""))        return (r1 / r2) * pow(10, t2 - t1);
    }
}//给Number类型增加一个div方法,调用起来更加方便。 Number.prototype.div = function(arg) {    return accDiv(this, arg);
}//乘法函数,用来得到精确的乘法结果 //说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 //调用:accMul(arg1,arg2) //返回值:arg1乘以arg2的精确结果 function accMul(arg1, arg2) {    var m = 0,
        s1 = arg1.toString(),
        s2 = arg2.toString();    try {
        m += s1.split(".")[1].length
    } catch (e) {}    try {
        m += s2.split(".")[1].length
    } catch (e) {}    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
}//给Number类型增加一个mul方法,调用起来更加方便。 Number.prototype.mul = function(arg) {    return accMul(arg, this);
}//加法函数,用来得到精确的加法结果 //说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 //调用:accAdd(arg1,arg2) //返回值:arg1加上arg2的精确结果 function accAdd(arg1, arg2) {    var r1, r2, m;    try {
        r1 = arg1.toString().split(".")[1].length
    } catch (e) {
        r1 = 0
    }    try {
        r2 = arg2.toString().split(".")[1].length
    } catch (e) {
        r2 = 0
    }
    m = Math.pow(10, Math.max(r1, r2))    return (arg1 * m + arg2 * m) / m
}//给Number类型增加一个add方法,调用起来更加方便。 Number.prototype.add = function(arg) {    return accAdd(arg, this);
}//减法函数,用来得到精确的减法结果 //说明:javascript的减法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的减法结果。 //调用:accSubtr(arg1,arg2) //返回值:arg1减去arg2的精确结果 function accSubtr(arg1, arg2) {    var r1, r2, m, n;    try {
        r1 = arg1.toString().split(".")[1].length
    } catch (e) {
        r1 = 0
    }    try {
        r2 = arg2.toString().split(".")[1].length
    } catch (e) {
        r2 = 0
    }
    m = Math.pow(10, Math.max(r1, r2));    //动态控制精度长度
    n = (r1 >= r2) ? r1 : r2;    return ((arg1 * m - arg2 * m) / m).toFixed(n);
}//给Number类型增加一个subtr 方法,调用起来更加方便。 Number.prototype.subtr = function(arg) {    return accSubtr(arg, this);
}

在你要用的地方包含这些函数,然后调用它来计算就可以了。 
比如你要计算:7*0.8 ,则改成 (7).mul(8) 
其它运算类似,就可以得到比较精确的结果。
------------------------------------------------------------------------------------------------------

方法二:放大倍数再运算

//如果在知道小数位个数的前提下,可以考虑通过将浮点数放大倍数到整型(最后再除以相应倍数),再进行运算操作,这样就能得到正确的结果了

    alert(11 * (22.9 * 10) / 10);" _ue_custom_node_="true">

标签:r1,arg2,arg1,浮点数,Number,JS,r2,toString,Bug
来源: https://blog.51cto.com/u_14302606/2812796

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有