ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

JS中小数运算精度丢失的问题

2022-05-16 19:31:28  阅读:162  来源: 互联网

标签:num1 num2 baseNum2 baseNum1 JS toString 丢失 baseNum 小数


众所周知,JS中,小数之间进行运算会出现精度丢失的问题,比如

 

 

 

 

再比如:

 

 

 

 这种问题的原因在此不再赘述,直接说解决办法:

加法运算:

 //减法运算 
1 function numAdd(num1, num2) { 2 var baseNum, baseNum1, baseNum2 3 try { 4 baseNum1 = num1.toString().split('.')[1].length 5 } catch (e) { 6 baseNum1 = 0 7 } 8 try { 9 baseNum2 = num2.toString().split('.')[1].length 10 } catch (e) { 11 baseNum2 = 0 12 } 13 baseNum = Math.pow(10, Math.max(baseNum1, baseNum2)) 14 var precision = baseNum1 >= baseNum2 ? baseNum1 : baseNum2 //精度 15 return ((num1 * baseNum + num2 * baseNum) / baseNum).toFixed( 16 precision 17 ) 18 }

减法运算

 1 //减法运算
 2         function numSub(num1, num2) {
 3             var baseNum, baseNum1, baseNum2;
 4             try {
 5                 baseNum1 = num1.toString().split(".")[1].length;
 6             } catch (e) {
 7                 baseNum1 = 0;
 8             }
 9             try {
10                 baseNum2 = num2.toString().split(".")[1].length;
11             } catch (e) {
12                 baseNum2 = 0;
13             }
14             baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
15             var precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2;
16             return ((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision);
17         };

乘法运算:

 1    // 乘法运算
 2         function numMulti(num1, num2) {
 3             var baseNum = 0;
 4             try {
 5                 baseNum += num1.toString().split(".")[1].length;
 6             } catch (e) {
 7             }
 8             try {
 9                 baseNum += num2.toString().split(".")[1].length;
10             } catch (e) {
11             }
12             return Number(num1.toString().replace(".", "")) * Number(num2.toString().replace(".", "")) / Math.pow(10, baseNum);
13         };

除法运算

 1     // 除法运算,避免数据相除小数点后产生多位数和计算精度损失。
 2         function numDiv(num1, num2) {
 3             var baseNum1 = 0, baseNum2 = 0;
 4             var baseNum3, baseNum4;
 5             try {
 6                 baseNum1 = num1.toString().split(".")[1].length;
 7             } catch (e) {
 8                 baseNum1 = 0;
 9             }
10             try {
11                 baseNum2 = num2.toString().split(".")[1].length;
12             } catch (e) {
13                 baseNum2 = 0;
14             }
15             with (Math) {
16                 baseNum3 = Number(num1.toString().replace(".", ""));
17                 baseNum4 = Number(num2.toString().replace(".", ""));
18                 return (baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1);
19             }
20         };

 

标签:num1,num2,baseNum2,baseNum1,JS,toString,丢失,baseNum,小数
来源: https://www.cnblogs.com/fxwoniu/p/16278216.html

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有