标签:存储 二进制 计数法 丢失 toFixed js 精度 小数
经典面试题
- 0.1+0.2!=0.3
Number
- 在js中,数值类型就是number
- 采用的是IEEE754规范中的64位双精度浮点数编码
- 存储结构优点是归一化处理整数和小数,节省储存空间
- 整数很容易转换成二进制,但还是有大小的限制,2**53
- 小数的小数点位置不是固定的,所以使用二进制的科学计数法
小数的存储方式
- 计算机存储小数,会先将十进制转换为二进制的科学计数法
- 然后,计算机按照自己的规则存储二进制的科学计数法
- 因为存储有位数限制,并且有些转换为二进制时会陷入无限循环,会造成二进制的舍入操作,那自然就会有精度问题了
大数字解决方案
- 使用bigInt这种数据类型
- 使用字符串这种数据类型
- 使用第三方库,比如 bignumber
小数计算精度解决方案
- 使用toFixed,保留小数位数,返回的是字符串。需要用parseFloat转为数值类型。但是toFixed对于有关5结尾的小数,是有问题的。所以要进行toFixed修复。
- 先放大再缩小的方式。先乘以10的倍数,转为整数,计算完成后,再除以10的倍数,转为小数。但要注意,整数不能超过js的数值范围。
- 使用第三方库 bignumber
参考文献
https://zhuanlan.zhihu.com/p/100353781
https://blog.csdn.net/liubangbo/article/details/114695689
标签:存储,二进制,计数法,丢失,toFixed,js,精度,小数 来源: https://www.cnblogs.com/phoenixzhang/p/16182130.html
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。