js数字位数太大导致参数精度丢失问题
最近遇到个比较奇怪的问题,js函数里传参,传一个位数比较大,打印arguments可以看到传过来的参数已经改变。
然后查了一下,发现确实是js精度丢失造成的。我的解决方法是将数字型改成字符型传输,这样就不会造成精度丢失了。如下图:
JS 数字丢失精度的原因
计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示,如 圆周率 3.1415926...,1.3333... 等。JS 遵循 IEEE 754 规范,采用双精度存储(double precision),占用 64 bit。如图
意义
- 1位用来表示符号位
- 11位用来表示指数
- 52位表示尾数
浮点数,比如
1
2
|
0.1 >> 0.0001 1001 1001 1001…(1001无限循环) 0.2 >> 0.0011 0011 0011 0011…(0011无限循环) |
此时只能模仿十进制进行四舍五入了,但是二进制只有 0 和 1 两个,于是变为 0 舍 1 入。这即是计算机中部分浮点数运算时出现误差,丢失精度的根本原因。
大整数的精度丢失和浮点数本质上是一样的,尾数位最大是 52 位,因此 JS 中能精准表示的最大整数是 Math.pow(2, 53),十进制即 9007199254740992。
大于 9007199254740992 的可能会丢失精度
1
2
3
|
9007199254740992 >> 10000000000000...000 // 共计 53 个 0 9007199254740992 + 1 >> 10000000000000...001 // 中间 52 个 0 9007199254740992 + 2 >> 10000000000000...010 // 中间 51 个 0 |
实际上
1
2
3
4
|
9007199254740992 + 1 // 丢失 9007199254740992 + 2 // 未丢失 9007199254740992 + 3 // 丢失 9007199254740992 + 4 // 未丢失 |
结果如图
以上,可以知道看似有穷的数字, 在计算机的二进制表示里却是无穷的,由于存储位数限制因此存在“舍去”,精度丢失就发生了。
想了解更深入的分析可以看这篇论文(又长又臭):What Every Computer Scientist Should Know About Floating-Point Arithmetic
三、解决方案
对于整数,前端出现问题的几率可能比较低,毕竟很少有业务需要需要用到超大整数,只要运算结果不超过 Math.pow(2, 53) 就不会丢失精度。
对于小数,前端出现问题的几率还是很多的,尤其在一些电商网站涉及到金额等数据。解决方式:把小数放到位整数(乘倍数),再缩小回原来倍数(除倍数)
1
2
|
// 0.1 + 0.2 (0.1*10 + 0.2*10) / 10 == 0.3 // true |
最新文章
- GJM :自定义基于 VLC 的视频播放器 [转载]
- c sharp学习 问题记录
- 一个tomcat上放多个webapp问题,那这多个webapp会不会竞争端口呢?不会!安全两码事
- HiveContext VS SQLContext
- Little Kings - SGU 223(状态压缩)
- 话说python
- leetcode:Multiply Strings(字符串的乘法)【面试算法题】
- Oracle11g的注册表清理
- .net 生成缩略图
- 全栈JavaScript之路(十八)HTML5 自己定义数据属性
- mvc中DotNetOpenAuth实现了第三方应用访问自己的网站
- Codeforces Round #326 (Div. 2) B
- .29-浅析webpack源码之Resolver.prototype.resolve
- Hdfs读取文件到本地总结
- 从嵌入式linux到android应用开发
- Android应用---基于NDK的samples例程hello-jni学习NDK开发
- Tyrion 中文文档(含示例源码)
- 最全的MonkeyRunner自动化测试从入门到精通(4)
- Delphi XE5 for Android (八)
- poj1742(多重背包分解+01背包二进制优化)
热门文章
- [leetcode] 一些会的
- 中间人攻击(MITM)姿势总结
- ARM大学计划全球经理到访华清远见,深入交流教育合作
- ZeroMQ接口函数之 :zmq_msg_init - 初始化一个空的ZMQ消息结构
- python中文注释报错问题
- phonegap3.5了结
- js入门篇之正则表达式基础
- BSBuDeJie_02
- error C2512: “Rectangle”: 没有合适的默认构造函数可用
- 3.Powershell编辑器