最近遇到个比较奇怪的问题,js函数里传参,传一个位数比较大,打印arguments可以看到传过来的参数已经改变。

然后查了一下,发现确实是js精度丢失造成的。我的解决方法是将数字型改成字符型传输,这样就不会造成精度丢失了。如下图:

JS 数字丢失精度的原因

计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示,如 圆周率 3.1415926...,1.3333... 等。JS 遵循 IEEE 754 规范,采用双精度存储(double precision),占用 64 bit。如图

意义

  • 1位用来表示符号位
  • 11位用来表示指数
  • 52位表示尾数

浮点数,比如

1
2
0.1 >> 0.0001 1001 1001 1001…(1001无限循环)
0.2 >> 0.0011 0011 0011 0011…(0011无限循环)

此时只能模仿十进制进行四舍五入了,但是二进制只有 0 和 1 两个,于是变为 0 舍 1 入。这即是计算机中部分浮点数运算时出现误差,丢失精度的根本原因。

大整数的精度丢失和浮点数本质上是一样的,尾数位最大是 52 位,因此 JS 中能精准表示的最大整数是 Math.pow(2, 53),十进制即 9007199254740992。

大于 9007199254740992 的可能会丢失精度

1
2
3
9007199254740992     >> 10000000000000...000 // 共计 53 个 0
9007199254740992 + 1 >> 10000000000000...001 // 中间 52 个 0
9007199254740992 + 2 >> 10000000000000...010 // 中间 51 个 0

实际上

1
2
3
4
9007199254740992 + 1 // 丢失
9007199254740992 + 2 // 未丢失
9007199254740992 + 3 // 丢失
9007199254740992 + 4 // 未丢失

结果如图

以上,可以知道看似有穷的数字, 在计算机的二进制表示里却是无穷的,由于存储位数限制因此存在“舍去”,精度丢失就发生了。

想了解更深入的分析可以看这篇论文(又长又臭):What Every Computer Scientist Should Know About Floating-Point Arithmetic

三、解决方案

对于整数,前端出现问题的几率可能比较低,毕竟很少有业务需要需要用到超大整数,只要运算结果不超过 Math.pow(2, 53) 就不会丢失精度。

对于小数,前端出现问题的几率还是很多的,尤其在一些电商网站涉及到金额等数据。解决方式:把小数放到位整数(乘倍数),再缩小回原来倍数(除倍数)

1
2
// 0.1 + 0.2
(0.1*10 + 0.2*10) / 10 == 0.3 // true

  

最新文章

  1. GJM :自定义基于 VLC 的视频播放器 [转载]
  2. c sharp学习 问题记录
  3. 一个tomcat上放多个webapp问题,那这多个webapp会不会竞争端口呢?不会!安全两码事
  4. HiveContext VS SQLContext
  5. Little Kings - SGU 223(状态压缩)
  6. 话说python
  7. leetcode:Multiply Strings(字符串的乘法)【面试算法题】
  8. Oracle11g的注册表清理
  9. .net 生成缩略图
  10. 全栈JavaScript之路(十八)HTML5 自己定义数据属性
  11. mvc中DotNetOpenAuth实现了第三方应用访问自己的网站
  12. Codeforces Round #326 (Div. 2) B
  13. .29-浅析webpack源码之Resolver.prototype.resolve
  14. Hdfs读取文件到本地总结
  15. 从嵌入式linux到android应用开发
  16. Android应用---基于NDK的samples例程hello-jni学习NDK开发
  17. Tyrion 中文文档(含示例源码)
  18. 最全的MonkeyRunner自动化测试从入门到精通(4)
  19. Delphi XE5 for Android (八)
  20. poj1742(多重背包分解+01背包二进制优化)

热门文章

  1. [leetcode] 一些会的
  2. 中间人攻击(MITM)姿势总结
  3. ARM大学计划全球经理到访华清远见,深入交流教育合作
  4. ZeroMQ接口函数之 :zmq_msg_init - 初始化一个空的ZMQ消息结构
  5. python中文注释报错问题
  6. phonegap3.5了结
  7. js入门篇之正则表达式基础
  8. BSBuDeJie_02
  9. error C2512: “Rectangle”: 没有合适的默认构造函数可用
  10. 3.Powershell编辑器