Python numpy 浮点数精度问题

在复现FP(fictitious play, Iterative solution of games by fictitious play-page393)算法的时候,迭代到中间发现没法复现paper里的结果,发现是numpy矩阵运算浮点数精度的问题。

  • 具体问题

矩阵和向量相乘

\[\begin{pmatrix}
3 & 1 & 1 & 1
\end{pmatrix}
\times \begin{pmatrix}
3 & 1.1 & 1.2 \\
1.3 & 2 & 0 \\
0 & 1 & 3.1 \\
2 & 1.5 & 1.1
\end{pmatrix}
= \begin{pmatrix}
12.3 & 7.8 & 7.8
\end{pmatrix}
\]

然后取argmin想得到第一个7.8的index,也就是1。但由于精度的问题,导致两个7.8实际不一样大,取到了第二个7.8的index。

具体问题代码为

import numpy as np
x = np.matrix([3,1,1,1])*np.matrix([[3,1.1,1.2],[1.3,2,0],[0,1,3.1],[2,1.5,1.1]])
print('matrix: ',x)
print('value: ',x[0,0],x[0,1],x[0,2])
print('index: ',np.argmin(x))

得到

matrix:  [[12.3  7.8  7.8]]
value: 12.3 7.800000000000001 7.799999999999999
index: 2

可以发现明明相同的两个7.8由于精度变成了两个大小不同的数,所以argmin得到了2。

  • 解决办法

二进制固有的问题,只能自己手动近似,用保留小数点位数消除误差。

如这里保留5位小数:

import numpy as np
x = np.round(np.matrix([3,1,1,1])*np.matrix([[3,1.1,1.2],[1.3,2,0],[0,1,3.1],[2,1.5,1.1]]),5)
print('matrix: ',x)
print('value: ',x[0,0],x[0,1],x[0,2])
print('index: ',np.argmin(x))

得到

matrix:  [[12.3  7.8  7.8]]
value: 12.3 7.8 7.8
index: 1
  • 注意事项

这个办法不能解决所有问题,毕竟每个问题精度要求不一样。但由于计算机二进制的原因,没法从根本上解决,只能通过近似的方式,具体问题具体解决。

最新文章

  1. CSS 页面顶部阴影和给浏览器强制加上滚动条
  2. Unit02-OOP-对象和类,数组(下)
  3. Rice Rock
  4. 关于C中scanf()函数读取字符串的问题
  5. XML序列化中含有List的情况,序列化到根节点下一层
  6. Android 快速开发框架XUtils
  7. 妙用git rebase --onto指令
  8. WinForm常用代码
  9. MVC4新功能...压缩和合并js文件和样式文件
  10. 使AIX下ksh可以翻查上一条命令
  11. EF Core 2.2 对多个 DbContext 单个数据库的情况进行迁移的示例
  12. 028_rync和inotify实现实时备份
  13. 利用TensorFlow实现多元逻辑回归
  14. FutureTask
  15. CentOS 6(64-bit) + Nginx搭建静态文件服务器
  16. Base64编码加密
  17. 5. Import the project download from Git
  18. 居于mtk芯片安卓车机系统具体流程
  19. 解决maven install报错信息(Failed to execute goal org.apache.maven.plugins:maven-compiler-plugin:3.1:compile )
  20. VPP(Vector Packet Processing)浅析

热门文章

  1. Eplan显示项目属性的编号设置方法
  2. 【Spring注解驱动开发】如何使用@Bean注解指定初始化和销毁的方法?看这一篇就够了!!
  3. OpenCV开发笔记(六十五):红胖子8分钟带你深入了解ORB特征点(图文并茂+浅显易懂+程序源码)
  4. Elastic认证考试,请先看这一篇
  5. MFC 结束线程
  6. JavaScript图形实例:递归生成树
  7. Java项目开启远程调试(tomcat、springboot)
  8. Windows使用VNC远程连接Linux桌面系统
  9. 11. RobotFramework内置库-Collections
  10. 从CAS讲起,真正高性能解决并发编程的原子操作