Python numpy 浮点数精度问题
2024-10-11 10:58:38
Python numpy 浮点数精度问题
在复现FP(fictitious play, Iterative solution of games by fictitious play-page393)算法的时候,迭代到中间发现没法复现paper里的结果,发现是numpy矩阵运算浮点数精度的问题。
- 具体问题
矩阵和向量相乘
\[\begin{pmatrix}
3 & 1 & 1 & 1
\end{pmatrix}
\times \begin{pmatrix}
3 & 1.1 & 1.2 \\
1.3 & 2 & 0 \\
0 & 1 & 3.1 \\
2 & 1.5 & 1.1
\end{pmatrix}
= \begin{pmatrix}
12.3 & 7.8 & 7.8
\end{pmatrix}
\]
3 & 1 & 1 & 1
\end{pmatrix}
\times \begin{pmatrix}
3 & 1.1 & 1.2 \\
1.3 & 2 & 0 \\
0 & 1 & 3.1 \\
2 & 1.5 & 1.1
\end{pmatrix}
= \begin{pmatrix}
12.3 & 7.8 & 7.8
\end{pmatrix}
\]
然后取argmin
想得到第一个7.8的index,也就是1。但由于精度的问题,导致两个7.8实际不一样大,取到了第二个7.8的index。
具体问题代码为
import numpy as np
x = np.matrix([3,1,1,1])*np.matrix([[3,1.1,1.2],[1.3,2,0],[0,1,3.1],[2,1.5,1.1]])
print('matrix: ',x)
print('value: ',x[0,0],x[0,1],x[0,2])
print('index: ',np.argmin(x))
得到
matrix: [[12.3 7.8 7.8]]
value: 12.3 7.800000000000001 7.799999999999999
index: 2
可以发现明明相同的两个7.8由于精度变成了两个大小不同的数,所以argmin
得到了2。
- 解决办法
二进制固有的问题,只能自己手动近似,用保留小数点位数消除误差。
如这里保留5位小数:
import numpy as np
x = np.round(np.matrix([3,1,1,1])*np.matrix([[3,1.1,1.2],[1.3,2,0],[0,1,3.1],[2,1.5,1.1]]),5)
print('matrix: ',x)
print('value: ',x[0,0],x[0,1],x[0,2])
print('index: ',np.argmin(x))
得到
matrix: [[12.3 7.8 7.8]]
value: 12.3 7.8 7.8
index: 1
- 注意事项
这个办法不能解决所有问题,毕竟每个问题精度要求不一样。但由于计算机二进制的原因,没法从根本上解决,只能通过近似的方式,具体问题具体解决。
最新文章
- CSS 页面顶部阴影和给浏览器强制加上滚动条
- Unit02-OOP-对象和类,数组(下)
- Rice Rock
- 关于C中scanf()函数读取字符串的问题
- XML序列化中含有List的情况,序列化到根节点下一层
- Android 快速开发框架XUtils
- 妙用git rebase --onto指令
- WinForm常用代码
- MVC4新功能...压缩和合并js文件和样式文件
- 使AIX下ksh可以翻查上一条命令
- EF Core 2.2 对多个 DbContext 单个数据库的情况进行迁移的示例
- 028_rync和inotify实现实时备份
- 利用TensorFlow实现多元逻辑回归
- FutureTask
- CentOS 6(64-bit) + Nginx搭建静态文件服务器
- Base64编码加密
- 5. Import the project download from Git
- 居于mtk芯片安卓车机系统具体流程
- 解决maven install报错信息(Failed to execute goal org.apache.maven.plugins:maven-compiler-plugin:3.1:compile )
- VPP(Vector Packet Processing)浅析
热门文章
- Eplan显示项目属性的编号设置方法
- 【Spring注解驱动开发】如何使用@Bean注解指定初始化和销毁的方法?看这一篇就够了!!
- OpenCV开发笔记(六十五):红胖子8分钟带你深入了解ORB特征点(图文并茂+浅显易懂+程序源码)
- Elastic认证考试,请先看这一篇
- MFC 结束线程
- JavaScript图形实例:递归生成树
- Java项目开启远程调试(tomcat、springboot)
- Windows使用VNC远程连接Linux桌面系统
- 11. RobotFramework内置库-Collections
- 从CAS讲起,真正高性能解决并发编程的原子操作