Python3浮点型(float)运算结果不正确处理办法
一、问题说明
以前对浮点数运行没有没有太在意。昨天同事要求把百分比结果保存到文件上,然后就以保存1位小数的形式给他保存了。
但是今天同事运行时问能不能统一以一位小数的形式保存,当时觉得很奇怪昨天就是以一位小数形式存的怎么还会提这种要求呢。
其给回的截图确实是部分是一位小数的,但一部分是很长的。查看代码都统一如下格式:
# 使用round保留三位小数,然后乘以100,最后格式化为带百分号的字符串
rate=f"{round(x/y,3) * 100}%"
代码上没看出什么问题,直接运行确实是有些结果是一长串的。进行调试发现当x为37y为76时即会出现问题,如下图所示:
进行步骤拆分,发现round方法没有问题,问题在浮点数乘以100上(同时如下图可以看到也不是所有浮点数乘都有问题)
二、原因探究
搞不清原因,直到看到这篇文章:https://www.programiz.com/python-programming/numbers
大意是说二进制对很多浮点数无法准确表示只能用一个近似值代替,而当使用这些以近似值代替的浮点数进行进算时本质上是这些进似值参与了运算,出来的结果也就是进似值运算后的结果。
也就是说,一是这不是乘100的问题也不是乘法的问题而是整个浮点数运算都有问题,二是这不是python的问题是计算机浮点数存储的问题像C、Java等其他计算机语言进行运算都会有问题。
可能有人会疑惑:为什么二进制可以表示2不能表示0.2呢?
这是因为数值和字符串是不一样的,如果是字符串那么表示2.2点的左右两边的2编码是一样的就可以了(如ASCII码:504650),但数值不是这样,数值的整数部分和小数部分需要一个统一的表示形式,那就是加权位计数法。
整数部分都要以2的0次方(20)到2的无穷次方(2∞)表示,这没有问题,只要长度足够就能表示出所有奇数和偶数。2 = 1 * 21 + 0 * 20 = 10
小数部分都要以2的-1次方(2-1)到2的负无穷次方(2-∞)表示,这就有问题,因为比如2-1...2-∞不管怎么组合都不能完全等于0.2。0.2 = 0 * 2-1 + 0 * 2-2 + 1 * 2-3 ...
三、处理办法
这情况让我想起上份工作局方领导的一句话,应该是“可以理解但不能接受”。
原理上二进制无法精确表示一些浮点数可以理解,但是就这么返回个显然错误的结果给用户那是无法接受的。
python提供了Decimal()方法让浮点运算结果可以和人平时运算的结果一样。(Decimal本质应该还是通过加长长度提高精度)
# Decimal传字符串才能准确表示,所以需要先用str()把round()的结果转为字符串
rate=f"{Decimal(str(round(x/y,3))) * 100}%" # 其实上边的结果出来是48.700%的形式,即三位小数的形式并不太符合我们保留一位小数的想法,真正符合想法得下面这样
# rate=f"{round(Decimal(str(round(x/y,3))) * 100, 1)}%" # 其实我们说了这么多,我们都是建立在决定保留多少位再乘100这个前提下,倘若我们先乘100后决定保留几位那都不需要用Decimal
# rate=f"{round(x/y*100,1)}%"
参考:
https://www.programiz.com/python-programming/numbers
https://docs.python.org/3.7/library/decimal.html
最新文章
- dataguru(炼数成金)大数据培训基地印象
- iis 应用程序池看不到 .net framework 4.0
- UVa 10900 - So you want to be a 2n-aire?
- 数据库(.udl)简单测试连接
- Javascript数据类型之Undefined和null
- php开源项目学习二次开发的计划
- linux 下进程状态及进程控制
- golang 实现HTTP代理和反向代理
- 第一节:WebApi的纯原生态的RestFul风格接口和路由规则介绍
- BLE和2.4G实现通信
- join查询优化
- 初识XMind基本操作
- Linux - 创建定时任务
- JTAG 引脚自动识别 JTAG Finder, JTAG Pinout Tool, JTAG Pin Finder, JTAG pinout detector, JTAGULATOR, Easy-JTAG, JTAG Enumeration
- 第一章javascript词法结构笔记摘要
- vue组件定义方式
- bzoj 3600 没有人的算术 - 替罪羊树 - 线段树
- 利用Powershell自动部署asp.net mvc网站项目 (一)
- BZOJ2568 [国家集训队2012]比特集合
- blender, 旋转和平移视图
热门文章
- Java8-对map排序
- Html5 Page Creator,简易h5页面场景制作
- hadoop(原生及CDH发行版)关键目录、配置文件及服务对应文件名详解
- Easy to Remember Color Guide for Non-Designers
- git遇到error: RPC failed; curl 18 transfer closed with outstanding read data remaining fatal: The remote end hung up unexpectedly fatal: early EOF fatal: index-pack failed failed怎么办?
- HTTP之gRPC
- vue使用$http服务端收不到参数
- Linux操作系统的VI命令
- Notepad++的Json格式化插件
- mysql 通过测试'for update',深入了解行锁、表锁、索引