计算误差——ACM计算几何中的精度问题
2024-08-30 20:40:47
- 浮点数为何会有精度问题
占字节数 | 数值范围 | 十进制精度位数 | |
float | 4 | -3.4e-38~3.4e38 | 6~7 |
double | 8 | -1.7e-308~1.7e308 | 14~15 |
如果内存不是很紧张或者精度要求不是很低,一般选用double。14位的精度(是有效数字位,不是小数点后的位数)通常够用了。注意,问题来了,数据精度位数达到了14位,但有些浮点运算的结果精度并达不到这么高,可能准确的结果只有10~12位左右。那低几位呢?自然就是不可预料的数字了。这给我们带来这样的问题:即使是理论上相同的值,由于是经过不同的运算过程得到的,他们在低几位有可能(一般来说都是)是不同的。这种现象看似没太大的影响,却会一种运算产生致命的影响: ==。恩,就是判断相等。注意,C/C++中浮点数的==需要完全一样才能返回true。来看下面这个例子:
#include <iostream>
#include<math.h>
using namespace std;
int main()
{
double a=asin(sqrt(2.0)/2)*4.0;
double b=acos(-1.0);
printf("a =%.20lf\n",a);
printf("b =%.20lf\n",b);
printf("a-b=%.20lf\n",a-b);
printf("a==b = %d\n",a==b);
return 0;
}
解决办法,引进eps,辅助判断浮点数相等
- eps(epsilon)
eps最常见的取值是1e-8左右。引入eps后我们判断两浮点数a,b相等的方式是:
定义三出口函数:int sgn(double a){ return a< -eps?-1:a< eps?0:1;}
则各种判断大小的运算都应做如下修改:
传统意义 | 修正写法1 | 修正写法2 |
a==b | sgn(a-b) ==0 | fabs(a -b) <eps |
a!=b | sgn(a-b) !=0 | fabs(a-b)>eps |
a<b | sgn(a-b)<0 | a-b<-eps |
a<=b | sgn(a-b)<=0 | a-b<eps |
a>b | sgn(a-b)>0 | a-b>eps |
a>=b | sgn(a-b)>=0 | a-b>-eps |
这样才能把相差非常近的浮点数判为相等,相差较大的数判为不等。
ps:养成好习惯,尽量不要对浮点数用==判断。修正写法2中就没有等号
最新文章
- MySql: 查看当前登录用户,当前数据库
- spring-data-jpa 方法名关键字的命名规范
- 关于SQLSERVER中用SQL语句查询的一些个人理解
- java获取文件名的三种方法
- linux安装nginx
- 【转载】ogre内存管理
- Arduino
- 当html中存在url中如: onclick=";toView(&#39;参数1&#39;)";, 参数1是特别字符,如&;asop;&;quot;&#39; ";等时,浏览器解析时会报错。解决方法如文中描述
- vim的基本使用方法
- chapter 13_2 关系类、库定义的元方法
- Android的四大组件及应用安装安全问题(4)
- 手动卸载的vs2010
- Akka-CQRS(0)- 基于akka-cluster的读写分离框架,构建gRPC移动应用后端架构
- vuex 、store、state (转载)
- iOS -- Effective Objective-C 阅读笔记 (1)
- python assert用法
- 浅谈log4j-6-xml配置 转自godtrue
- OTU(operational taxonomic units),即操作分类单元
- Prometheus Node_exporter 之 Memory Detail Vmstat
- Ubuntu16.04安装Zabbix3.2(快速安装教程)