float 的有效数字为七位是怎么得出来的
2024-08-26 00:32:22
以下内容来自CSDN网友xian_wwq的回答(http://bbs.csdn.net/topics/390874239)：
float：
1bit（符号位） 8bits（指数位） 23bits（尾数位）
精度是由尾数的位数来决定的
float：2^23 = 8388608，一共七位，这意味着最多能有7位有效数字，
但绝对能保证的为6位，也即float的精度为6~7位有效数字；
最新文章
- 替换节点及replaceEach方法
- 如何通过ps -ef|grep tomcat只获得你需要的查询进程，排除掉grep本身的进程信息
- 【LeetCode OJ】Palindrome Partitioning II
- C#学习笔记9：C#中的变量、转义符、显式转换和隐式转换
- android.os.NetworkOnMainThreadException异常处理办法
- linux修改系统时间date命令加clock -w
- Hiddenfield控件
- T-SQL查询语句(三)：多表查询
- 人生在于折腾:php实现下载导出xx.tar.gz
- swipe和swiper的区别
- Python Cookbook(第3版)中文版：15.17 传递文件名给C扩展
- js下载后台返回的docx（返回格式：文档流）文件
- 在Windows下使用Git+TortoiseGit+码云管理项目代码
- c语言笔记3运算符与表达式
- Nginx常用功能
- hihoCoder week15 最近公共祖先·二
- java.lang.NoClassDefFoundError: org/apache/solr/common/params/SolrParams
- 这可能是最详细的Python文件操作
- 最大子段和(Max Sum)
- golang 热更新技巧 负载均衡才是正道啊