lua默认是double类型
2024-08-22 13:08:39
把c#的float类型传给lua ，lua自己换转成double ，一转就出精度问题
lua只有double没有float
======================================
fload 是4个字节，double 是8个字节
在有限的空间里是不能表示出无限的数据的
所以浮点数表示的都是近似值，只有有效数的概念，而无精度的概念
而有效数字的运算结果的有效数字不会超过参与运算的最小有效数字
===================
其实在c#这边转也是有问题的
比如 float 1.51 转成 double
输出的结果是不一样的
要想一样则先转字符串再转double
最新文章
- Webform Application、ViewState
- hiberante学习笔记
- cf 710E dp
- AndroidStudio第一个项目HelloWorld
- Unable to resolve target 'android-i'
- oracle创建表空间、用户
- 详解Makefile 函数的语法与使用
- SQL注入(四)
- 【Unity3D与23种设计模式】游戏的主循环——Game Loop
- python 利用tkinter模块设计出window窗口(搞笑版）
- Java序列化的作用和反序列化
- OVS 精确删除流表
- React 中 context 的使用
- numpy 数组创建例程
- Booleans
- apache代理配置https
- 如何快速获取官网帮助信息 (附 11g pdf 文档）
- 无法安装64位office，因为已有32位版本怎么办
- sql 查询目标数据库中所有的表以其关键信息
- Problem B: 零起点学算法92——元素前移1位