数据类型表:

类型缩写

类型

默认长度

允许长度

初始值

描述

C

文本型

1

 

Space

字符串数据,如'Program'

D

日期型

8

8

'00000000'

日期数据,格式为YYYYMMDD

F

浮点型

8

8

0

浮点数

I

整型

4

10

0

带正负符号的整数

N

数值型

1

31

'00…0'

数值所组成的字符串

P

压缩型

8

16

0

将两个 十进制数字压缩到一个字节

T

时间型

6

6

'000000'

时间

P类型(压缩型)数据

是一种压缩的定点数,其数据对象占据内存字节数和数值范围取定义时指定的整个数据大小和小数点后位数,如果不指定小数位,则将视为I类型。其有效数字位大小可以是从1~31位数字(小数点与正负号占用一个位置,半个字节),小数点后最多允许14个数字。

P类型的数据,可用于精确运算(这里的精确指的是存储中所存储的数据与定义时字面上所看到的大小相同,而不存在精度丢失问题——看到的就是内存中实实在在的大小)。在使用P类型时,要先选择程序属性中的选项 Fixed point arithmetic(即定点算法,一般默认选中),否则系统将P类型看用整型。其效率低于I或F类型。

"16 * 2 = 32表示了整个字面意义上允许的最大字面个数,而14表示的是字面上小数点后面允许的最大小数位,而不是指14个字节,只有这里定义时的16才表示16个字节

DATA: p(16) TYPE p DECIMALS 14 VALUE '12345678901234567.89012345678901'.

"正负符号与小数点固定要占用半个字节,一个字面上位置,并包括在这16个字节里面。 "16 * 2 = 32位包括了小数点与在正负号在内 "在定义时字面上允许最长可以达到32位,除去小数点与符号需占半个字节以后 "有效数字位可允许31位,这31位中包括了整数位与小数位,再除去定义时小 "数位为14位外,整数位最多还可达到17位,所以下面最多只能是17个9 DATA: p1(16) TYPE p DECIMALS 14 VALUE '-99999999999999999'.

"P类型是以字符串来表示一个数的,与字符串不一样的是,P类型中的每个数字位只会占用4Bit位,所以两个数字位才会占用一个字节。另外,如果定义时没有指定小数位,表示是整型,但小数点固定要占用半个字节,所以不带小数位与符号的最大与最小整数如下(最多允许31个9,而不是32个) DATA: p1(16) TYPE p  VALUE '+9999999999999999999999999999999'. DATA: p2(16) TYPE p  VALUE '-9999999999999999999999999999999'.

其实P类型是以字符串形式来表示一个小数,这样才可以作到精确,就像Java中要表示一个精确的小数要使用BigDecimal一样,否则会丢失精度。

DATA: p(9) TYPE p DECIMALS 2 VALUE '-123456789012345.12'. WRITE: / p."123456789012345.12-

DATA: f1 TYPE f VALUE '2.0',       f2 TYPE f VALUE '1.1',       f3 TYPE f. f3  =  f1 - f2."不能精确计算 "2.0000000000000000E+00 1.1000000000000001E+00 8.9999999999999991E-01 WRITE: / f1   , f2 , f3.

DATA: p1 TYPE p DECIMALS 1 VALUE '2.0',       p2 TYPE p DECIMALS 1 VALUE '1.1',       p3 TYPE p DECIMALS 1. p3  =  p1 - p2."能精确计算 WRITE: / p1   , p2 , p3. "2.0               1.1               0.9

Java中精确计算:

publicstaticvoid main(String[] args) {

System.out.println(2.0 - 1.1);// 0.8999999999999999

System.out.println(sub(2.0, 0.1));// 1.9

}

publicstaticdouble sub(double v1, double v2) {

BigDecimal b1 = new BigDecimal(Double.toString(v1));

BigDecimal b2 = new BigDecimal(Double.toString(v2));

return b1.subtract(b2).doubleValue();

}

最新文章

  1. java日历显示年份、月份
  2. IIS事件查看器_WebServer事件查看器_帮助查看IIS-Web服务器事件执行日志
  3. tp框架总结(四)
  4. 深入浅出: Java回调机制(异步)
  5. opencv高斯背景建模
  6. 关于cookie的文章(cookie与session机制)
  7. JAVA类的构造方法
  8. Research on Unsupervised Word Alignment Based on Inversion Transduction Grammar
  9. MyBatis之一:入门
  10. POJ1456 Supermarket 贪心
  11. ubuntu14.04 开启root登陆
  12. 关于无光盘无u盘状态下该如何安装系统
  13. c++ 依据输入动态声明数组(一维,二维)
  14. 详细解剖大型H5单页面应用的核心技术点
  15. C语言程序设计第一次作业 冯亚杰
  16. 零基础Windows + JAVA(jdk)环境搭建以及eclipse安装和使用
  17. 微信小程序实现支付功能
  18. mysql case when then else end 的用法
  19. OpenGL中的原子操作需要注意的地方
  20. import 与 import static

热门文章

  1. 选中DataGrid的Cell而不是row
  2. 微信小程序 加载 HTML 标签
  3. Vijos1132:求二叉树的先序序列
  4. HDU1269(有向图缩点模板题)
  5. selenium上传文件,怎么操作
  6. iterator与iterable的区别和联系
  7. IOS要用到的零碎东西
  8. 使用API修改控制台输出的颜色(前景色和背景色)
  9. 了解protected 以及公用、私有和受保护的继承
  10. HDU - 6114 2017百度之星初赛B Chess