在定点DSP芯片中,采用定点数进行数值运算,其操作数一般采用整型数来表示。一个整型数的最大表示范围取决于DSP芯片所给定的字长,一般为16位或24位。显然,字长越长,所能表示的数的范围越大,精度也越高。如无特别说明,本书均以16位字长为例。

DSP芯片的数以2的补码形式表示。每个16位数用一个符号位来表示数的正负,0表示数值为正,1则表示数值为负。其余15位表示数值的大小。因此,

对DSP芯片而言,参与数值运算的数就是16位的整型数。但在许多情况下,数学运算过程中的数不一定都是整数。那么,DSP芯片是如何处理小数的呢?应该说,DSP芯片本身无能为力。那么是不是说DSP芯片就不能处理各种小数呢?当然不是。这其中的关键就是由程序员来确定一个数的小数点处于16位中的哪一位。这就是数的定标。

通过设定小数点在16位数中的不同位置,就可以表示不同大小和不同精度的小数了。数的定标有Q表示法和S表示法两种。表3.1列出了一个16位数的16种Q表示、S表示及它们所能表示的十进制数值范围。

从表3.1可以看出,同样一个16位数,若小数点设定的位置不同,它所表示的数也就不同。例如:

但对于DSP芯片来说,处理方法是完全相同的。

从表3.1还可以看出,不同的Q所表示的数不仅范围不同,而且精度也不相同。Q越大,数值范围越小,但精度越高;相反,Q越小,数值范围越大,但精度就越低。例如,Q0的数值范围是-32768到+32767,其精度为1,而Q15的数值范围为-1到0.9999695,精度为 1/32768 = 0.00003051。因此,对定点数而言,数值范围与精度是一对矛盾,一个变量要想能够表示比较大的数值范围,必须以牺牲精度为代价;而想提高精度,则数的表示范围就相应地减小。在实际的定点算法中,为了达到最佳的性能,必须充分考虑到这一点。

浮点数与定点数的转换关系可表示为:

最新文章

  1. C#在函数内部获取函数的参数
  2. HTTPS那些事(三)攻击实例与防御(转载)
  3. 使用JSP开发动态网站基础
  4. Rational Rose2007下载安装教程以及问题处理
  5. [转]DAO层,Service层,Controller层、View层
  6. 基于s5pv210嵌入式linux系统sqlite3数据库移植
  7. Red Gate系列之一 SQL Compare 10.4.8.87 Edition 数据库比较工具 完全破解+使用教程
  8. 怎样使Android应用程序获得root权限
  9. iOS NSNotificationCenter 移除通知带来的crash
  10. linux文件系统下的特殊权限
  11. golang基础- ElasticSearch搜索引擎、kibana可视化工具、向ES输出数据
  12. React多行文本溢出处理(仅针对纯文本)
  13. Vue keep-alive的总结
  14. Windows中几个内存相当的指标
  15. 案例学python——案例二:连接数据库MySql
  16. oracle第二天笔记
  17. golang闭包里的坑
  18. javascript 奇技淫巧45招
  19. 使用vs2015编辑c++模板程序报错2019
  20. git push时提示"fatal: The current branch master has no..."

热门文章

  1. window10 vs2013 SIFTGPU
  2. sqlserver附加数据库时出错。有关详细信息,请单击“消息”列中的超链接
  3. phpstorm+xmapp post不能传值
  4. win10系统安装VMware虚拟机软件以及linux系统
  5. 2020-02-19Linux学习日记,第一天
  6. Kafka运维大全来了!优化、监控、故障处理……
  7. 如何清理ibdata1
  8. AJAX传输图片文件
  9. XPath简介、功能及使用方法
  10. JS常见的表单验证,H5自带的验证和正则表达式的验证