- 1、本文档共20页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
模型变量定点化
CII Technologies, Inc. 模型定点化———浮点转定点方法总结
浮点转定点方法总结
模型定点化
—孔德琦
1
CII Technologies, Inc. 目录
目录
定点运算方法 3
1.1 数 的 定 标 3
1.2 C 语言:从浮点到定点 4
1.2.1 加法 4
1.2.2 乘法 6
1.2.3 除法 7
1.2.4 三角函数运算 8
1.2.5 开方运算 9
1.3 附录 10
1.3.1 附录 1:定点函数库 10
1.3.2 附录 2:正弦和余弦表 19
2
CII Technologies, Inc. 浮点转定点方法总结
定点运算方法
1.1 数 的 定 标
对某些处理器而言,参与数值运算的数就是 16 位的整型数。但在许多情况下,数学运
算过程中的数不一定都是整数。那么,如何处理小数的呢?应该说,处理器本身无能为力。
那么是不是就不能处理各种小数呢?当然不是。 这其中的关键就是由程序员来确定一个数
的小数点处于 16 位中的哪一位。这就是数的定标 。
通过设定小数点在 16 位数中的不同位置,就可以表示不同大小和不同精度的小数了。
数的定标用 Q 表示法 。表 1.1 列出了一个 16 位数的 16 种 Q 表示能表示的十进 制 数值 范围
和近似 的精度。
Q 表示 精度 (近似 ) 十进 制数表示 范围
Q15 0.00002 - 1≤X ≤0.9999695
Q14 0.00005 - 2≤X ≤1.9999390
Q13 0.0001 - 4≤X ≤3.9998779
Q12 0.0002 - 8≤X ≤7.9997559
Q11 0.0005 - 16≤X ≤15.9995117
Q10 0.001 - 32 ≤X ≤31.9990234
Q9 0.002
文档评论(0)