模型变量定点化.pdf

  1. 1、本文档共20页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
模型变量定点化

CII Technologies, Inc. 模型定点化———浮点转定点方法总结 浮点转定点方法总结 模型定点化 —孔德琦 1 CII Technologies, Inc. 目录 目录 定点运算方法 3 1.1 数 的 定 标 3 1.2 C 语言:从浮点到定点 4 1.2.1 加法 4 1.2.2 乘法 6 1.2.3 除法 7 1.2.4 三角函数运算 8 1.2.5 开方运算 9 1.3 附录 10 1.3.1 附录 1:定点函数库 10 1.3.2 附录 2:正弦和余弦表 19 2 CII Technologies, Inc. 浮点转定点方法总结 定点运算方法 1.1 数 的 定 标 对某些处理器而言,参与数值运算的数就是 16 位的整型数。但在许多情况下,数学运 算过程中的数不一定都是整数。那么,如何处理小数的呢?应该说,处理器本身无能为力。 那么是不是就不能处理各种小数呢?当然不是。 这其中的关键就是由程序员来确定一个数 的小数点处于 16 位中的哪一位。这就是数的定标 。 通过设定小数点在 16 位数中的不同位置,就可以表示不同大小和不同精度的小数了。 数的定标用 Q 表示法 。表 1.1 列出了一个 16 位数的 16 种 Q 表示能表示的十进 制 数值 范围 和近似 的精度。 Q 表示 精度 (近似 ) 十进 制数表示 范围 Q15 0.00002 - 1≤X ≤0.9999695 Q14 0.00005 - 2≤X ≤1.9999390 Q13 0.0001 - 4≤X ≤3.9998779 Q12 0.0002 - 8≤X ≤7.9997559 Q11 0.0005 - 16≤X ≤15.9995117 Q10 0.001 - 32 ≤X ≤31.9990234 Q9 0.002

文档评论(0)

dajuhyy + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档