- 1、本文档共7页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
TM-066有效数字和数值修约运算
有效数字和数值的修约运算
起草人 审核人 审核人 批准人 部门 QC QA QC 质量管理部 姓名 饶涛 黄祥彪 汪大才 邓志军 签名 日期
分发部门:
质量管理部(QA、QC)
目的
制订有效数字和数值修约和运算规程。
范围
适用药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
职责
QC主管、QC检验员。
操作内容
4.14.1.1 有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。
4.1.2 有效数字的定位(数位),是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。欠准数字可以是十进位的任何数位,用10n来表示;n可以是正整数,如n=1、101=10(十数位),n=2、102=100(百数位),n也可以是负数,如n=-1、10-1=0.1(十分位),n=-2、10-2=0.01(百分位)。
4.1.3 有效位数
4.1.3.1 在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位数,应写作35×103。
4.1.3.2 在其它十进位数中,有效位数系指从非零最左一位向右数得到的位数。例如3.2、0.32、0.032和0.0032均为两位有效位数,0.320为三位有效位数、10.00为四位有效位数,12.490为五位有效位数。
4.1.3.3 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位;例如分子式“H2SO4”中的“2”和“4”是个数,上述π、e和系数等数值的有效位数也可视为是无限多位;含量测定项下“每lml的XXXX滴定液(0.1mol/L……)”中的“0.1”为名义浓度,规格项下的“0.3g”或“lml:25mg”中的“0.3”、“1”和“25”为标示量,其有效位数也均为无限多位;即在计算中,其有效位数应根据其他数值的最少有效位数而定。
4.1.3.4 pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。如pH=11.26([H+]=5.5×10-12mol/L),其有效位数只有两位。
4.1.3.5 有效数字的首位数字为8或9时,其有效位数可以多计一位。例如85%与115%,都可以看成是三位有效位数;99.0%与101.0%都可以看成是四位有效数字。
4.2 数值修约及其进舍规则
4.2.1 数值修约 是指对拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。
4.2.2 修约间隔 是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值即应为该数值的整数倍。例如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。
4.2.3 确定修约位数的表达方式
4.2.3.1 指定数位
4.2.3.1.1 指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后n位。
4.2.3.1.2 指定修约间隔为1,或指明将数值修约到个数位。
4.2.3.1.3 指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。
4.2.3.2 指定将数值修约成n位有效位数(n为正整数)。
4.2.4 进舍规则
4.2.4.1 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。
例1 将12.1498修约到一位小数(十分位),得12.1。
例2 将12.1498修约成两位有效位数,得12。
4.2.4.2 拟舍弃数字的最左一位数字大于5,或者是5,而其后跟有并非全部为0的数字时,则进一,即在保留的末位数字加1。
例1 将1268修约到百数位,得13×102。
例2 将1268修约到三位有效位数,得127×10。
例3 将10.502修约到个数位,得11。
4.2.4.3 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。
例1 修约间隔为0.1(或10-1)
拟修约数值 修约值 1.050 1.0 0.350 0.4 例2 修约间隔为1000(或103)
拟修约数值 修约值 2500 2×103 0.35
您可能关注的文档
- HR瞬间检验面试者是否合格9个问题.doc
- html你可能还不知道一些知识点.doc
- IC制造中清洗技术发展分析.doc
- INA轴承过早失效缘由剖析和注意事项.doc
- Inventor中十种创建工作平面最常用方法.doc
- ISO9001-2008标准相关条款联系和区别.doc
- iso90012015和2008条款对照.doc
- ISO9001标准理解和实施培训教材.doc
- ISO9001新旧标准要求比较.doc
- Java21个技术点和知识点归纳.docx
- 2023-2024学年广东省深圳市龙岗区高二(上)期末物理试卷(含答案).pdf
- 2023-2024学年贵州省贵阳市普通中学高一(下)期末物理试卷(含答案).pdf
- 21.《大自然的声音》课件(共45张PPT).pptx
- 2023年江西省吉安市吉安县小升初数学试卷(含答案).pdf
- 2024-2025学年广东省清远市九校联考高一(上)期中物理试卷(含答案).pdf
- 广东省珠海市六校联考2024-2025学年高二上学期11月期中考试语文试题.pdf
- 2024-2025学年语文六年级上册第4单元-单元素养测试(含答案).pdf
- 2024-2025学年重庆八中高三(上)月考物理试卷(10月份)(含答案).pdf
- 安徽省安庆市潜山市北片学校联考2024-2025学年七年级上学期期中生物学试题(含答案).pdf
- 贵州省部分校2024-2025学年九年级上学期期中联考数学试题(含答案).pdf
文档评论(0)