GBT数值修约规则.doc

GBT数值修约规则.doc

ID:53687518

大小:21.00 KB

页数:3页

时间:2020-04-05

GBT数值修约规则.doc_第1页
GBT数值修约规则.doc_第2页
GBT数值修约规则.doc_第3页
资源描述:

《GBT数值修约规则.doc》由会员上传分享,免费在线阅读,更多相关内容在行业资料-天天文库

1、个人资料整理仅限学习使用数值修约规则RulesforroundingoffofnumbericalvaluesUDC511.1/2GB/T8170-1987本标准适用于科学技术与生产活动中实验测定和计算得出的各种数值。需要修约时,除另有规定者外,应按本标准给出的规则进行。l术语1.1修约间隔系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修的到位小数。例2:如指定修约间隔为100,修约值即应在100的整数

2、倍中选取,相当于将数值修约到“百”数位。1.2有效位数对没有小数位且以若于个零结尾的数值,从非零数字最左位向右数得到的位数减去无效零<即仅为定位用的零)的个数;对其他十进位数,从非零数字最左、位向右数而得到的位数,就是有效位数。例1:35000,若有两个无效零,则为三位有效数,应写为350X102;若有三个无效零,则为两位有效数,应写为35X103。例2:3.2、0.32、0.032、0.0032均为两位有效位数;0.0320为三位有效位数。例3:12.490为五位有效位数;10.00为四位有效位数。1.305单

3、位修约<半个单位修约)指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。例如:将60.28修约到个数位的0.5单位,得60.5<修约方法见本规则5.1)。2确定修约位数的表达方式2.1指定数位a.指定修约间隔为10-n

4、字小于5时,则舍去,即保留的各位数字不变。例1:将12.1498修约到一位小数,得12.1。例2:将12.1498修约成两位有效位数,得12。3.2拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。例1:将1268修约到“百”数位,得13X102<特定时可写为1300)。例2:将1268修约成三位有效位数,得127X10<特定时可写为1270)。3/3个人资料整理仅限学习使用例3:将10.502修约到个数位,得11。注:本标准示例中,“特定时”的涵义系指修约间

5、隔或有效位数明确时。3.3拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数<1,3,5,7,9)则进一,为偶数<2,4,6,8,0)则舍弃。例1:修约间隔为0.1<或10-1)拟修约数值修约值1.0501.00.3500.4例2:修约间隔为1000<或103)拟修约数值修约值25002X103<特定时可写为2000)35004X103<特定时可写为4000)例3:将下列数字修约成两位有效位数拟修约数值修约值0.03250.0323250032X103<特定时可写为3200)3.4负数

6、修约时,先将它的绝对值按上述3.1~3.3规定进行修约,然后在修约值前面加上负号。例1:将下列数字修约到“十”数位拟修约数值修约值-355-36X10<特定时可写为-360)-325-32X10<特定时可写为-320)例2:将下列数字修约成两位有效位数拟修约数值修约值-365-36X10<特定时可写为一360)-0.0365-0.0364不许连续修约4.1拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按第3章规则连续修约。例如:修约15.4546,修约间隔为1正确的做法:15.4546→15不正确的做法

7、:15.4546→15.455→15.46→15.5→164.2在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。4.2.1报出数值最右的非零数字为5时,应在数值后面加“<+)”或“<-)”或不加符号,以分别表明已进行合、进或未舍未进。例如:16.50<+)表示实际值大于16.50,经修约舍弃为16.50;16.50<+)表示实际值小于16.50,经修约进一成为16.50。4.2.23/3个人资料整理仅限学习使用如果判定报

8、出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有<+)号者进一,数值后面有<-)号者舍去,其他仍按第3章规则进行。例如:将下列数字修约到个数位后进行判定<报出值多留一位到一位小数)。实测值报出值修约值15.454615.5<-)1515.454616.5<+)1717.500017.518-15.4546-<15.5<-))-1550.5

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。