近似值计算
按全数值比较 法判定
不符合 不符合 符合 符合
符合 符合 不符合 不符合
不符合 不符合 符合 不符合
不符合 符合 不符合 不符合
修约值
13×100 14×100 14×100 14×100
0.5 0.5 0.5 0.6
9.9 9.8 10.1 10.2
1.2 1.2 1.6 1.7
按修约值比 较法判定
原始数据记录时不准任意舍弃测试数据的可读尾数,否则 造成两次或多次修约错误。
《拉力、压力、和万能试验机》(JJG139-1999)
实测值 15.4546
报出值 15.5 -
-15.4546
-15.5 -
16.5203
16.5 +
-16.5203
-16.5 +
17.5000
17.5
修约值 15 -15 17 -17 18
4、0.5单位和0.2单位修约
对数值进行修约时,如有必要,也可采用0.5单位 和0.2单位修约。
A、拟舍弃数字最左一位数字小于5,则舍去,其 余各位数字不变.
如:将12.1498修约到个位,得到12;修约到一位 小数,得到12.1。
B、拟舍弃数字最左一位数字大于5,则进一,即 保留数字的末位数字加1。
如:将1268修约到“百”位数,得到13×102, (特定的场合也可写作1 300)
C、拟舍弃数字最左一位数字是5,且其后有非0数 值时进一,即保留数字的末位数字加1。
超过A到B
A﹤X≤B A﹤●≤B
>A~B
大于或等于A且小于B 大于A且小于B
至少A不足B
A≤X ﹤ B A≤ ● ﹤ B
A~ ﹤ B
超过A不足B
A ﹤ X ﹤ B A ﹤ ● ﹤B
3、带有极限偏差的数值
A、基本数值X带有绝对极限上偏差+b1和绝对极 限下偏差-b2,指从X- b2到X+ b1符合要求,计为 :X+b1-b2。当b1= b2时,可以记为X±b。
C、全数值比较法:将测试所得测定值或计算值 不经过修约处理(或经过修约处理,但应标明它 是经过舍去、进或未舍未进而得),用该数值与 规定的极限数值作比较,只要超出极限数值规定 的范围,都判定为不符合要求。
D、修约值比较法:将测定值或其计算值进行修 约,修约数位应该与规定的极限数值位数相一致 。然后与标准规定的极限数值比较,只要超出极 限数值规定的范围,都判定为不符合要求。
832
4160
4200
840
-930
-4650
- 4600
-920
三、极限数值的表示与判断
1、表示极限数值的基本用语
基本用语
符号
特定情形下的基本用语
备注
大于A
﹥A
多于A
高于A
测定值或计算值恰好为A 时不符合要求
小于A
﹤A
少于A
低于A
测定值或计算值恰好为A 时不符合要求
大于或等于A
≥A
不小于A
如:16.50 +表示实际值大于16.50;
16.50 -表示实际值小于16.50;
16.50 表示实际值等于16.50;
b、如对报出数值进行修约,当拟舍去数字的最左一 位数字为5,且其后无数字或皆为零时,数值右 上角有“+”号时者进一,修约数据末位加1, 有“-”号者舍去,其它皆按以上规则实行。
如将下列数值修约到个位
如:80+2-1mm,指从79mm到82mm符合要求。
B极的、限相基下对本偏 偏数差 差值-值bA2[%(带R,有-A指绝)/A实对]从测极-值限b2或%上其到偏计+差b算+1%b值1符%R合和对要绝于求对A ,计为:X+b1-b2%。
如:510Ω(1±5%),指实测或计算值R( Ω)
对于510 Ω的相对偏差值[(R-510)/510]从-5%到
-60.75 -121.50
- 122
61
B、0.2单位的修约方法:
将拟修约的数值X乘以5,按指定的修约间隔对5X进行依照 以上原则修约,修约后数值除以5.
如:将以下数据修约到“百”数位的0.2单位的修约值
X
5X
5X修约值
X修约值
830
4150
4200
840
842
4210
4200
840
不符合 符合 符合 符合
符合 符合 符合 不符合
符合 不符合 符合 不符合
符合 符合 符合 不符合
谢 谢 大 家!
GB/T8170-2008
原始数据的读取、ห้องสมุดไป่ตู้录 和处理细则
一、原始数据读取规则 1. 测量前,应估计试样的被测量值。 2. 按检测实施细则规定,选择试验机或其他测量器具及其
相应的量程(指示度盘); 3. 检测(测量)中,严格按照所选量程确定的分度(最小
6、估读位采用二分之一分度估读法: 二分之一分度估读法:先确认量程,然后将分度(最小
刻度)值一分为四,示值< 四分之一分度,读前一刻度值 ;示值≥四分之一分度,示值< 四分之三分度,读二分之 一分度值;示值≥四分之三分度,读后一分度值。
二、原始数据记录规则
1. 仪器设备的最小示值(间隔)为1.0× (kN;N;kg;g; cm;mm;……),则末位按二分之一估读法读取并记录至 0.5 × 的整数倍。
不少于A
不低于 A
测定值或计算值恰好为A 时符合要求
小于或等于A
≤A
不大于A
不多于A
不高于 A
测定值或计算值恰好为A 时符合要求
2、表达极限数值X的组合用语及符号
组合基本用语
组合允许用语
表示方式1
符号 表示方式2
表示方式3
大于或等于A且小于等于B 从A到B
A≤X ≤ B
A≤ ● ≤ B
A~B
大于A且小于等于B
5. 个别最小分度值为2.5× 的设备,“可读能力”确定为 1/5(JJG139-1999),末位估读采用五分之一最小分度值 估读法。方法为:将最小分度值一分为五,然后估读并记 录至0.5 m× 的整数倍,m为0~5的自然数。
6. 游标卡尺类测试器具应按其精度读取并记录,(例:精 度为0.02的游标卡尺其读数和记录的尾数只可能为0.02的 整数倍)。
A、0.5单位的修约方法:
将拟修约的数值X乘以2,按指定的修约间隔对2X 进行依照以上原则修约,缩短为数值除以2.
如:将以下数据修约到”个”数位的0.5单位修约
X
2X
2X修约值
X修约值
60.25
120.50
120
60
60.38
120.76
121
60.5
60.28 120.56
121
60.5
刻度)值读数: 4. 带有数字式指示装置类型的仪器、设备,待末位数字稳
定(或变动稳定)后读数; 4.1 数字式指示装置的“可读能力” 。
4.1.1当示值的变动不大于1个增量时,则应为数字示值的 一个增量;
4.1.2当示值的变动大于1个增量时,则应为数字式示值变 动范围的1/2。
5、 指针式仪器、设备或有刻度(带有、不带有游标)的 仪表、设备和其他带有这种类型模拟指示装置的检测器具 ,“可读能力”一般可定为为分度(最小刻度)值的1/2 、1/5或1/10,为保证最大读数误差小于等于1%,我们确 定“可读能力”为1/2(参照JJG139-1999),读数时从分 度(最小刻度)值向后估读一位;
如:对于保留三位小数,或修约间隔为10-3
-0.0365 →-36 ×10-3也可写作-0.036
-0.0355 →-36 ×10-3也可写作-0.036
数值修约规则口诀 四舍六入五考虑 五后非零则进一 五后皆零视奇偶 五前为偶应舍去 五前为奇则进一
3、不允许连续修约
A、拟修约数字应在确定修约间隔或指定修约位数 后一次修约获得结果,不得多次连续修约。
2. 仪器设备的最小示值(间隔)为2× (kN;N;kg;g;cm ;mm;……),则末位按二分之一估读法读取并记录至 1× 的整数倍。
3. 仪器设备的最小示值(间隔)为4× (kN;N;kg;g;cm ;mm;……),则末位按二分之一估读法读取并记录至 2× 的整数倍。
4. 仪器设备的最小示值(间隔)为5.0× (kN;N;kg;g; cm;mm;……),则末位按二分之一估读法读取并记录至 2.5× 的整数倍。
二、数值修约规则
1、确定修约间隔 A、指定修约间隔为10-n(n为正整数),或指 明将数值修约到n位小数。
B、指定修约间隔为1,或指明将数值修约到 “个”位数。
C、指定修约间隔为10n(n为正整数),或指明 将数值修约到n数位,或指明将数值修约到“十”、 “百”、“千”。。。。位。
2、进舍规则
如:对于修约间隔为1
正确的修约为:97.465 →97;
不正确的修约为: 97.465→97.5 →98。
B、在实际工作中,测试与计算部门先将获得数值 按指定的修约数位多一位或几位报出,而后由其 它部门判定,此时应该遵循以下规定:
a、报出数值的最右的非零数字为5时,应该在数字 的右上角加“+”或“-”或不加符号,分别表 示已经进行过舍、进或未舍未进。
数据修约
中铁港航局工程检测中心 周小勇
一、基本概念
1、数值修约:通过省略原数值的最后若干位 数字,调整保留的末位数字,使得最后得到的数 值最接近原始数值的过程。
2、修约间隔:修约值的最小数值单位。修约 间隔数值一经确定,修约值即为该数值的整数倍。
3、极限数值:标准(或技术规范)中规定考 核的以数量形势给出且符合该标准(或技术规范) 要求的指标数值范围的界限值。