计算题
1.对被测件的长度重复测量10次,测量数据如下:10.0006m,10.0004m,10.0008m,10.0002m,10.0005m,10.0005m,10.0007m,10.0004m,10.0006m.用实验标准偏差表征测量的重复性,请计算实验标准偏差。
提示:m
)
s=
(χ=0.002m(自由度为n-1=9)
0015
.0
2.对某被测件进行了4次测量,测量的数据为:0.02g,0.05g,0.04g,0.06g。
请用极差法估算实验标准偏差。
提示:s(χ)=0.02g
3.重复观测某电阻器之值共n=10次,其10个结果,从小到大排为:10.0003Ω,10.0004Ω,10.0004Ω,10.0005Ω,10.0005Ω,10.0005Ω,10.0006Ω,10.0006Ω,10.0007Ω,10.0012Ω.请用狄克逊准则判别异常值,并用格拉布斯准则判别以作比较。
提示:
χ为异常值
10
4.对一等活塞压力计的活塞有效面积检定中,在各种压力下,测得10次活塞有效面积与标准活塞面积只比l(由l的测量结果乘标准活塞面积就得到被检活塞的有效面积)如下:0.250670,0.250673, 0.250670,0.250671,0.250675,,0.250671,0.250675,0.250670,0.250673,0.250670问l的测量结果及其A类标准不确定度。
提示:A类标准不确定度为0.63×10-6
5.对测量过程进行2次核查,均在受控状态。
第一次核查时,测4次,
n=4,得到测量值:0.250mm,0.236mm,0.213mm,0.220mm;第一次核查时,也测4次,求得s2=0.015mm。
在该测量过程中实测某一被测件,测量6次,问测量结果y的A类标准不确定度。
提示:A类标准不确定度为0.007mm,自由度为6.
6.由于电流表的准确度等级是按引用误差规定的,例如1级表,表明该表以引用误差表示的最大允许误差为±1%。
现有一个0.5级的测量上限为100A的电流表,问在测量50A时用绝对误差和相对误差表示的最大允许误差各有多大?
提示:最大绝对误差为±0.5A. 所以在50A示值时允许的最大相对误差±1%。
7.校准证书上说明标称值为10Ω的标准电阻在23℃时的校准值为10.000074Ω,扩展不确定度为90µΩ,置信水平为99%,求电阻的相对不确定度。
提示:相对不确定度为3.5×10-6
8.校准证书上给出标称值为1000g的不锈钢标准砝码质量ms的校准值为1000.000325g,且校准不确定度24µg(按三倍标准偏差计),求砝码的标准不确定度。
提示:标准不确定度为:8µg
8、计算:18.3+1.454 6+0.876,问答案是多少?如果计算结果被用于
下一步运算,答案应是多少?
解答:18.3+1.454 6+0.876≈18.3+1.45+0.88 = 20.63≈20.6
即答案是20.6。
若用于下一步运算,则有效数字多取一位,即答案是20.63。
9、计算:28.1+14.54+3.0007
解答:28.1+14.54+3.0007≈28.1+14.54+3.00 = 45.64≈45.6
10、计算:4.3431+3.5714+4.64
解答:4.3431+3.5714+4.64≈4.343+3.571+4.64 = 12.554≈12.55
11、计算:10+1.747—2.007+1.1
解答:10+1.747—2.007+1.1≈10+1.7—2.0+1.1 = 10.8≈11
12、计算:1.1×0.326 8×0.103 00,问答案是多少?如果计算结果被用
于下一步运算,答案应是多少?
解答:1.1×0.326 8×0.103 00≈1.1×0.327×0.103 = 0.037 0≈0.037
即答案是0.037。
若计算结果被用于下一步运算,则多取一位有效数字,即答案是0.0370
13、计算:2.384 7×0.76÷416 78
解答:2.384 7×0.76÷416 78≈2.38×0.76÷4.17×104 = 4.337 649
88×10-5≈4.3×10-5
14、将数据12.344,12.351,12.450,12.350取到小数点后1位。
解答:12.3,12.4,12.4,12.4。
15、计算:4.143 2×0.33×2.427
解答:4.143 2×0.33×2.427≈4.14×0.33×2.43 = 3.32≈3.3
16、计算:4.400+0.012×18.352÷0.200 2—1.52×2.0
解答:4.400+0.012×18.352÷0.200 2—1.52×2.0
≈4.40+0.012×18.4÷0.200—2.25×2.0
≈4.40+1.10—4.50
= 1.00 = 1.0
17、已知圆半径R = 3.145 mm,问周长C是多少?
解答:按公式C=2πR
=2.000×3.1416×3.145
=19.760 664
≈19.76 mm。