实验数据处理之有效数字运算规则
更新时间:2023-07-29 18:26:01 阅读量: 实用文档 文档下载
有效数字运算规则
间接测量的计算过程即为有效数字的运算过程,存在不确定度的传递问题。严格说来,应根据间接测量的不确定度合成结果来确定运算结果的有效数字。但是在没有进行不确定度估算时,可根据下列的有效数字运算法则粗略地算出结果。
有效数字运算总的原则是:运算结果只保留一位(最多两位)欠准确数字。
1.加减运算
根据不确定度合成理论,加减运算结果的不确定度,等于参与运算的各量不确定度平方和的开方,其结果大于参与运算各量中的最大不确定度。如:
N x y
UN x 2x U2y U(或Uy)
因此,加减运算结果的有效数字的末位应与参与运算的各数据中不确定度最大的末位对齐,或根据有效数字与不确定度的关系,计算结果的欠准确数字与参与运算的各数值中最先出现的欠准确数字对齐。下面例题中在数字上加一短线的为欠准确数字。
【例3】32.1 3.235和116.9 1.652的计算结果各应保留几位数字?
【解】先观察一下具体计算过程:
32.1
3.235
35.335 116.91.652115.248
可见,一个数字与一个欠准确数字相加或相减,其结果必然是欠准确数字。例3中各数值最先出现欠准确数字的位置在小数点后第一位,按照运算结果保留一位欠准确数字的原则
32.1 3.235 35.3 116.9 1.652 115.2
分别为三位有效数字和四位有效数字,
2.乘除运算
乘除运算结果的相对不确定度,等于参与运算各量的相对不确定度平方和的开方,因此运算结果的相对不确定度大于参与运算各量中的最大相对不确定度。我们知道,有效数字位数越少,其相对不确定度越大。所以,乘除运算结果的有效数字位数,与参与运算各量中有效数字位数最少的相同。
【例4】1.1111 1.11的计算结果应保留几位数字?
【解】计算过程如下:
1.1111 1.11 11111 11111 11111
1.233321
因为一个数字与一个欠准确数字相乘,其结果必然是欠准确数字。所以,由上面的运算过程
可见,小数点后面第二位的“3”及其后的数字都是欠准确数字。按照保留一位欠准确数字的原则
为三位有效数字。这与上面叙述的乘除运算法则是一致的。即在该例中,五位有效数字与三1.1111 1.11 1.23
位有效数字相乘,计算结果应为三位有效数字,即与有效数字位数少的相同。
除法是乘法的逆运算,取位法则与乘法相同,这里不再举例说明。
对于一个间接测量,如果它是由几个直接测量值通过相乘除运算而得到的,那么,在进行测量时应考虑各直接测量值的有效数字位数要基本相仿,或者说它们的相对不确定度要比较接近。如果相差悬殊,那么精度过高的测量就失去意义。
3.乘方、立方、开方运算
运算结果的有效数字位数与底数的有效位数相同。
4.对数、三角函数运算
前面介绍的有效数字四则运算法则,是根据不确定度合成理论和有效数字的定义总结出来的。所以,对数、三角函数的计算必须按照不确定度传递公式,先求出函数值的不确定度,然后根据测量结果最后一位数字与不确定度对齐的原则来决定有效数字。
【例5】a 3068 2,求y lna ?
【解】按照不确定度传递公式
Uy 1
所以 a3068y lna 8.0288Ua 1 2 0.0007
或 y 8.0288 0.0007
【例6】 60 0 3 ,求x sin ?
【解】由不确定度传递公式
Ux |cos |U |cos60 |3 60 180 0.0004
所以 x sin60 0 0.8660
或 x 0.8660 0.0004
当直接测量的不确定度未给出时,上述过程也可简化为通过改变自变量末位的一个单位,观察函数运算结果的变化情况来确定其有效数字。例如 20 6 中的“6 ”是欠准确数字,由计算器运算结果为sin20 6 0.343659695 ,sin20 7 0.343932851 ,两种结果在小数点后面第四位出现了差异,所以
sin20 6 0.3436
同理ln598 6.393590754 ,ln599 6.395261598 ,所以
但是,这种方法是较粗糙的,有时与正确结果会出现明显差异。
5.常数
公式中的常数,如 、e、2等,它们的有效数字位数是无限的,运算时一般根据需要,比参与运算的其它量多取一位有效数字即可。例如:
2S r,r 6.042cm, 取为3.1416, S 3.1416 6.042
129.3 , 取为3.14, 129.3 3.14 132.4rad。 2ln598 6.394 114.7cm。 2
应该指出的是,上述的运算规则不是绝对的。一般说来,为了避免在运算过程中因数字的取舍而引入计算误差,则在运算过程中的中间结果应多保留一位数字为妥,但最后结果仍
应删去,以间接测量值最后一位数字与不确定度对齐的原则为准。
上节介绍的不确定度,只能在数量级上对测量结果的可靠程度作出一个恰当的评价,因此它的数值没有必要计算得过于精确。
4. 4 测量结果数字取舍规则
数字的取舍采用“四舍六入五凑偶”规则,即欲舍去数字的最高位为4或4以下的数,则“舍”;若为6或6以上的数,则“入”;被舍去数字的最高位为5时,前一位数为奇数,则“入”,前一位数为偶数,则“舍”,即通过取舍,总是把前一位凑成偶数。其目的在于使“入”和“舍”的机会均等,以避免用“四舍五入”规则处理较多数据时,因入多舍少而引入计算误差。
例如,将下列数据保留到小数点后第二位:
8.0861 8.09,8.0845 8.08,8.0850 8.08,8.0754 8.08,8.0656 8.06 有效数字运算规则和数字取舍规则的采用,目的是保证测量结果的准确度不致因数字取舍不当而受到影响。同时,也可以避免因保留一些无意义的欠准确数字而做无用功,浪费时间和精力。现在由于计算器的应用已十分普及,计算过程多取几位数字也并不花费多少精力,不会给计算带来什么困难。但是,实验结果的正确表达仍然值得重视的,实验者应该能正确判断实验结果是几位有效数字,正确结果该怎么表示。
正在阅读:
实验数据处理之有效数字运算规则07-29
城市化进程中的农民工问题10-13
哪里有漆包线绕线机的线模卖08-13
中学历史教学中如何培养学生的思维能力-2019年精选教育文档06-08
循环码产生电路设计03-28
江苏省无锡市2014年中考数学试卷(word版,含解析)06-24
第九届世界华文传媒与华夏文明国际学术研讨会 征文通知01-15
黄建国在湖南省服务大学生村官创业成才工作会议上的讲话01-27
菱形挂篮计算书05-30
未来的垃圾箱作文400字06-29
- 教学能力大赛决赛获奖-教学实施报告-(完整图文版)
- 互联网+数据中心行业分析报告
- 2017上海杨浦区高三一模数学试题及答案
- 招商部差旅接待管理制度(4-25)
- 学生游玩安全注意事项
- 学生信息管理系统(文档模板供参考)
- 叉车门架有限元分析及系统设计
- 2014帮助残疾人志愿者服务情况记录
- 叶绿体中色素的提取和分离实验
- 中国食物成分表2020年最新权威完整改进版
- 推动国土资源领域生态文明建设
- 给水管道冲洗和消毒记录
- 计算机软件专业自我评价
- 高中数学必修1-5知识点归纳
- 2018-2022年中国第五代移动通信技术(5G)产业深度分析及发展前景研究报告发展趋势(目录)
- 生产车间巡查制度
- 2018版中国光热发电行业深度研究报告目录
- (通用)2019年中考数学总复习 第一章 第四节 数的开方与二次根式课件
- 2017_2018学年高中语文第二单元第4课说数课件粤教版
- 上市新药Lumateperone(卢美哌隆)合成检索总结报告
- 数据处理
- 运算
- 规则
- 有效
- 实验
- 数字
- 编译原理实验指导书
- 《单片机原理》实验指导书-proteus版
- 三十二条个人心情签名
- EQ1118G柴油车离合器常见故障的诊断与排除
- +四六级英语作文常用词组及短语
- 类风湿关节炎的药物目录
- C2C电子商务信用管理研究
- 汽车钣金实习心得体会3篇
- 2021高三新学期班主任工作计划
- 2012主流平板芯片全面对比评测
- 王秀霞《植树问题》教学设计
- 油层物理(第二章-2)
- 【语文】2013年高考作文:考前押题11“并不精美的瓶子”
- 高二物理传感器及其应用综合检测试题
- 【公务员】计算机一级考试试题汇总(珍贵资料___)
- PIE工程师工作职责介绍
- 《超凡蜘蛛侠2》登场BOSS详细介绍
- 自动变速器-项目四
- 201305思源地产沈阳越秀星汇云锦营销方案135p
- 华电鹿华330MW机组MCS系统逻辑设计说明A