数值修约及格拉布斯准则

数值修约及格拉布斯准则

ID:39708444

大小:394.20 KB

页数:14页

时间:2019-07-09

数值修约及格拉布斯准则_第1页
数值修约及格拉布斯准则_第2页
数值修约及格拉布斯准则_第3页
数值修约及格拉布斯准则_第4页
数值修约及格拉布斯准则_第5页
资源描述:

《数值修约及格拉布斯准则》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库

1、数值修约与格拉布斯准则一.数值修约定义:在进行具体的数字运算前,通过省略原数值的最后若干位数字,调整保留的末位数字,使最后所得到的值最接近原数值的过程称为数值修约。二.修约方法:四舍五入、四舍六入五成双三.四舍五入法修约规则1.在需要修约的位数后一位,逢五就进,逢四就舍。如将以下数字修约到小数点两位,结果如下:12.45412.459.8659.870.1250.133.进行数值修约时,应一次性修约到指定位数。不可进行数次修约。如将以下数字修约到个位:一步修约11.4711而不是11.4711.512一步修约11.9912而不是11.9912.012四.四舍六入五成

2、双1.四舍五入法要求逢五就进,必然会造成测试结果误偏大,为此需要采用四舍六入五成双的方法2.修约规则:1).当需要修约的位数的后一位小于等于4,直接舍去。如将以下数字修约到两位:12.44312.4412.34112.342).当需要修约的位数的后一位小数大于等于6时,需要直接舍去并向前进一。如将以下数字修约到一位小数:12.5612.69.169.23).当需要修约的位数后一位数字为5时,需要视具体情况而定:A.当5后面有不为0的数字时,直接在修约数字上进一并将后面数字舍弃。如:12.15212.27.2517.3B.当5后面的数字为0时,若需要修约的数字为奇数,

3、则需要将5舍弃后,直接进一如:1.351.41.551.6C.当5后面的数字为0,若需要修约的数字为偶数时,则将5舍弃后,无需进一。如:1.451.51.251.2五.格拉布斯准则1.概述一组测量数据中,如果个别值偏离平均值比较远,则将此测量值称之为“可疑值”.如果用统计方法如格拉布斯准则进行判断,则可以将可疑值剔除而不参与平均值的计算2.方法运用(举例说明)测量数据10个:8.25.414.07.34.79.06.510.17.76.0要求计算平均值和标准差将数据按照顺序排列:4.75.46.06.57.37.78.29.010.114.0B.根据初步判断,可疑值

4、为4.7或14.0C.计算平均值和标准差(要求包含所有测量值)平均值:7.89标准差:2.704D.计算偏离值(测量值与平均值之差)平均值-最小值=3.19最大值-平均值=6.11E.确定可疑值:与最小值相比较,最大值为可疑值F.计算:Gi=(Xi-x)/S(其中:i是可疑值的序列号码)G10=2.260G.定检出水平a:通常a=0.05,P=1-0.05=0.95H.查格拉布斯表获得临界值:根据p值和测量次数n(n=10),可知临界值G=2.176I.比较G10和临界值GG10>GNote:判断是否为异常值需要剔除:当G10>G为异常值,需要剔除J.余下数据考虑:

5、余下的9个数据可以按照上述方法确认是否为可疑值而需要剔除。TheEnd

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。