有效数字的舍入规则.doc

有效数字的舍入规则.doc

ID:58431591

大小:11.50 KB

页数:1页

时间:2020-09-03

有效数字的舍入规则.doc_第1页
资源描述:

《有效数字的舍入规则.doc》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库

1、有效数字的舍入规则:1、当保留n位有效数字,若第n+1位数字≤4就舍掉。2、当保留n位有效数字,若第n+1位数字≥6时,则第n位数字进1。3、当保留n位有效数字,若第n+1位数字=5且后面数字为0时,则第n位数字若为偶数时就舍掉后面的数字,若第n位数字为奇数时加1;若第n+1位数字=5且后面还有不为0的任何数字时,无论第n位数字是奇或是偶都加1。如将下组数据保留三位:45.77=45.8。43.03=43.0。0.26647=0.266。10.3500=10.4。38.25=38.2。47.15=47.2。25.6500=25.6。20.6512=20.7有效数字:就是一个数从左边第一个不为0

2、的数字数起到精确的数位止,所有的数字(包括0,科学计数法不计10的N次方),称为有效数字。简单的说,把一个数字前面的0都去掉,从第一个正整数到精确的数位止所有的都是有效数字了。3.1许多数值相加减时,所得和或差的绝对误差必较任何一个数值的绝对误差大,因此相加减时应以诸数值中绝对误差最大(即欠准数字的位数最大)的数值为准,确定其它数值在运算中保留的位数和决定计算结果的有效位数。3.2许多数值相乘除时,所得积或商的相对误差必较任何一个数值的相对误差大。因此相乘除时应以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其它数值在运算中保留的位数和决定计算结果的有效位数。

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。