有效数字的保留规则


1、保持n位有效数字,按n+1位数字≤4舍去。

2、保持n位有效数字,在n+1位数字≥6的情况下,n位数字进入1。

3、保持n位的有效数字,n+1位的数字=5,后面的数字为0时,n位的数字为偶数时,舍弃后面的数字,n位的数字为奇数时,加1。第n+1个数字=5,后有非0的数字时,第n个数字无论是奇还是偶都加1。

以上就是“四舍六入五留双”。

将下一组的数据保存在小数点以下。

45.77≈45.8;43.03≈43.0;0.26647≈0.3;10.3500≈10.4;

38.25≈38.2;47.15≈47.2;25.6500≈25.6;20.6512≈20.7。

算术平均值按照四舍五入的原则保持到小数点以下两位,要正确计算,保留多个数位。

要保留两位数的有效数字,可以将其转换成科学计数法进行近似。

例如考虑67。首先可以把67改写成6.7×十次。下面将上一个6.7近似为7。这个数字是七×10的1次方满足保持有效数字1位的要求。

可以使用ROUND函数实现保持有效数值的操作。

语法

ROUND(number, num_digits)

参数

number需要。要四舍五入的数字。

num_digits需要。number相对于参数四舍五入比特数。

numdigits大于0(0)时,数值四舍五入小于指定的小数点。

numdigits等于0时,数值四舍五入是最近的整数。

numdigits小于0时,以小数点左侧的上位数位进行四舍五入。

保留两位有效数字的表达式Eq.1:

=ROUND(A1, 2-(INT(LOG(A1+0.1^6))+1))

如下。

A1

要处理的数字。

INT(LOG(A1+0.1^6))+1

是这个数字的整数部分的位数。

+0.1^6

为了保证在处理的数字为零的情况下LOG的计算有意义,不需要。

这个公式可以简化为(Eq.2)

=ROUND(A1, 1-INT(LOG(A1+0.1^6))

Eq.1的书写形式主要是为了强调留下两位数的有效数字。如果您想要保留三位数的有效数字,可以按以下方式重写表达式:。

=ROUND(A1, 3-(INT(LOG(A1+0.1^6))+1))

以下是实际效果,问题主可以自己尝试:1、2位有效数字=ROUND(A1,2-INT(A1+0.1^6)+1)=123.4,输出=120A1=12.34,输出=12A1=1.2234,输出=1.2A1=0.1234,输出=0.1234,输出=0.1122,3位有效数字=ROUND(A1,3-(INT((LOG(A1+0.1^6)+1)A1=123.4,输出=123A1=12.34,输出=12.3A 1A1=12.34,输出=12.3A 3A 3A 1=12.31313131,输出=12.3131313112 12 12 12 12 12 12 12 12 12 12 12 12,输出=12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12 12=1.234,输出=1.23A1=1.234输出=1.23A1=0.1234,输出=1.23A1=0.1234,输出=0.123 Excel中设置对应小数点以下的位数来显示结果,但是即使不设定计算结果也是确保保持有效数值后的值(可以将计算结果粘贴到其他地方进行验证)。

保留数位的有效数字意味着从第一位到剩下数位,后面的数字省略。

本文地址:[https://www.chuanchengzhongyi.com/kepu/80472e5bcd5073c6.html]
本地IP地址查询器 V1.0 绿色新版(本地IP地址查询器 V1.0 绿色新版功能简介)
上一篇 2024-05-02
什么白酒小瓶装佳,小瓶白酒哪种好喝求指点下
下一篇
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件举报,一经查实,本站将立刻删除。

相关推荐

  • 有效数字的保留规则

    摆王老师 1、保持n位有效数字,按n+1位数字≤4舍去。 2、保持n位有效数字,在n+1位数字≥6的情况下,n位数字进入...

    2024-05-02 21:56:01