有效数字及其有效数字的保留

1 .有效数字的定义

我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。有效数字指,保留末一位不准确数字,其余数字均为准确数字。有效数字的最后一位数值是可疑值。

如:0.2014为四位有效数字,最末一位数值4是可疑值,而不是有效数值。

再如:1g、1.000g其所表明的量值虽然都是1,但其准确度是不同的,其分别表示为准确到整数位、准确到小数点后第三位数值。因此有效数值不但表明了数值的大小,同时反映了测量结果的准确度。

2 .有效数字的保留

由于有效数字最末一位是可疑值,而不是准确值。因此,计算过程中,计算的结果应比标准极限或技术指标规定的位数要求多保留一位,最后的报出值应与标准对定的位数相一致。

如:在标准的极限数值(或技术指标)的表示中,×× ≧95  表明结果要求保留到整数位。因此,计算结果一定要保留到小数点后一位,最后再修约到整数位,如计算结果为94.6报出结果为95(-);因为94.6结果的0.6为可疑值,要想保留到整数位结果为准确值,计算结果必须要多保留一位。

如,分析天平的分辨率为0.1mg(即我们常说的万分之一天平),如果我们称取的量是10.4320g,则实际的称取结果结果为10.4320±0.0002g(万分之一的天平误差)。

如GB/T 601-2016《化学试剂  标准滴定溶液的制备》,要求报出结果取4位有效数字,因此在标定计算结果中,应保留5位有效数字,最后再修约到4位有效数字(如果直接保留到4位有效数字,实际上是保留了三位有效数字,因最后一位是可疑值,则由标准溶液的浓度的不准确,会引进系统误差。

“0” 在数字中的作用

“0”作为一个特殊的数字,在数值的不同的位置,有着不同的作用,只有明确了“0”在数字中的作用,才能更好的掌握有效数字及其加减乘除的运算规则。“0”在数字中不同的位置,有不用的作用,根据“0”在数字的位置,起三种作用。即定位(无效)、定值(有效)及不确定作用。

1 .定位(无效)

当“0”在小数点后,又在数字之前(前提:小数点前为“0”)时,为定位。如:0.0001(数字前4个零)  0.02040(数字前2个零)均为定位作用。

2. 定值(有效)

当“0”在小数点后的数值中间或数尾(前提:小数点前必为“0”)时。如:0.00204 0.300020;当“0”在小数点后,而小数点前为非“0”时。如1.000 1.0204,均为有效作用。

3 不确定作用:当“0”在整数后

如:4500 有效数值是几位?回答是:不确定。将4500用三位有效数字表示:0.450×104 4.50×103 。将4500用四位有效数字表示:0.4500×104 、45.00×102。

数字修约规则(GB/T 8170)

1.数字修约规则

“四舍五入法”是我们所熟悉的求近似数的方法。它深深地印在我们的脑海里,只要一遇到求近似数的问题,马上就会想到“四舍五入法”。可是,在实验中,经常要对大量的数据进行统计分析。如果仍用“四舍五入法”取近似值,就不够精确。

世界上的许多国家已广泛采用“四舍六入法”。我国国家科委于1955年就作了推荐。“四舍六入法”可以概括为:“四舍六入五考虑,五后非零就进一,五后皆零看奇偶,五前为偶应舍去,五前为奇要进一。”就是说,如果省略的尾数最高位是4或小于4,就将尾数都舍去;如果省略的尾数最高位是6或大于6,去掉尾数后,要向它的前一位进1;如果省略的尾数最高位是5,那就要根据具体情况而定。如果5后不都是0,将尾数略去后要向它的前一位进1;如果5后面都是0,就看它的前一位是单数还是双数,5的前一位是双数,就将尾数舍去;5的前一位是单数,舍去尾数后要向它的前一位进1。

2 .检验结果的修约

根据技术标准的指标要求,在原始记录中,通常检验计算的结果应比标准规定的位数要多保留一位,但被多保留的一位数值,应该体现出修约的情况,或一步修约到位,但不能存在连续修约的现象。

a)检验结果修约后,应体现出修约的情况。

如:标准值 ××<0.5

检测结果为:0.456, 第1步修约:0.46(-) (四舍六入),报出值:0.5(-) 判定:合格。

如:标准值 ×× ≥15

检测结果为:14.55,第1步修约:14.6(-), 报出值:15(-),按全数值比较法(15(-))判定不合格、按修约值比较法(15)判定合格。

14.55(5后非零要进一。讲评:在拟舍弃的数字中即14.55的第一个“5”,虽然“5”前为偶数,但“5”后非“0”,所以要进一。)

如,若检验结果为:14.35,第1步修约:14.4(+) (修约原则,四舍六入) 报出结果:14。

最终的报出结果只有修约到标准值上时,才用+、-表示。

b)一步修约到位 (这种修约更直接和更直观)。

例题:将下列结果修约到整数位

检测结果    报出值

15.4546       15

16.5203       17

17.5000       18

14.5500       15

10.5020       11

c)不准连续修约。

拟修约数字应在确定修约位数后,应一次修约获得结果,而不准多次修约即连续修约。

如15.4546 一次修约结果为:15。

※ 连续修约:15.455 — 15.46-15.5-16

※ 按多保留一位的修约法:15.5(-)

因为.5(-),即修约后到5(-) ,但不足5(<5),所以不进,最终结果为15。

数值的修约方法

1. 数值的修约方法有两种,即修约值比较法和全数值比较法

a)修约值比较法:数值修约后,体现不出数值的修约情况;

b)全数值比较法:数值修约后,能够体现出数值的修约情况。

2 .如何选择修约值的方法 

a)当检测项目牵涉到卫生指标、安全指标等,应首选用全数值比较法;

b)只有当检测结果修约到标准值上时,方采用全数值比较法。

由上表可以看出,一般情况下全数值比较法严于修约值比较法。

转自:实验室经理人

小数保留4位_实验结果保留几位有效数字?相关推荐

  1. node 16位 转24位_同时将24位和32位BMP图像顺时针旋转90度

    上一次我们将24位的皮卡丘旋转了90度,但是后来改需求了...要求把32位的.bmp文件也能够旋转90度.上次就懵逼的我继续懵逼,只好继续转向CSDN求助. 浏览了各种求助帖(还找到了数年前的信科大一 ...

  2. 圆周率一千万亿位_圆周率一千位

    展开全部 3.141592653589793238462643383279502884197169399375105820974944 59230 781640628620899 86280 3482 ...

  3. mysql标志位_数据库状态标识位flag设计

    设计目的 减少各种状态值字段 减少数据库冗余和存储空间 增加状态值时可灵活调整,无需增加额外字段 运用场景 例子1:管理用户的支付方式 比如针对不同用户组设置了不同的支付方式支持,假设支付方式有支付宝 ...

  4. mysql 5.6.14 64位_如何在64位WIN7下安装64位的解压版MySQLmysql-5.6.14

    展开全部 安装MySQLmysql-5.6.14可以参考32313133353236313431303231363533e59b9ee7ad9431333361306264如下安装步骤: 1.将解压缩 ...

  5. 保留两位小数除法算式_除数是两位小数除法练习题.doc

    除数是两位小数除法练习题 精品文档2016全新精品资料-全新公文范文-全程指导写作 –独家原创 PAGE1 / NUMPAGES1 除数是两位小数除法练习题 列竖式计算小数除以整数时,1.按整数除法的 ...

  6. c语言求平均值 保留三位小数,Excel求平均值时,保留小数位数与参与求平均值的个数有关...

    在 Excel 中,求平均值用Average函数:它可分用快捷键求平均值.自动求平均值和输入公式求平均值,其中用快捷键求平均值速度最快,并且三种方法都可以对行列.任意单元格.指定区域甚至整个表格求平均 ...

  7. 【C语言函数】编写一个C函数,实现保留小数点后第N-1位,从第N位四舍五入。

    编写一个C函数,实现保留小数点后第N-1位,从第N位四舍五入.用该函数对数组a[5]中的各元素从小数点后第2位开始四舍五入. a[5]={2.33,2.56,2.65,2.66,2.30} **输出格 ...

  8. JS 数字千位分隔符且保留两位小数

    数字千位分隔符且保留两位小数 1.仅需要整数位千位分隔 num.toLocaleString() 2.仅需要保留两位小数 num.toFixed(2) 3.需要千位分隔符且带两位小数 Thousand ...

  9. python整数表示精确到什么位_保留整数表示精确到什么位?

    展开全部 保留整数表示精确到个位. 整数(integer)就是像-3,-2,-1,0,1,2,3,10等这样的数.如果不加特殊说明,e69da5e887aa62616964757a686964616f ...

  10. 将python中的小数直接进位的函数_python保留小数位的三种实现方法

    python保留小数位的三种实现方法 前言 保留小数位是我们经常会碰到的问题,尤其是刷题过程中.那么在python中保留小数位的方法也非常多,但是笔者的原则就是什么简单用什么,因此这里介绍几种比较简单 ...

最新文章

  1. windows怎么更改系统默认编码为utf-8?(避免编译从linux系统弄过来的c文件printf出现乱码问题)(beta版:使用unicode utf-8提供全球语言支持)
  2. html框模型,4-2css中的框模型简介
  3. 正常矩形计算IOU与与NMS,多边形计算IOU
  4. 热烈祝贺我刊主编郑纬民教授被提名为中国工程院2017年院士增选候选人!
  5. ECMAScript 6规范总结(长文慎入)
  6. citrix xendesktop edition
  7. ubuntu jdk install
  8. Damp;G“辱华”争议广告女主发声:几乎断送了模特事业
  9. 大专计算机办公应用,计算机办公软件应用论文
  10. python模拟登录淘宝参数在哪获取_如何用 Python 模拟登录淘宝?
  11. 【LeetCode - 1258】近义词句子
  12. github协同工作流程(一)
  13. 二元二次方程例题_二元二次方程的解法 二元二次方程例题
  14. 东北林业大学---C++实验一
  15. quorum examples初探
  16. java中使用Calendar日期类获得下一个月有多少天
  17. CISCO ANYCONNECT 一直连接不上,打开点击连接就闪退 或 卡在“Hostscan mission complete” or “Hostscan state idle“
  18. Mysql中的flush privileges语句
  19. 期货反向跟单-聊点感悟
  20. hyperMILL 2018三四五轴基础到高级编程视频教程

热门文章

  1. java连接hive类找不着_JDBC 连接 hive2 遇到的java.lang.ClassNotFoundException: org.apache.hive.jdbc.HiveDriver...
  2. vue 中 v-if 和 v-for 混用时应该注意的事项
  3. SpringBoot 根据条件注入需要的 Bean
  4. js定位div坐标存入mysql_用JS将页面定位到某个位置(DIV)
  5. solidworks入门实例画图_分享用SolidWorks绘制的鸡蛋托盘,学会借助于曲面生成波浪线草图...
  6. c语言迷宫算法坐标怎么定义,[原创]递归随机迷宫生成算法详解
  7. java编写个倒计时_怎么编写一个倒计时java程序?求具体步骤!
  8. 激活中国汽车媒体圈,杉车网与尾部汽车媒体的九死一生
  9. WPF控件获得焦点时去除虚线框
  10. [hdu5628]Clarke and math(dirichlet卷积)