中国纺织服装检测论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

元茂测试仪器美邦测试仪器◆玛莎百货M&S标准免费下载◆加拿大CAN标准免费下载
◆JC.PENNEY全套测试方法◆澳大利亚AS标准免费下载您的位置,联系cnfzjc#126.com▲耐日晒色牢度试验专区
查看: 375|回复: 0

实验室有效数字的处理

[复制链接]
  • TA的每日心情
    擦汗
    2024-4-20 11:07
  • 签到天数: 128 天

    [LV.7]常住居民III

    发表于 2022-8-17 09:55:11 | 显示全部楼层 |阅读模式
                           实验室有效数字的处理
    (一)、有效数字
    1.在分析工作中实际能测量到的数字就称为有效数字。
    2.在记录有效数字时,规定只允许数的末位欠准,而且只能上下差1
    (二)、有效数字修约规则
    用“四舍六入五成双”规则舍去过多的数字。
    即当尾数≤4时,则舍;尾数≥6时,则入;尾数等于5时,若5前面为偶数则舍,为奇数时则入。当5后面还有不是零的任何数时,无论5前面是偶或奇皆入。
        例如:将下面左边的数字修约为三位有效数字
       2.3242.32   2.3252.32   2.3262.33   2.3352.34   2.325012.33
    (三)、有效数字运算法则
       1.在加减法运算中,每数及它们的和或差的有效数字的保留,以小数点后面有效数字位数最少的为标准。在加减法中,因是各数值绝对误差的传递,所以结果的绝对误差必须与各数中绝对误差最大的那个相当。
        例如:2.03750.074539.54 =
    39.54是小数点后位数最少的,在这三个数据中,它的绝对误差最大,为±0.01,所以应以39.54为准,其它两个数字亦要保留小数点后第二位,因此三数计算应为:
    2.040.0739.54 = 41.65
       2.在乘除法运算中,每数及它们的积或商的有效数字的保留,以每数中有效数字位数最少的为标准。在乘除法中,因是各数值相对误差的传递,所以结果的相对误差必须与各数中相对误差最大的那个相当。
        例如:13.92×0.0112×1.9723 =
       0.0112是三位有效数字,位数最少,它的相对误差最大,所以应以0.0112的位数为准,即:
       13.9×0.0112×1.97 = 0.307
       3.分析结果小数点后的位数,应与分析方法精密度小数点后的位数一致。
    4.检验结果的写法应与规定相一致。
    & N& A( T# g$ n
    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    Archiver|手机版|小黑屋|中国纺织服装检测论坛 ( 苏ICP备17035522号-2 )

    GMT+8, 2024-5-2 23:27 , Processed in 0.064612 second(s), 21 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表