中国纺织服装检测论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

元茂测试仪器美邦测试仪器◆玛莎百货M&S标准免费下载◆加拿大CAN标准免费下载
◆JC.PENNEY全套测试方法◆澳大利亚AS标准免费下载您的位置,联系cnfzjc#126.com▲耐日晒色牢度试验专区
查看: 1034|回复: 1

实验室数值修约规则,你造吗?

[复制链接]
  • TA的每日心情
    开心
    2024-9-12 10:20
  • 签到天数: 38 天

    [LV.5]常住居民I

    发表于 2015-3-26 10:06:22 | 显示全部楼层 |阅读模式
    我们先来看几个和数据修约相关的定义:
    ⑴ 数值修约) }9 {; O/ @& F" P" }, a) E% \
    通过省略原数值的最后若干位数字,调整所保留的末尾数字,使最后所得到的值最接近原数值的过程。 经数值修约后的数值称为(原数值的)修约值.
    7 C# i: N" D& h5 @5 _6 N* p8 u$ v1 ~$ d⑵ 修约间隔( ^/ @* |- x7 z4 M, {* Q$ O
    修约值的最小数值单位。例:指定修约间隔为0.5,修约值应在0.5的整数倍中选取。. H1 s0 k: D2 d
    ⑶ 极限数值
    ( o4 F8 G6 h1 Y* s4 L技术文件(如标准、技术规范等)中规定考核的以数量形式给出且符合该技术文件要求的指标数值范围的界限值。

    % G8 S8 _  s2 B* O- B+ K0 o5 \
    接下来我们看看数据修约规则
    一、确定修约间隔
    ⑴ 指定修约间隔为10-n(n为正整数,10的负n次方,不是10减n,这个里面公式好难编辑~~~~~),或指明将数值修约到n位小数;
    3 A  K* Q# u9 a! |6 {6 H# l⑵ 指定修约间隔为1,或指明将数值修约到个位数;
    / D2 R- Q9 Z2 [% k4 u5 P8 i9 l⑶ 指定修约间隔为10n(10的n次方,n为正整数),或指明将数值修约到10n(10的n次方)位数,或指明将数值修约到“十”“百”“千” ……位数;
    , L! u; Y! `0 E( w7 x⑷ 0.5单位修约/0.2单位修约。
    : S# j( i' g) O7 x, ^, P/ f
    修约间隔往往由技术文件规定。如:YB/T 081-1996 “冶金技术标准的数值修约和检测数据的判定原则”中规定,材料的强度极限Rm,在≤200MPa时修约间隔为1,在>1000MPa时修约间隔为10,>200~1000MPa时修约间隔为5。
    “GBT 230.1-2004 金属洛氏硬度试验 第1部分:试验方法”中规定洛氏硬度值至少应精确到0.5HR。

    # M  ?! {7 W/ L7 r8 P
    二:进舍规则:
    1. “4舍6入5单双”
    ⑴ 拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。
    0 r9 c& G5 J7 V/ t! h( t例:将12.1498修约到个位数,得12。
    1 o, m) Q# B% b& A9 Q7 K将12.1498修约到一位小数,得12.1。/ I/ W: p3 j8 o% Q2 j- }
    ⑵ 拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末位数加1。
    : a# z4 X7 e" s例:将1268修约到百位数,得1300。3 q0 V/ z1 d+ C* ]7 n  }
    ⑶ 拟舍弃数字的最左一位数字是5,且其后有非0数字时进一,即保留数字的末位数加1。. u2 b/ z0 J7 b) N& l+ |
    例:将10.5002修约到个位数,得11。
    ⑷ 拟舍弃数字的最左一位数字是5,且其后无数字或均为0时,若所保留的末位数字为奇数(1、3、5、7、9)则进一;若所保留的末位数字为偶数(0、2、4、6、8)则舍去。
    7 m" p: s& L1 o8 K/ r; g例: 将1.050修约到一位小数,得1.0。1 e" A5 _; t  u; E! T
    将0.35修约到一位小数,得0.4。
    0 [  S' t/ G/ w, O3500,修约间隔为1000,得4000

    ; ^$ l/ z# n7 P; A
    2.负数修约
    先将它的绝对值按前述规定进行修约,再在所得的值前加负号。! Q6 }+ f9 Y# y6 E4 `  m2 I
    例:-355,修约到十位数,得-360 ;
    ) P% k% l( m2 \1 W9 B  k1 o-325,修约到十位数,得-320 。
    - v% y: A3 r) d  v将-0.0365修约到三位小数,得-0.036。

    6 \+ b$ b0 k# M1 b
    3.不允许连续修约
    拟修约数字应在确定修约间隔或指定修约位数后一次修约获得结果,不得多次按上述规则连续修约。) }* [0 L) M5 ]2 b2 }+ s/ E% B
    例1:修约97.46,修约间隔为1, 97.46→97(正确);
    0 E: g0 Z0 A. C- b97.46→97.5 →98 (错误)。
    ; r- F: s$ s8 G' r; w例2:修约15.4546,修约间隔为1,15.4546 →15(正确);
    4 {. [+ j2 _" S- K  c9 c% H15.4546 →15.455 →15.46 →15.5→16(错误)

    * j; z1 f, K* I* z+ K% U- l# V0 h- E
    4. 0.5单位修约
    ⑴ 在对数值进行修约时,若有必要,也可采用0.5单位修约或0.2单位修约。
    + Q: U- f8 _& v% N1 ?⑵ 0.5单位修约是指按指定修约间隔对拟修约的数值0.5单位进行的修约。
    - ?. f! w5 [) Y6 e/ h  ^. P8 }⑶ 0.5单位修约方法如下:将拟修约的数值X乘于2,按指定修约间隔对2X按前述的规定修约,所得的值再除于2。6 U  r: U  V8 O) T, R5 F9 a
    例: 60.25→120.50→120→60.0;. F0 n! L5 w9 J" z+ c4 ~
    60.38→120.76→121→60.5;
    / B9 \$ I3 j" ?2 @1 H60.28→120.56→121→60.5。

    0 l% s; p& Z/ U' m: a5 Q1 W% N
    5. 0.2单位修约
    ⑴ 0.2单位修约是指按指定修约间隔对拟修约的数值0.2单位进行的修约。
    0 \& C2 E  N+ ]⑵ 0.2单位修约方法如下:将拟修约的数值X乘于5,按指定修约间隔对5X按前述的规定修约,所得的值再除于5。
    ) t- W7 c3 Q" E* \$ @  u例:830→4150→4200→840;* D1 z# r' n- Z& m
    842→4210→4200→840;6 ?# L+ C- `1 s4 F
    832→4160→4200→840。

    : w; ?) K6 W& Q7 r6 S9 t7 b# P
    6. 其它规定
    在具体实施中,有时测试部门与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下列部署进行。) |. M# }% L$ B& A
    ⑴ 报出的最右的非零数字为5时,应在数值右上角加+或-或不加符号,分别表示已进行过舍、进或未进未舍。; y1 d3 c. @) k3 M7 g2 ^2 f
    例:16.50+表示实际值大于16.50,经修约舍弃为16.50; 16.50-表示实际值小于16.50,经修约进一为16.50。* `5 J5 U; h0 a1 C
    ⑵ 如对报出值需进行修约,当拟舍弃数字的最左一位数字为5,且其后无数字或均为零时,数值右上角右+者进一,右-者舍去,其他仍按前述规定进行。4 y( H4 Y8 I/ D- A' V7 N$ Y8 I8 j7 ~% F
    例:
    实测值 报出值 修约值
    ; I7 U& b/ C( L/ @15.4546 15.5- 15& b, {/ U, O: b- Q5 T  q+ R! R
    -15.4546 -15.5- -15
    , e, O3 B1 h; T, m! f16.5203 16.5+ 17
    + M8 z- \; d2 [2 a3 S2 \5 n4 w17.5000 17.5 18# f  L. z5 R( B  b. p
    8 N5 z8 @9 L; {
    信息来源:微信CNAS-CMA
  • TA的每日心情
    慵懒
    2017-2-18 23:47
  • 签到天数: 217 天

    [LV.7]常住居民III

    发表于 2015-3-26 20:47:44 | 显示全部楼层
    会用,但理论没有这么完整,收了,谢啦
    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    Archiver|手机版|小黑屋|中国纺织服装检测论坛 ( 苏ICP备17035522号-2 )

    GMT+8, 2025-4-4 10:29 , Processed in 0.076985 second(s), 21 queries .

    Powered by Discuz! X3.4

    Copyright © 2001-2021, Tencent Cloud.

    快速回复 返回顶部 返回列表