物理b实验绪论 - 有效数字运算.ppt

  1. 1、本文档共12页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
物理b实验绪论 - 有效数字运算

有效数字运算 有效数字运算 有效数字的定义说明 有效数字的运算规则 加减运算规则 乘除、乘方、开方规则 函数运算规则 常数运算规则 舍入规则 有效数字的定义 可靠数字 存疑数字 测量中得到的全部可靠数字和欠准数字 可疑数字 欠准数字 例:7.98 mm 和 0.00798 m 都是三位有效数字 例:0.0079800 m 是多少位? 有效数字的说明 有效位的多少,是测量实际的客观反映,不能随意增减测得值的有效位 有效数字只有最后一位是欠准的 有效数字的位数与小数点位置无关 从第一位不为0的数字数至最后一位 包括后面的0 在单位换算时,有效数字的位数不变 例:7.98 mm = 0.00798 m 表达测量结果的有效数字,其尾数应与不确定度值尾数对齐 例: L = ( 98.60 ? 0.06 ) cm 对较大或较小的数,尽量采用科学记数法 例: 0.00798 m 记为7.98×10-3 mm 对齐 草稿纸 有效数字运算规则 加减运算规则 运算结果末位数字所在位置,与参与加减运算的各数中末位数字位置最高的一个相同 例:10.1-4.179=? 10.1 -4.179 5.921 5.9 乘除、乘方、开方运算规则 运算结果的有效数字的位数,与参与运算各数中有效数字位数最少的那个数相同 例:10.1×4.179= ? 10.1 三位 4.179 四位 ?结果 三位 42.2 (4.179)2= ? 17.46 4.18 10.1? 4.179= ? 2.42 三角函数运算规则 将自变量欠准位变化1,运算结果产生差异的最高位就是应保留的有效数字的最后一位 大学物理实验中,角度一般读到秒 三角函数运算保留4位有效数字 例: 对数函数运算规则 对数函数运算结果的有效数字中,小数点后面的位数取成与真数的位数相同 例:lg 1.983 = 0.2973 lg 19.83 = 1.2973 lg 198.3 = 2.2973 ln 19.83 = 2.9872 指数函数运算规则 指数函数运算结果的有效数字,按科学记数法,小数点后的位数取成与指数中小数点后的位数相同 例:e 9.14 = 9.32×103 常数运算规则 常数不影响最后的计算结果有效位数。运算中其位数比计算式中其它测量值中有效位最少的多取一位 例:D = 2R S = ? R 2 设 R=4.000 mm D = 8.000 mm ? = 3.1416 舍入规则 小于5时,舍去;大于5时,进1 等于5时,按欲保留的末位为奇数时则进1, 为偶数时舍弃 例:保留 4 位有效数字 4.32749 4.32751 44.32500 4.32750 4.32850 ? 4.327 ? 4.328 ? 44.32 ? 4.328 ? 4.328 有效数字运算

文档评论(0)

shenghua + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档