首页 | 本学科首页   官方微博 | 高级检索  
     检索      

微机程序设计中有效数字的取位通式
引用本文:任泽信,陈国恩.微机程序设计中有效数字的取位通式[J].山西师范大学学报,1990(2).
作者姓名:任泽信  陈国恩
作者单位:山西师大地理系,临汾地区水文分站
摘    要:在计算机程序设计中,经常遇到有效数字的取舍处理问题。目前普遍采用的按数量级大小分别取位的方法比较繁琐,特别是对于检数量级变化范围大、事先又无法估计其大小和范围的输出,一般要用相当大的篇幅设立专门的“子程序”,而采用“通式”取位就简单多了,且无需估计数字的大小,对任何数字均有效。使程序设计大大简化。在程序设计中,有效数字的取位方法是先把该数扩大或缩小到要取的位数为整数,加0.5取整后再恢复到原数的数量级。

本文献已被 CNKI 等数据库收录!
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号