首页 | 本学科首页   官方微博 | 高级检索  
     检索      

微机上提高计算精度的一种方法
引用本文:蒲保兴.微机上提高计算精度的一种方法[J].邵阳高等专科学校学报,1989(Z1).
作者姓名:蒲保兴
摘    要:1 问题的提出 微机上用实数BASIC语言计算只能输出9位有效数字,对于9位以上的数,计算机则把9位以后的数忽略为0,同时用科学计数法表示。如要进行精确度更高的运算,直接编程序是达不到要求的。本文给出了解决这个问题的方法,叫做“分段运算法”,如不考虑机器的运行时间,可以精确到任一位。

本文献已被 CNKI 等数据库收录!
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号