1、主要决定于基本字长。
2、基本字长影响计算精度、指令功能。
3、基本字长越长,计算精度越高。
(资料图片)
4、比如,基本字长是8位,那么它可以表示最小的正数是0.0000001;而如果基本字长是16位,则可以表示0.000000000000001。
5、显然,后者的精度更高。
6、扩展资料: 数值计算具有以下5个重要特征:数值计算的结果是离散的,并且一定有误差,这是数值计算方法区别与解析法的主要特征。
7、2、注重计算的稳定性。
8、控制误差的增长势头,保证计算过程稳定是数值计算方法的核心任务之一。
9、3、注重快捷的计算速度和高计算精度是数值计算的重要特征。
10、4、注重构造性证明。
11、5、数值计算主要是运用有限逼近的的思想来进行误差运算。
本文就为大家分享到这里,希望小伙伴们会喜欢。