用Cholesky方法求线性代数方程组的数值解的捨入误差

在电子数字计算机上解系数矩阵为对称的线性代数方程组时,采用Cliolesky方法(或称平方根法)是相当有成效的,唐珍同志曾经采用直接估算法就浮点计算研究了这种方法的捨入误差,在本文中作者分别用直接估算法与统计估算法就浮点计算及定点计算两种情形讨论了该法的捨人误差,其中向量的范数用欧氏范数,矩阵的范数用谱范数。