"Вычислительные методы линейной алгебры" - читать интересную книгу автора (Фаддеев Д.К., Фаддеева В.Н.)