"Численное решение систем линейных алгебраических уравнений" - читать интересную книгу автора (Форсайт Дж., Молер К.)