"Численные методы и математическое обеспечение" - читать интересную книгу автора (Каханер Д., Моулер К., Нэш С.)