"Численные методы и программное обеспечение" - читать интересную книгу автора (Каханер, Моулер, Наш.)