"Численные методы и программное обеспечение" - читать интересную книгу автора (Каханер Д. и др.)