"Некорректные задачи. Численные методы и приложения" - читать интересную книгу автора (Бакушинский А.Б., Гончарский А.В.)