"Машинный подход к решению математических задач" - читать интересную книгу автора (Нивергельт Ю., Фаррар Дж., Рейнголд Э.)