"Компьютерная алгебра: Символьные и алгебраические вычисления" - читать интересную книгу автора (Бухбергер, Коллинз, Лоос, и др. (ред.))