"Компьютерная алгебра - символьные и алгебраические вычисления" - читать интересную книгу автора (Бухбергер, Калме и др.)