"Символьный C++: введение в компьютерную алгебру с использованием ООП" - читать интересную книгу автора (Тан К.Ш., Стиб В.-Х., Харди Й.)