"Numerical computing with ieee floating point arithmetic" - читать интересную книгу автора (Michael L. Overton)