"Modern computer arithmetic " - читать интересную книгу автора (Brent R.P., Zimmermann P.)