Ограничения точности для целых чисел

· Целые между 0 и 2047 представляются точно

· Целые между 2048 и 4095 округляются вниз до кратного 2 (четному числу)

· Целые между 4096 и 8191 округляются вниз до кратного 4

· Целые между 8192 и 16383 округляются вниз до кратного 8

· Целые между 16384 и 32767 округляются вниз до кратного 16

· Целые между 32768 и 65535 округляются вниз до кратного 32

Почему это происходит? Пусть дано число 5003₁₀=1001110001011₂=011001001110001011. Последние две цифры мантиссы оказались за пределами разрядной сетки. При обратном переводе в десятичную систему получим число 5000 – ближайшее округленное до кратного числу 4.

Формат числа половинной точности

Смещение (или сдвиг) порядка: – число, которое необходимо прибавить к истинному порядку исходного числа. Оно записывается в биты поля Порядок. Для формата половинной точности под порядок выделяется 5 бит разрядной сетки, т.е. максимальное смещенное значение порядка – 31.

Формат числа одинарной точности

Под порядок выделено 8 бит, поэтому смещение: .

Формат двойной точности

Под порядок выделено 11 бит, поэтому смещение: .