Ограничения точности для целых чисел


· Целые между 0 и 2047 представляются точно

· Целые между 2048 и 4095 округляются вниз до кратного 2 (четному числу)

· Целые между 4096 и 8191 округляются вниз до кратного 4

· Целые между 8192 и 16383 округляются вниз до кратного 8

· Целые между 16384 и 32767 округляются вниз до кратного 16

· Целые между 32768 и 65535 округляются вниз до кратного 32

Почему это происходит? Пусть дано число 500310=10011100010112=011001001110001011. Последние две цифры мантиссы оказались за пределами разрядной сетки. При обратном переводе в десятичную систему получим число 5000 – ближайшее округленное до кратного числу 4.

Формат числа половинной точности

± Порядок Мантисса
                               
                               

Смещение (или сдвиг) порядка: – число, которое необходимо прибавить к истинному порядку исходного числа. Оно записывается в биты поля Порядок. Для формата половинной точности под порядок выделяется 5 бит разрядной сетки, т.е. максимальное смещенное значение порядка – 31.

Формат числа одинарной точности

± Порядок Мантисса
                                                               
                                                               

Под порядок выделено 8 бит, поэтому смещение: .

Формат двойной точности

± Порядок Мантисса
                                                                                   
                                                                                   

Под порядок выделено 11 бит, поэтому смещение: .



Дата добавления: 2017-11-21; просмотров: 1592;


Поиск по сайту:

Воспользовавшись поиском можно найти нужную информацию на сайте.

Поделитесь с друзьями:

Считаете данную информацию полезной, тогда расскажите друзьям в соц. сетях.
Poznayka.org - Познайка.Орг - 2016-2024 год. Материал предоставляется для ознакомительных и учебных целей.
Генерация страницы за: 0.006 сек.