Интернет магазин китайских планшетных компьютеров



Компьютеры - Число двойной точности

23 января 2011





Число двойной точности — компьютерный формат представления чисел, занимающий в памяти две последовательных ячейки. Как правило, обозначает формат числа с плавающей запятой стандарта IEEE 754. Числа с плавающей точкой поддерживаются сопроцессором.

Одним из первых языков программирования, позволявшим использовать числа одно- и двойной точности с плавающей точкой, был Фортран.

Числа двойной точности с плавающей точкой обеспечивают относительную точность около \log_{10} \approx 15.955 десятичных цифр и масштабы в диапазоне от 10 до примерно 10. В компьютерах, которые имеют 64-разрядные с плавающей точкой арифметические единицы, большинство численных вычислений осуществляется в двойной точности с плавающей точкой, поскольку использование чисел одинарной точности обеспечивает почти такую же производительность.

Знак

Экспонента

Мантисса
                                                                                                                               
63 56 55 48 47 40 39 32 31 24 23 16 15 8 7 0

Для вычисления экспоненты из 11-ти битного числа вычитается 10-ти битное смещение экспоненты, равное 11111111112 = 102310. Для вычисления мантиссы к 1,0 добавляется поле мантиссы в виде дробной части. Число равно произведению мантиссы со знаком на двойку в степени экспоненты.




Просмотров: 1046


<<< Ошибка Pentium FDIV
Число одинарной точности >>>