Главная > Математика > Вычислительные методы для инженеров
<< Предыдущий параграф
Следующий параграф >>
<< Предыдущий параграф Следующий параграф >>
Макеты страниц

2. Представление целых чисел.

Целое число представляют в виде

где некоторое стандартное для ЭВМ целоо число, — двоичные цифры. Всего для хранения числа отводят разрядов (один из них для хранения знака).

Из представления (2.25) видно, что максимальное по модулю целое число, представимое в ЭВМ, есть Обычно это значение не очень велико. Например, при стандартном формате записи целых чисел на компьютерах типа

Операции сложения, вычитания и умножения над целыми числами реализованы так, что если результат не превышает по модулю число он получается точным. Отметим, однако, следующую неприятную особенность. Если модуль результата превышает то на большинстве вычислительных машин эта ситуация не доводится до сведения пользователя, происходит присвоение результату некоторого значения (меньшего по модулю) и вычисления продолжаются далее.

<< Предыдущий параграф Следующий параграф >>
Оглавление