Excel машина Эпсилон Сравнение

Итак, я узнал, что машинное эпсилон в Excel равно 2^(-1022). Получите машинное эпсилон в Microsoft Excel.

Предположим, у меня есть в ячейке A1: =1+2^-1022

=1=A1 возвращается TRUE

Что я делаю неправильно?

1 ответ

Вы должны прочитать все комментарии к этому вопросу. Ваш ответ там:

Microsoft определяет свои пределы точности чисел с плавающей точкой для XL. Наименьшее число с плавающей запятой указано как 2.2250738585072E-308 в идентификаторе статьи службы поддержки Microsoft: 78113. Когда я ввожу это число в свою электронную таблицу, оно на самом деле сохраняет число с плавающей запятой 0, но если я сохраню 2.2250738585073E-308 (я добавил 1 до наименее значащей цифры) Я вижу все цифры. Я вижу, вы спрашивали о машине epsilon, но, поскольку вы используете XL, вы действительно увидите библиотеку C/C++ с плавающей точкой epsilon. См. Раздел "Сеть разработчиков Microsoft xlfRegister (форма 1)".

Другие вопросы по тегам