Отладчик округляет числа с плавающей запятой... почему это происходит и как обойти это?

Question

Отладчик округляет числа с плавающей запятой... почему это происходит и как обойти это?

У меня есть следующий код:

public static float FLOAT_VALUE = 0.899999761581421f;

Но всякий раз, когда я вызываю это значение с помощью отладчика, я вижу, что теперь оно становится 0,9f. Почему это происходит и как мне обойти это?

2

java floating-point precision

Источник

user4133567 04 окт '17 в 00:11

1 ответ

Решение

Другие вопросы по тегам java floating-point precision

user1798593 04 окт '17 в 01:20 2017-10-04 01:20 · Accepted Answer · 2017-10-04 01:20

Либо значение действительно меняется, либо, что более вероятно, отладчик не отображает достаточно цифр, чтобы различать различные значения с плавающей точкой.

Ближайший float к 0.899999761581421 - 0.89999973773956298828125. Ближайшее значение с плавающей точкой 0,9 составляет 0,89999997615814208984375. Они разные.

Преобразование toString 0,89999973773956298828125 составляет 0,89999974, а не 0,9