Проблема при сравнении двух значений IloNum

Следующий фрагмент кода:

IloNum i = 2*0.6 + 3*0.4 + 0.6 - 0.4 + 1 + 0.6 - 0.4 + 1;
IloNum j = 4.8;
cout << "i=" << i << ", j=" << j << ", (i>j)=" << (i > j) << endl;

имеет следующий вывод:

i=4.8, j=4.8, (i>j)=1

Я пропустил некоторые детали в документации или это ошибка?

1 ответ

Решение

Вы должны помнить, что как только вы выполняете некоторые операции с плавающей точкой, у вас появляются небольшие ошибки.

Если я переписать вашу модель в OPL

float i = 2*0.6 + 3*0.4 + 0.6 - 0.4 + 1 + 0.6 - 0.4 + 1;
float j = 4.8;

execute
{
writeln("i=" , i , ", j=" ,j ,", (i>j)=" , (i > j) );;
}

float i2=i-4.8;
float j2=j-4.8;

execute
{
writeln("i2=",i2);
writeln("j2=",j2);
}

тогда я получаю

i=4.8, j=4.8, (i>j)=true
i2=8.881784197e-16
j2=0

который показывает крошечную неточность, которая приводит к тому, что выглядит как парадокс

И позвольте мне подчеркнуть, что

    float i = 2*6 + 3*4 + 6 - 4 + 10 + 6 - 4 + 10;
float j = 48;

execute
{
writeln("i=" , i , ", j=" ,j ,", (i>j)=" , (i > j) );;
}

float i2=i-48;
float j2=j-48;

execute
{
writeln("i2=",i2);
writeln("j2=",j2);
}

дает

i=48, j=48, (i>j)=false
i2=0
j2=0

С уважением

Другие вопросы по тегам