Угол ответа Харриса в целых числах с фиксированной точкой?

Question

В углу Харриса ответ рассчитывается следующим образом: R = det - K * tr^2

где k (константа) - число с плавающей запятой с 0,04 по умолчанию в нескольких известных библиотеках.

Означает ли это, что ответ (R) также должен быть плавающей точкой? Как тогда я могу произвести целочисленный ответ?

Answer 1

Да, ответ (R) тоже должен быть переменной с плавающей точкой. Вы можете получить целочисленный ответ, используя функцию округления, если дробная часть ответа не важна для ваших расчетов или вы можете преобразовать код для использования арифметики с фиксированной точкой.