Отрицательное значение получения информации
Я использую C4.5 и в своих расчетах я получаю (для некоторых примеров) отрицательные значения для получения информации. Я читаю Почему я получаю отрицательный информационный прирост, но мой вопрос кажется другим. Я положил свой расчет, чтобы преуспеть, и я получаю те же результаты, как показано ниже:
Что я делаю неправильно?
Я попытался вычислить это снова, и также я получаю отрицательное значение, как на изображении ниже: новейшие вычисления с набором данных 80 - это разделенное значение, поэтому я получаю 11 <=80 и 3объекта> 80
1 ответ
Вы умножаете свой результат для энтропии на -1
?
$$ H (X) = - \ sum_ {i = 1} ^ n {\ mathrm {P} (x_i) \ log_b \ mathrm {P} (x_i)} $$
Тьфу... возникли проблемы с mathjax, иди сюда для определения