Формула получения информации
У меня большие проблемы с формулой получения информации.
из моего нынешнего понимания его энтропии родителей - взвешенная энтропия детей
Однако пример, на котором я практикуюсь, я получаю отрицательный выигрыш, который, как я понимаю, невозможен. Это может только не улучшить информацию, не сделать ее хуже.
Пример:
- Узел А 80 человек решили подождать, а 20 человек решили не ждать.
• Из тех случаев, когда люди решили подождать, в 20 случаях
это были выходные, а в 60 случаях это были не выходные.
• Из тех случаев, когда люди решили не ждать, в 15 случаях это были выходные, а в 5 - не выходные.
Моя работа:
- Энтропия родителей = -(0,2 log 0,2) - (0,8 log 0,8)
- Детская энтропия = -(((20/80) log2 (20/80)) - ((60/80) log2 (60/80)) * (80/100) -((15/20) log2 (15/20)) - ((5/20) log2 (5/20)) * (20/100)
Это заставляет меня получить 0,72 - 0,811
Я чувствую, что совершаю ошибку, пожалуйста, укажите мне правильное направление.