XGBoost: почему ошибка теста увеличивается, когда ошибка поезда уменьшается в XGBoost?

Когда я тренирую модель с помощью xgboost и обнаруживаю, что "eval-merror" увеличивается, а "train-merror" уменьшается, как показано ниже, есть что-то по ошибке?

введите описание изображения здесь

1 ответ

Решение

Вы, вероятно, переоснащение. Вы пытались установить early_stopping_rounds? Это завершит обучение, как только xgboost обнаружит, что ошибка проверки увеличивается.

Если это происходит с самого первого шага обучения, вы можете попробовать меньшую скорость обучения (это называется eta).

Вы можете найти больше информации о только что упомянутых параметрах в справочнике API: http://xgboost.readthedocs.io/en/latest/python/python_api.html

Другие вопросы по тегам