Учитывает ли TPE (от Optuna) количество испытаний?

Question

Я использую пробоотборник TPE от optuna для оптимизации гиперпараметров для моделей машинного зрения Deep Learning. Мне было интересно, адаптирует ли optuna поиск в зависимости от количества испытаний.

Если я тренируюсь на 1000 попыток и останавливаюсь на 500, я вижу, что многие параметры не были проверены алгоритмом. Если я уменьшу n_trials, будет ли TPE исследовать быстрее (и менее точно)? Другими словами, прерывание optuna на 500 с n_step=1000 аналогично использованию n_trials = 500 и ожиданию до конца.

У меня есть только базовое представление о том, как работает TPE.

Спасибо.

Answer 1

Если я уменьшу n_trials, будет ли TPE исследовать быстрее (и менее точно)?

Нет.

... прерывает optuna на 500 с n_step=1000 так же, как при использовании n_trials = 500 и ждет до конца.

Да.

Это связано с тем, что TPE (от Optuna) не знает количество оставшихся (или всего) испытаний.