Оптимизация гиперпараметров с помощью моделей keras: GridSearchCV или talos?

Question

Я хочу настроить гиперпараметры на keras модели, и я изучал альтернативы, которые у меня были под рукой. Первым и наиболее очевидным было использование scikit-learn обертки, как показано здесь ( https://keras.io/scikit-learn-api/), таким образом, имея возможность использовать все сказочные вещи в scikit-learn worflow, но я также столкнулся с этим пакетом здесь ( https://github.com/autonomio/talos), который кажется очень многообещающим и, скорее всего, предлагает повышение скорости.

если кто-то использовал их оба, мог бы кто-нибудь указать мне на лучшее решение (гибкость, скорость, функции)? sklearn рабочий процесс с pipeline а пользовательские оценщики обеспечивают мир гибкости, но кажется, что talos более непосредственно ориентирован на керасы, поэтому он должен дать некоторые преимущества (я думаю, они не сделали бы новый автономный пакет в противном случае), которые я не могу увидеть (некоторые преимущества выделены здесь https://github.com/autonomio/talos/blob/master/docs/roadmap.rst но, похоже, такие уровни должным образом отражены в scikit-learn фреймворк)

какие-либо идеи?

Answer 1

Личные мнения:

• разделение "поезд / действительный / тестовый" - лучший выбор, чем перекрестная проверка для глубокого обучения. (Стоимость k обучения слишком высока)

• случайный поиск - хороший способ начать изучение гиперпараметров, так что на самом деле это не сложно написать самостоятельно, но да, talos или hyperas (что довольно хорошо известно) могут быть полезны.