Описание тега higher

1 ответ

Когда следует вызывать .eval () и .train () при выполнении MAML с более высокой библиотекой PyTorch?

Я просматривал пример omniglot maml и увидел, что у них net.train()в верхней части их тестового кода . Это похоже на ошибку, поскольку это означает, что статистика каждой задачи при мета-тестировании является общей: def test(db, net, device, epoch, …
0 ответов

Как использовать среднее и стандартное значение из обучения в Batch Norm?

Я хотел использовать средства, stds из обучения, а не пакетную статистику, поскольку кажется, что если я использую пакетную статистику, моя модель расходится (как здесь показаноКогда следует вызывать .eval() и .train () при выполнении MAML с более в…
0 ответов

Адафактор от трансформеров обнимает лицо работает только с Трансфромерами - разве не работает с Реснетом и МАМЛ с выше?

Воспроизвести Я использую алгоритм метаобучения MAML (с более высоким уровнем) с помощью resnet. Я вижу, что это вызывает проблемы в моем сценарии (сообщение об ошибке вставлено ниже). Разве Adafactor не предполагает работу с Resnets или другими мод…
0 ответов

Будет ли создание «данных» градиента путем их отсоединения реализовать MAML первого порядка с использованием более высокой библиотеки PyTorch?

Я использовал более высокую библиотеку pytorch для MAML и хотел запустить MAML первого порядка. Я до сих пор не понимал, что track_higher_grads(вероятно, моя ошибка, потому что в прошлом я находил документы запутанными, например, см. Что означает до…
2 ответа

Какова официальная реализация MAML первого порядка с использованием более высокой библиотеки PyTorch?

Заметив, что может быть неправильной, я решил поискать в Google официальный способ выполнения MAML первого порядка. Я нашел полезную gitissue, которая предлагает прекратить отслеживать градиенты более высокого порядка. Что имеет для меня полный смыс…
0 ответов

С# SortedSet эквивалент метода Java TreeSet.higher( val )

Есть ли какой-либо метод или метод расширения для С# SortedSet, эквивалентный методу java TreeSet.higher(val)? TreeSet.Higher возвращает первый элемент в наборе, который выше, чем указанный параметр val.
23 авг '22 в 20:49