Описание тега pytorch-lightning

Вопросы с тегом
0 ответов

Почему я получаю эту ошибку, когда запускаю пример документации PyTorch L Lighting на TPU?

Я пробую учебник PyTorch Lightning по MNIST на colab TPU. Но, запустив его, я получаю Исключение в устройстве =TPU:0: модуль 'torch_xla.core.xla_model' не имеет атрибута 'rendezvous'. Заранее благодарны за Вашу помощь.
09 май '20 в 04:36
1 ответ

Как написать несколько настроек обучения в PyTorch Lightning

Я хочу итеративно квантовать свою модель. Это означает, что после обычного цикла обучения, который обычно реализуется вtraining_step Я хотел бы итеративно квантовать некоторые параметры и переобучить модель за пару шагов. Я действительно не понимаю,…
12 май '20 в 19:20
1 ответ

pythorch-lightning train_dataloader исчерпывает данные

Я начал использовать pytorch-lightning и столкнулся с проблемой моих пользовательских загрузчиков данных: Я использую собственный набор данных и общий torch.utils.data.DataLoader. В основном набор данных берет путь и загружает данные, соответствующи…
25 май '20 в 19:47
1 ответ

Pytorch xla против Pytorch Ligthning: мульти-TPU

Я пытаюсь использовать функцию мульти-TPU Colab. Мне было интересно, что лучше использовать, Pytorch xla или Pytorch Lightning.
29 июн '20 в 01:30
0 ответов

Finetuning (немецкий) Bert. Это недостаточно?

Буду признателен за вашу помощь в решении проблемы, с которой я столкнулся прямо сейчас. С помощью молнии и трансформаторов я настроил модель Берта на немецких сервисных талонах. Набор данных имеет следующий размер: FULL Dataset: (1220, 2) TRAIN Dat…
05 июл '20 в 16:29
0 ответов

AttributeError при использовании нескольких графических процессоров даже при использовании ddp

Я получаю ошибку "Атрибут не найден" при использовании нескольких графических процессоров. Код отлично работает при использовании одного графического процессора. Я также использую ddp, как было предложено. Я использую pytorch lightning. Есть предлож…
05 июл '20 в 19:53
1 ответ

Проблема с запуском нескольких моделей в PyTorch Lightning

Я разрабатываю систему, которая должна обучать десятки отдельных моделей (>50) с помощью Lightning, каждая из которых имеет свои собственные графики и журналы TensorBoard. Моя текущая реализация имеет один объект Trainer для каждой модели, и кажется…
03 авг '20 в 13:21
1 ответ

Pytorch-lightning - не работает загрузка модели с КПП

Я обучил vanilla vae, который я модифицировал из этого репозитория. Когда я пытаюсь использовать обученную модель, я не могу загрузить веса с помощьюload_from_checkpoint. Кажется, есть несоответствие между моим объектом контрольной точки и моимlight…
04 авг '20 в 11:54
2 ответа

Выборка нормального распределения в питорч-молнии

В Pytorch-Lightning обычно не требуется указывать cuda или gpu. Но когда я хочу создать тензор с гауссовой выборкой, используяtorch.normal я получил RuntimeError: Expected all tensors to be on the same device, but found at least two devices, cuda:0 …
30 авг '20 в 21:12
1 ответ

RuntimeError: данные группы =1, вес размера [32, 3, 16, 16, 16], ожидаемый вход [100, 16, 16, 16, 3] будет иметь 3 канала, но вместо этого получил 16 каналов.

RuntimeError: данные группы =1, вес размера [32, 3, 16, 16, 16], ожидаемый вход [100, 16, 16, 16, 3] будет иметь 3 канала, но вместо этого получил 16 каналов Я думаю, что это та часть кода, в которой проблема. def __init__(self): super(Lightning_CNN…
16 июн '20 в 23:11
0 ответов

BERT Тонкая настройка: высокие потери и низкая точность в мультиклассовой классификации

В то время как двоичная классификация с точной настройкой Берта работала хорошо, я придерживаюсь мультиклассовой классификации. Мой набор данных (немецкие новостные статьи с 10 классами) содержит примерно 10.000 образцов. Тем не менее, потери в обуч…
02 июл '20 в 23:26
2 ответа

Pytorch динамическое количество слоев?

Я пытаюсь указать динамическое количество слоев, что, кажется, делаю неправильно. Моя проблема в том, что когда я определяю здесь 100 слоев, я получаю ошибку на шаге вперед. Но когда я правильно определяю слой, он работает? Ниже упрощенный пример cl…
16 июл '20 в 17:49
2 ответа

При развертке Weights & Biases нельзя импортировать модули с pytorch lightning

Я обучаю вариационный автоэнкодер, используя pytorch-lightning. Мой код pytorch-lightning работает с регистратором весов и смещений. Я пытаюсь выполнить развертку параметра, используя развертку параметра W&B.; Процедура поиска гиперпараметров основа…
14 авг '20 в 15:27
2 ответа

пример выполнения простого вывода с помощью pytorch-lightning

У меня есть существующая модель, в которой я загружаю некоторые предварительно обученные веса, а затем делаю вывод (по одному изображению за раз) в pytorch. Я пытаюсь в основном преобразовать его в модуль молнии pytorch, и меня несколько смущают нек…
03 май '20 в 01:04
1 ответ

PyTorch Lightning перемещает тензор для исправления устройства в validation_epoch_end

Я хочу создать новый тензор в validation_epoch_end метод LightningModule. В официальных документах (стр. 48) указано, что нам следует избегать прямого.cuda() или .to(device) звонки: Нет вызовов.cuda() или.to(). . . Lightning сделает это за вас. и на…
08 июл '20 в 20:19
0 ответов

Ошибка выполнения в мультимодальной задаче на основе pytoch-lightning

def _build_model(self): lang_module = torch.nn.Linear( in_features=self.embedding_dim, out_features=self.language_feature_dim ) vision_module = torchvision.models.resnet152( pretrained=True ) vision_module.fc = torch.nn.Linear( in_features=2048, out…
19 июл '20 в 08:05
0 ответов

Pytorch lightning, tensorboard: TypeError: не удается обработать объекты _thread.lock

Это моя ошибка. Я не знаю, в чем моя ошибка. И я действительно не знаю, что мне делать прямо сейчас. Я использую PyTorch-lightning с тензорной платой. Я не знаю, откуда взялась эта ошибка, я могу предоставить более подробную информацию, если вы спро…
15 июн '20 в 03:33
1 ответ

Есть ли в Pytorch-Lightning модуль многопроцессорности (или Joblib)?

Я искал в Google, но не могу найти, есть ли multiprocessing модуль, доступный в Pytorch-Lightning, точно так же, как в Pytorch есть torch.multiprocessing модуль. Кто-нибудь знает, есть ли у Pytorch-Lightning это (или Joblibаналогичный) модуль? Я ищу…
27 июл '20 в 07:14
0 ответов

Почему выход сверточной сети настолько экспоненциально велик?

Я пытаюсь воспроизвести результат unet в наборе данных Carvana с помощью Ternausnet в PyTorch с использованием Lightning. Я использую для этого DiceLoss с функцией активации сигмоида. Я думаю, что столкнулся с проблемой исчезающего градиента, потому…
30 авг '20 в 17:03
0 ответов

Потери не уменьшаются для двоичной классификации

Я пытаюсь реализовать двоичную классификацию. У меня есть набор данных изображения 100K (3 канала, 224 x 224 пикселей с предварительно измененным размером), который я пытаюсь обучить модели, если изображение безопасно для работы или нет. Я инженер п…
14 окт '20 в 10:39