pytorch: как изменить размер партии во время обучения?

Question

Я хочу изменить размер пакета во время цикла обучения. Я попытался повторно создать новый загрузчик данных, чтобы изменить размер пакета, изменив параметр «размер пакета». Но на это уйдет некоторое время.

Как я могу изменить размер партии, как показано ниже:

          for batch, (X, y) in enumerate(dataloader):
        # do sth here like traing model
        dataloader.setBatchsize(newBatchsize) #this what i want to do

в этой статье: Полудинамическая балансировка нагрузки: эффективное распределенное обучение в неспециализированных средах автор говорит, что он изменяет размер партии по индивидуальному заказу. DataIterа также BatchSampler, но я понятия не имею, как это сделать.

Надеюсь, что коллеги и пожилые люди могут дать некоторые рекомендации