Как мне освободить память CUDA от вложения, созданного с чутьем?

У меня есть цикл, который выглядит так:

embedding = TransformerDocumentEmbeddings('bert-base-uncased')
for row in df.itertuples():
    sentence = Sentence(row.TEXT)
    embedding.embed(sentence)
    df.at[row.Index, 'TEXT'] = sentence.embedding

Но у меня почти сразу заканчивается память CUDA. Я пробовал бежатьdel sentence а также torch.cuda.empty_cache()в конце каждой итерации, но не работает. Что здесь делать?

Источник

0 ответов

Другие вопросы по тегам