Эффективный способ сборки PyTorch `Tensor`s, требующий градиентов
Мне нужно построить 4-мерный PyTorch Tensor
где одно из измерений происходит от умножения постоянной разреженной матрицы на плотный вектор. Плотный вектор и результирующий 4D Tensor
, требуют отслеживания градиентов. Поскольку PyTorch поддерживает только разреженные матрицы, я не могу выразить все это как Tensor
-Tensor
умножение, и я думаю, что я должен сделать умножение матрицы часть конструкции в цикле. В этом случае я бы по крайней мере хотел бы предварительно выделить результат 4D Tensor
и пусть разреженный mm
заполнить одно измерение в цикле.
Как мне в таком случае следить за полученным 4D Tensor
требования к градиенту? Можно ли вручную прикрепить его к градиентному графику после его создания?
Мой нынешний подход крайне неэффективен, по сути, создавая одно измерение за раз в списке, можно cat
ING.