Описание тега torchscript
Вопросы о Torch Script. Инструмент для сериализации оптимизируемых моделей Pytorch в независимый формат Python.
1
ответ
Ошибка при преобразовании модели PyTorch в TorchScript
Я пытаюсь следовать руководству PyTorch для загрузки моделей в C++. Следующий пример кода работает: import torch import torchvision # An instance of your model. model = torchvision.models.resnet18() # An example input you would normally provide to y…
17 дек '18 в 17:23
3
ответа
Как правильно использовать _extra_files arg в torch.jit.save
Один из вариантов, который я пробовал, - это засоление вокаба и сохранение с помощью extrafiles import torch import pickle class Vocab(object): pass vocab = Vocab() pickle.dump(open('path/to/vocab.pkl','w')) m = torch.jit.ScriptModule() ## I am not …
03 июн '19 в 00:03
0
ответов
Ошибка Pytorch (torchscript): атрибут 'downsample' типа 'NoneType' не может использоваться в методе сценария (вы забыли добавить его __constants__?)
Я конвертирую код Pytorch для AlignedReID++ в код C++, используя torchscript. Во время процесса я столкнулся со следующей ошибкой: Traceback (most recent call last): File "selfDemo.py", line 28, in <module> traced_model = torch.jit.script(mode…
22 авг '19 в 08:29
1
ответ
Как включить поддержку Dict/OrderedDict/NamedTuple в JIT-компиляторе pytorch 1.1.0?
Из релиза подсветка pytorch 1.1.0. Похоже, что последний JIT-компилятор теперь поддерживает тип Dict. (Источник: https://jaxenter.com/pytorch-1-1-158332.html) Поддержка словаря и списка в TorchScript: списки и типы словарей ведут себя как списки и с…
02 июл '19 в 02:51
1
ответ
Torchscript несовместим с torch.cat для тензорных списков
Torch.cat выдает ошибку для тензорных списков при использовании в torchscript Вот минимальный воспроизводимый пример для воспроизведения ошибки import torch import torch.nn as nn """ Smallest working bug for torch.cat torchscript """ class Model(nn.…
27 фев '20 в 20:43
2
ответа
В чем разница между torch.jit.trace и torch.jit.script в torchscript?
Torchscript предоставляет torch.jit.trace и torch.jit.script для преобразования кода pytorch из режима ожидания в модель сценария. Из документации я могу понять, что torch.jit.trace не может обрабатывать потоки управления и другие структуры данных, …
28 июн '20 в 20:33
1
ответ
torch.jit.script (модуль) против декоратора @ torch.jit.script
Почему добавление декоратора "@torch.jit.script" приводит к ошибке, а я могу вызвать torch.jit.script в этом модуле, например, это не удается: import torch @torch.jit.script class MyCell(torch.nn.Module): def __init__(self): super(MyCell, self).__in…
13 авг '20 в 21:57
2
ответа
Использование модели PyTorch в приложении C++ в Windows
Следуя официальному руководству PyTorch, я создал модель на Python, преобразовал ее в Torch Script с помощью трассировки и сохранил модуль сценария в.ptфайл. Код C++, загружающий модель и CMakeLists, идентичен таковому из учебника. Я загрузил LibTor…
23 ноя '19 в 13:16
1
ответ
Слишком медленный первый запуск модели TorchScript и ее реализация во Flask
Я пытаюсь развернуть модель с факелами в Python и Flask. Как я понял (по крайней мере, как упоминалось здесь), скриптовые модели необходимо "разогреть" перед использованием, поэтому первый запуск таких моделей занимает гораздо больше времени, чем по…
14 фев '20 в 23:06
2
ответа
Torchscripting модуля с _ConvNd вперед
Я использую PyTorch 1.4, и мне нужно экспортировать модель со свертками внутри цикла в forward: class MyCell(torch.nn.Module): def __init__(self): super(MyCell, self).__init__() def forward(self, x): for i in range(5): conv = torch.nn.Conv1d(1, 1, 2…
04 мар '20 в 19:33
1
ответ
Различные результаты после преобразования pytorch в torchscript? Преобразование NSnumber в Float приведет к потерям?
Я преобразовал предварительно обученную модель pytorch (.pt) в модель torchscript (.pt) для использования ее в Swift 5(ios-iphone6s, xcode 11). В Swift функция "прогнозирования" модели дала мне значения вложения (Tensor). Поскольку он вернул массив …
08 фев '20 в 16:10
1
ответ
Как сериализовать модель PyTorch для классификации НЛП
Я пытаюсь использовать новую модель НЛП в демонстрационном приложении PyTorch для Android Demo App Git, однако я изо всех сил пытаюсь сериализовать модель, чтобы она работала с Android. PyTorch демонстрирует следующую демонстрацию модели Resnet: mod…
12 фев '20 в 07:23
2
ответа
Как запустить модель нейронной сети на Android с использованием графического процессора?
Кто-нибудь пробовал запустить обнаружение объектов или модель crnn на Android? Я попытался запустить модель crnn (сериализованный pytorch), но это занимает 1 с на Huawei P30 lite и 5 с на Samsung J4 Core. Huawei P30 lite CPU : octa core processor GP…
24 апр '20 в 14:34
1
ответ
Как использовать скрипт для преобразования трансформатора pytorch?
Я пытаюсь скомпилировать трансформатор pytorch, чтобы запустить его на C++: from torch.nn import TransformerEncoder, TransformerEncoderLayer encoder_layers = TransformerEncoderLayer(1000, 8, 512, 0.1) transf = TransformerEncoder(encoder_layers, 6) s…
09 июн '20 в 18:31
0
ответов
Реализуйте модель PyTorch в среде C++ через TorchScript
Я проследил свою модель PyTorch до модели Script с помощью инфраструктуры TorchScript. Мой ввод объединил 5 тензоров (5 тензоров, используемых для трассировки модели). Это мой код, когда я использую этот ввод для прогнозирования в среде C++ через мо…
30 янв '20 в 05:50
1
ответ
Почему я не могу использовать классы для аннотации типов аргументов функции в декораторе `torch.jit.script`?
Этот код отлично компилируется: import torch import torch.nn as nn class Foo(nn.Module): def __init__(self): super(Foo, self).__init__() self.x = 0 def forward(self, X): X *= self.x self.x += 1 return X # @torch.jit.script def bar(f: Foo): return f.…
16 июн '20 в 22:20
0
ответов
Преобразуйте C++ vector <vector <float>> в torch::tensor
Я пытаюсь преобразовать свой вектор С ++ в тензор факела. Однако мой код возвращает неправильные преобразования. cout << history << endl; auto options1 = torch::TensorOptions().dtype(torch::kFloat32); input = torch::from_blob(history.dat…
22 авг '20 в 03:12
0
ответов
Использование классов TorchScript в качестве членов в модулях pytorch
Я пытаюсь сделать так, чтобы некоторые существующие модели pytorch поддерживали jit-компилятор TorchScript, но у меня возникают проблемы с членами непримитивных типов. Этот небольшой пример иллюстрирует проблему: import torch @torch.jit.script class…
22 ноя '19 в 19:43
1
ответ
как использовать пользовательский объект Python в torchscript
Я готов преобразовать модуль pytorch в ScriptModule, а затем загрузить его в C++，, но я заблокирован этой ошибкой This attribute exists on the Python module, but we failed to convert Python type: 'Vocab' to a TorchScript type, то Vocab- это объект P…
09 июн '20 в 12:17
0
ответов
Есть ли в torch.device torch-скрипты?
TorchScript - это способ создания сериализуемых и оптимизируемых моделей из кода PyTorch. Любую программу TorchScript можно сохранить из процесса Python и загрузить в процесс, где нет зависимости Python. Есть ли в torch.device torch-скрипты? Можно л…
21 фев '20 в 11:31