Описание тега apache-tvm

Используйте этот тег для вопросов, касающихся Apache TVM Framework.
0 ответов

Как интегрировать планировщик TVM в существующую нейронную сеть для распараллеливания?

Я новичок в среде Apache TVM, и я немного поиграюсь с ней для обучения и использования в будущем. Я заметил, что он предоставляет ряд мощных возможностей с точки зрения компиляции и настройки NN. Одним из механизмов, привлекших мое внимание, были те…
01 июл '21 в 12:26
1 ответ

Пакет tvmc не найден в контейнере TVM Docker

Я новичок в Apache TVM. Я попытался создать и запустить образ докера с именем tvm.ci_cpu:latest , как описано в следующем руководстве: https://tvm.apache.org/docs/install/docker.html#docker-источник Я попытался использовать приложение Python tvmc вн…
08 фев '22 в 13:18
0 ответов

Поддерживает ли TensorFlow Serving вывод в скомпилированных средах выполнения?

Можно ли обслуживать модели, оптимизированные компиляторами вывода ( в частности, ONNXRuntime, TVM или TensorRT ) в TF Serving? Или TF Serving может обслуживать только сохраненные модели, созданные TensorFlow, в среде выполнения TensorFlow?
0 ответов

Сделать ошибку jvmpkg в tvm для развертывания среды выполнения tvm в android

Я пытаюсь установить среду выполнения tvm в Android. Я установил libtvm_runtime.so и сделал jvmpkg. Но я получаю ошибки. (cd /home/aishwarya/Downloads/tvm/jvm; \ mvn clean package -Plinux-x86_64 -Dcxx="g++" \ -Dcflags="-std=c++11 -Wall -O2 -Iinclude…
27 апр '22 в 11:17
0 ответов

TVMError: Двоичный файл был создан с использованием cuda, но загрузчик с таким именем не зарегистрирован

Я создаю tvm, устанавливаю и использую его в другом док-контейнере. Код генерации колеса TVM: # install cmake RUN yum install -y wget RUN wget https://github.com/Kitware/CMake/releases/download/v3.20.2/cmake-3.20.2.tar.gz -O cmake.tar.gz && …
11 дек '22 в 07:12
0 ответов

Есть ли способ преобразовать тип tvm.runtime.module.Module в тип tvm.IRModule?

Я новичок в ТВМ. У меня есть оптимизированная модель TVM в виде файла tar. Я пытаюсь сравнить его, запустив на нем вывод. Я ссылался на код бенчмаркинга и на этот файл . Вот мой код: import numpy as np import os import tvm from tvm import te from tv…
19 янв '23 в 07:37
0 ответов

Проблемы при выполнении интеграции TVM и NVDLA

Я столкнулся с проблемой, когда слежу за проектом с Github об интеграции NVDLA и TVM. Я запускаю его на Centos7. Я думаю, может ли кто-нибудь, кто использовал этот проект, помочь мне с моими вопросами. Всем привет. Я столкнулся с проблемой, когда сл…
16 янв '23 в 17:33
0 ответов

Почему выходные параметры tvm.relay.optimize пусты?

Я новичок в использовании TVM. Я отследил файл resnet50. Теперь я хочу получить оптимизированные модули, используя: model = ResNet50(10, 3) model.to(dtype) trace_input = torch.rand(1, 3, 224, 224) traced_model = torch.jit.trace(model, trace_input) f…
07 ноя '22 в 17:35
0 ответов

В чем разница между TVM и LLVM?

Я не могу визуализировать полный стек программного обеспечения (pytorch + clang + TVM + LLVM + Hardware....) Вам обязательно иметь llvm, если вы используете TVM? оба делают оптимизацию? есть ли у Wither разные функции и они нужны друг другу, или это…
06 июн '23 в 04:07
0 ответов

Компиляция TVM создает несовпадающие матрицы

Я определил следующую модель на основе BERT, используя PyTorch: class BERTGRUSentiment(nn.Module): 13 def __init__(self, 14 bert, 15 hidden_dim, 16 output_dim, 17 n_layers, 18 bidirectional, 19 dropout=0): S> 20 21 super().__init__() S> 22 23 …
12 июл '23 в 16:10
0 ответов

Как я могу перекрестно скомпилировать TVM для RISC-V на x86 Ubuntu 22.04.2 с помощью набора инструментов LLVM и GCC?

Как перекрестно скомпилировать TVM в RISCV на x86 Ubuntu 22.04.2? Я хочу кросс-компилировать TVM для RISC-V на x86 Ubuntu 22.04.2. Среда: Версия ТВМ: 0.13.0-dev0 LLVM: sudo apt install llvm, версия: 14.0.0 Набор инструментов GNU для RISC-V: sudo apt…
02 июн '23 в 07:18