Как интегрировать планировщик TVM в существующую нейронную сеть для распараллеливания?

Я новичок в среде Apache TVM, и я немного поиграюсь с ней для обучения и использования в будущем. Я заметил, что он предоставляет ряд мощных возможностей с точки зрения компиляции и настройки NN. Одним из механизмов, привлекших мое внимание, были тензорные выражения (TE).

Однако все учебные пособия в основном сосредоточены на настройке планировщика и генерации базового IR-кода с использованием базовых примеров. Интересно, есть ли способ использовать его в процессе существующей NN - такой как ResNet, предоставленный в качестве примера в процессе компиляции / автонастройки , чтобы использовать распараллеливание (например, через OpenCL) или любые оптимизации.

Я ожидал, что у меня будет какой-то механизм привязки расписания, который позволяет выполнять вычисления на основе операции, выполняемой внутри NN, для пользовательских расписаний, однако такое использование мне не понятно. Я что-то здесь упускаю?

0 ответов

Другие вопросы по тегам