Какая библиотека глубокого обучения поддерживает сжатие моделей глубокого обучения, которые будут использоваться на телефонах?

Question

Я хочу построить продвинутую модель глубокого обучения (например, модель, которая требует внимания) и использовать ее на телефонах Android (без обучения, конечно), я буду использовать ее только для логического вывода.
и я хочу библиотеку, которая может сделать это и может сжать размер модели для использования на телефоне или Android.
а знаете ли вы какие-либо проекты или приложения, похожие на мою цель?

Answer 1

Есть кофейная вилка под названием Ристретто. Это позволяет сжимать нейронные сети для более низкой числовой точности (менее 32 бит на параметр), сохраняя при этом высокую точность. MXNet и Tensorflow также имеют эту функцию сейчас. У Pytorch его пока нет. Эти инструменты позволяют уменьшить объем памяти, необходимый для хранения параметров нейронной сети, но они не характерны для Android.