Несколько процессов для оценки - машинное обучение
Я использую API-интерфейс обнаружения объекта Tennsflow для запуска модели на изображении. Проблема в том, что инициализация модели занимает некоторое время. Я хочу запустить эту модель в каталоге, полном изображений, то есть для каждого изображения, которое понадобится модели для инициализации модели, что совершенно не нужно и трата времени.
Моя цель состоит в том, чтобы модель представляла собой своего рода процесс или службу, в которой она инициализировала модель и ожидает запросов от других сценариев Python (делая ее асинхронной?). Можно ли сделать это без использования какого-либо сервера локальной сети (например, с помощью фляги)?
Я обычно отправляю код того, что я пытался, но я не совсем уверен, с чего начать и что искать.