Можно ли определить ввод модели во время выполнения с помощью seldon

Я думаю о развертывании ml-моделей с ядром seldon на кубернетах. Seldon предлагает способы предварительной обработки, постобработки, прогнозирования, комбинирования и маршрутизации моделей. Но, я думаю, все это предполагает, что входные данные фиксированы. Фиксированы ли входные данные для всего графика seldon или можно вызывать модели во время выполнения? Другими словами, можно ли использовать выходные данные одной модели, чтобы определить, какую другую модель следует вызвать.

Я пытаюсь запустить одну модель с переменным количеством выходов (скажем, модель сегментации экземпляра изображения) и запустить вторую модель для каждого из выходов (скажем, модель классификации изображений). В этом случае вход второй модели зависит от выхода первой модели.

Поддерживается ли это селдоном? Есть ли способ сделать это с помощью seldon?

0 ответов

Другие вопросы по тегам