Масштабирование с использованием GPU

Я использую Openfaas для запуска некоторых задач на GPU. Однако, поскольку в этих задачах используется только графический процессор, а центральный процессор остается в основном бездействующим, openfaas не масштабирует эти модули и, следовательно, GKE не масштабирует наши узлы. Как я могу настроить openfaas для использования показателей GPU для масштабирования?

Насколько я понимаю, использование процессора в настоящее время отправляется в Prometheus, который затем используется диспетчером предупреждений для масштабирования модулей вверх или вниз. Мне нужно как-то сделать так, чтобы всякий раз, когда модуль использовал более 10% GPU в течение 1 секунды, то увеличивал его.

0 ответов

Другие вопросы по тегам