Лучшие практики для развертывания приложения Spark, использующего брокер сообщений

Я создал приложение Java, которое использует сообщения посредника сообщений для запуска заданий Spark на основе параметров, отправляемых в сообщении. Я хочу развернуть приложение в кластере Spark (AWS EMR). Для этого я думал об использовании spark-submit с банкой Uber, содержащей мое заявление. Проблема с этим методом заключается в том, что у меня будет проблема с развертыванием новых версий. Мне придется удалить приложение из кластера Spark и представить новую версию. Есть ли способ сделать это? Есть ли лучший способ использовать брокер сообщений внутри приложения Spark?

0 ответов

Другие вопросы по тегам