Trident делает неправильные агрегации в потоке Кафки

Я новичок в штормовой трезубец. Вот моя проблема:

Я использую сообщения из очереди Kafka и использую реализацию CombinerAggregator сделать агрегацию, чтобы сохранить данные в Кассандре.

Когда я запускаю эту вещь локально, я вижу, что числа заполняются правильно. Но в производственной среде я вижу, что в большинстве случаев эти агрегации равны 0, что неверно, у нас должны быть значения и для этих случаев. И в некоторых случаях появляются ненулевые числа, которые являются правильными.

Я поставил numOfWorkers для моей топологии как 4 и parallelismHint как 2. Знаете ли вы, что может пойти не так? Или предложите способ отладки этой проблемы.

0 ответов

Другие вопросы по тегам