Trident делает неправильные агрегации в потоке Кафки
Я новичок в штормовой трезубец. Вот моя проблема:
Я использую сообщения из очереди Kafka и использую реализацию CombinerAggregator
сделать агрегацию, чтобы сохранить данные в Кассандре.
Когда я запускаю эту вещь локально, я вижу, что числа заполняются правильно. Но в производственной среде я вижу, что в большинстве случаев эти агрегации равны 0, что неверно, у нас должны быть значения и для этих случаев. И в некоторых случаях появляются ненулевые числа, которые являются правильными.
Я поставил numOfWorkers
для моей топологии как 4 и parallelismHint
как 2. Знаете ли вы, что может пойти не так? Или предложите способ отладки этой проблемы.