Топология штормовой топологии не обрабатывается через 2 или 3 дня

Question

Я использую кластер Storm с 3 узлами. Мы представляем топологию с 10 работниками, ниже приведены подробные сведения о топологии

Детали топологии:

kafkaspout: 1 (with 10 kafka partions and 10 executors) 
no of bolt: 4 (with bolt1 - 30 executors,bolt2 - 50 executors, bolt3 - 80 executors and bolt4 has 100 executors)
kafka spout pending : 500 messages

Мы обрабатываем от 8 до 10 миллионов данных в день. Проблема в том, что Toplolgy работает только в течение 2-3 дней после того, как мы видим, что некоторые сбойные кортежи в носике kafka не обрабатываются, и никакие сообщения не обрабатываются. или через 3 дня мы видим ту же проблему. Может кто-нибудь найти нам решение этой проблемы?

Storm.yaml:

worker.childopts: "-Xmx3072m -XX:-UseGCOverheadLimit -server -XX:+AggressiveOpts -XX:+UseCompressedOops -Djava.net.preferIPv4Stack=true -XX:MaxTenuringThreshold=1 -XX:SurvivorRatio=6 -XX:+UseParNewGC -XX:+UseConcMarkSweepGC -XX:+CMSParallelRemarkEnabled -XX:CMSInitiatingOccupancyFraction=75 -XX:+UseCMSInitiatingOccupancyOnly"
storm.zookeeper.servers:
     - "zoo1"
     - "zoo2"
     - "zoo3"
storm.zookeeper.port: 2181
ui.port: 9095
ui.host: uihost

nimbus.host: "nimbushost"
storm.local.dir: "/storm-logs"

supervisor.slots.ports:
   - 6700
   - 6701
   - 6702
   - 6703
   - 6704
   - 6705
   - 6706
   - 6707
   - 6708
   - 6709

Answer 1

Это обе очень старые версии. Я не слишком знаком с Storm pre-0.10, но я свяжу этот ответ /questions/27349951/apache-storm-spout-prekraschaet-izluchat-soobscheniya-iz-nosika/27349960#27349960, так как случаи кажутся похожими.

Обратите внимание, что в отличие от другого пользователя, работающего в Storm 1.1.1, вы используете версию, в которой STORM-1750, скорее всего, не исправлена, поэтому вам следует подумать об обновлении.