Как azkaban запускает искровое задание, вызывая искровое задание (type = command) из оболочки и вызовы type = spark имеют разные значения?

Сейчас azkaban версии 3.0.0, источник поддерживает искомый тип задания, но нет описания того, как использовать соответствующую документацию. Некоторые люди знают, как настроить работу это? Я хотел бы знать, чтобы запустить type = command type = spark run по-другому.

type=spark
dependencies=wordcount1
job.class=com.test.spark.JavaWordCount

master=local[2]
class=com.mapbar.spark.streaming.JavaWordCount
executor-cores=2
num-executors=2
executor-memory=512M
name=wordcount
conf.spark.serializer=org.apache.spark.serializer.KryoSerializer

main.args=${param.inData} ${param.outData}

force.output.overwrite=true

input.path=${param.inData}
output.path=${param.outData}

==================================================

type=command
command=spark-submit \
  --master local[2] \
  --jars $LIBJARS \
  --class com.test.spark.JavaWordCount \
  --executor-cores 2 \
  --num-executors 2\
  --executor-memory 512M \
  --conf spark.serializer=org.apache.spark.serializer.KryoSerializer \
  --name $name \

0 ответов

Другие вопросы по тегам