Как azkaban запускает искровое задание, вызывая искровое задание (type = command) из оболочки и вызовы type = spark имеют разные значения?
Сейчас azkaban версии 3.0.0, источник поддерживает искомый тип задания, но нет описания того, как использовать соответствующую документацию. Некоторые люди знают, как настроить работу это? Я хотел бы знать, чтобы запустить type = command type = spark run по-другому.
type=spark
dependencies=wordcount1
job.class=com.test.spark.JavaWordCount
master=local[2]
class=com.mapbar.spark.streaming.JavaWordCount
executor-cores=2
num-executors=2
executor-memory=512M
name=wordcount
conf.spark.serializer=org.apache.spark.serializer.KryoSerializer
main.args=${param.inData} ${param.outData}
force.output.overwrite=true
input.path=${param.inData}
output.path=${param.outData}
==================================================
type=command
command=spark-submit \
--master local[2] \
--jars $LIBJARS \
--class com.test.spark.JavaWordCount \
--executor-cores 2 \
--num-executors 2\
--executor-memory 512M \
--conf spark.serializer=org.apache.spark.serializer.KryoSerializer \
--name $name \