Разделитель свойств искры AWS EMR Serverless

Я пытаюсь запустить задание spark с помощью EMR Serverless, но проблема в том, что я не могу передать список jar-файлов и архивов в задание spark.

Раздел свойств искры, похоже, не позволяет передавать список с разделителями-запятыми.

На странице документации AWS четко указан список, разделенный запятыми, но он не работает. https://docs.aws.amazon.com/emr/latest/EMR-Serverless-UserGuide/jobs-spark.html

Любое предложение о том, как передать разделенные запятыми jar-файлы в свойства искры EMR Serverless?

      --conf spark.archives=s3://s3-analytics-core-qa/serverless/pii-poc/config/dev-logback.xml#logback.xml,s3://s3-analytics-core-qa/serverless/pii-poc/config/gobi-dev-pii.conf#pii.conf 

--conf spark.jars=s3://s3-analytics-core-qa/serverless/pii-poc/libs/log4j-over-slf4j-1.7.32.jar,s3://s3-analytics-core-qa/serverless/pii-poc/libs/logback-classic-1.2.9.jar,s3://s3-analytics-core-qa/serverless/pii-poc/libs/logback-core-1.2.9.jar,s3://s3-analytics-core-qa/serverless/pii-poc/libs/logstash-logback-encoder-7.0.1.jar,s3://s3-analytics-core-qa/serverless/pii-poc/libs/asm-6.1.jar 

--packages=org.apache.spark:spark-sql-kafka-0-10_2.12:3.1.2,org.apache.hadoop:hadoop-aws:3.2.0,com.amazonaws:aws-java-sdk-bundle:1.12.210

0 ответов

Другие вопросы по тегам