Ошибка получения файла из-за escape-символа
Я пытаюсь выполнить приведенную ниже команду spark-shell в терминале Linux через код Java.
echo spark.sparkContext.parallelize\(1 to 3,3\).map\(x => \
(x,\"city_\"+x\)\).toDF\(\"num",\"city\"\).write.partitionBy\(\"num\"\).mode\
(SaveMode.Overwrite\).parquet\(\"/tmp/abinash\"\) | /opt/ab/cd/de/spark-shell
Но появляется сообщение "Нет такого файла или каталога" для /tmp/abinash, даже если файл существует
Я пробовал так много способов решить это. Но не получил никакого успеха. Я предполагаю, что есть проблема с escape-символом.
Может ли кто-нибудь помочь мне с этим, что я делаю не так здесь.
1 ответ
Попробуй это.
> echo "spark.sparkContext.parallelize(1 to 3,3).map(x => (x,\"city_\"+x)).toDF(\"num\",\"city\").write.partitionBy(\"num\").mode(SaveMode.Overwrite).parquet(\"/tmp/abinash\")"
spark.sparkContext.parallelize(1 to 3,3).map(x => (x,"city_"+x)).toDF("num","city").write.partitionBy("num").mode(SaveMode.Overwrite).parquet("/tmp/abinash")