Загрузка ресурсов в spark-shell
Обычно загрузка ресурсов в Scala REPL выполняется следующим образом:
getClass().getClassLoader().getResource("/resource-file")
но это не находит ресурсы из банок, которые я загружаю, используя обычный запуск
spark-shell --jars list-of-jars
Как загружаются ресурсы в spark-shell? (Я ссылаюсь на неправильный ClassLoader?)
1 ответ
Решение
Пожалуйста, удалите префикс "/". Я тестировал в оболочке Spark и оба getClass().getClassLoader().getResource("resource-file")
а также Thread.currentThread().getContextClassLoader().getResource("resource-file")
работал. Тем не менее, я бы порекомендовал использовать Thread.currentThread().getContextClassLoader()
так как это не зависит от того, что getClass()
возвращается.