Отсутствует класс регистрации искры крио

При форсировании регистрации крио через spark.kryo.registrationRequired", "true" в спарк 2.2 моя ошибка

Class is not registered: org.apache.spark.sql.catalyst.InternalRow[]

даже при использовании:

.registerKryoClasses(
          Array(classOf[scala.collection.mutable.WrappedArray.ofRef[_]],
                classOf[org.apache.spark.sql.catalyst.InternalRow])
        )

очевидно InternalRow[] не будет компилироваться в Scala. Что мне здесь не хватает?

1 ответ

Решение

Как зарегистрировать InternalRow с Kryo в Spark, приводит меня к правильному ответу.

classOf[Array[org.apache.spark.sql.catalyst.InternalRow]]

необходимо. Однако затем, по мере продвижения вперед, необходимо добавить дополнительные классы искры.

Другие вопросы по тегам