Разбор схемы динамического фрейма данных в AWS Glue

У меня есть динамический фрейм данных в клее AWS, который я создал, используя приведенный ниже фрагмент кода.

val rawDynamicDataFrame = glueContext.getCatalogSource(
    database = rawDBName, 
    tableName = rawTableName, 
    redshiftTmpDir = "", 
    transformationContext = "rawDynamicDataFrame"
).getDynamicFrame()

Чтобы получить схему вышеупомянутого динамического кадра, я использовал следующий фрагмент кода:

val x = rawDynamicDataFrame.schema

Сейчас x имеет тип com.amazonaws.services.glue.schema.Schema, Как я могу разобрать объект схемы?

2 ответа

Чтобы проверить, существует ли поле в схеме, используйте containsField(fieldPath):

if (rawDynamicDataFrame.schema.containsField("app_name")) {
    // do something
}

Может быть, вы можете использоватьfield_names = [field.name for field in self. rawDynamicDataFrame.schema().fields]чтобы получить список имен полей.

Другие вопросы по тегам