Агрегация нескольких столбцов в искровой Java
У меня есть список столбцов priceColumns
это динамично. Я пытаюсь объединить эти столбцы в наборе данных,
public Dataset getAgg(RelationalGroupedDataset rlDataset){
Dataset selectedDS=null;
for(String priceCol :priceColumns){
selectedDS=rlDataset.agg(expr("sum(cast("+priceCol+" as BIGINT))"));
}
return selectedDS;
}
Приведенный выше код является неправильным кодом. То, что я пытаюсь здесь сделать, заключается в том, чтобы на основе каждого столбца присутствовала агрегация для этого набора данных. Как я могу написать общий код? Я полностью застрял здесь.
1 ответ
Я попытался с помощью способа ниже, и это решено.
List<Column> columnExpr = priceColumns.stream()
.map(col->expr("sum(cast("+col+" as BIGINT))").as(col))
.collect(Collectors.toList());
Затем,
selectedDS= rlDataset
.agg(columnExpr.get(0),
JavaConverters.asScalaIteratorConverter(columnExpr.subList(1, columnExpr.size())
.iterator()).asScala().toSeq());