Получить количество значений из JSON (mongodb doc) с помощью Spark
Мой документ MongoDB выглядит так
{
"_id":"sdf23sddfsd",
"the_list":[
{
"Sentiment":[
"Negative",
"Positive",
"Positive"
]
},
{
"Sentiment":[
"Neutral",
"Positive"
]
}
],
"some_other_list":[
{
"Sentiment":[
"Positive",
"Positive",
"Positive"
]
}
]
}
Я пытаюсь написать приложение Spark/Java, чтобы получить общее количество каждого Sentiments
от the_list
а также some_other_list
// Create a JavaSparkContext using the SparkSession's SparkContext object
JavaSparkContext jsc = new JavaSparkContext(spark.sparkContext());
// Create a custom ReadConfig
Map<String, String> readOverrides = new HashMap<String, String>();
readOverrides.put("collection", "tmp");
//readOverrides.put("readPreference.name", "secondaryPreferred");
ReadConfig readConfig =
ReadConfig.create(jsc).withOptions(readOverrides);
// Load data using the custom ReadConfig
JavaMongoRDD<Document> customRdd = MongoSpark.load(jsc, readConfig);
Я проверил выше, который может достичь значений совершенно нормально, сделав это
System.out.println(((Document)((ArrayList)customRdd.first().get("the_list")).get(0)).get("Sentiments"));
//Prints [Negative, Neutral]
Но я заблудился о том, как агрегировать подсчет настроений как таковой:
{
"_id":"sdf23sddfsd",
"the_list":{
"Negative":1,
"Positive":3,
"Neutral":1
},
"some_other_list":{
"Positive":1
}
}
Я дошел до здесь, что неправильно, потому что он смотрит только на 0 индекс the_list
JavaRDD<String> sentimentsRDD= customRdd.flatMap(document -> ((Document)((ArrayList)document.get("the_list")).get(0)).get("Sentiments"));
Я знаю, что мы можем сделать это непосредственно в MongoDB, но мне нужно узнать, как это сделать в Spark для таких структурированных данных, чтобы я использовал это обучение для других сценариев использования, которые требуют дополнительных манипуляций с каждым документом в коллекции.