AWS SPICE и Quicksight с секционированными данными

Я хотел бы выполнять добавочную загрузку своих данных на основе секционированных данных в SPICE, как только у меня будет моя историческая база. Мои данные разделены по годам/месяцам/дням и поступают в режиме реального времени. Мой запрос spice использует ATHENA, так как он исходит от краулера GLUE.

Вот что я пробовал, это не сработало

      where (((current_date) <=cast('2022-11-26' as date))
and (( partition_0 = year(current_date) and partition_1 = month(current_date) )))
or 
((current_date>cast('2022-11-26' as date))
and (( partition_0 = year(date_add('hour', -2, now())) and partition_1 = month(date_add('hour', -2, now())) and partition_2= day(date_add('hour', -2, now())) )))

Выше я пытаюсь захватить каждую вещь, если она меньше определенной даты, и только новые данные после определенных данных. Мое добавочное обновление ежечасно. Я не уверен, что файл манифеста - это способ обойти это, но не знал, как это сделать.

0 ответов

Другие вопросы по тегам