Stream-Stream объединяется с mapGroupswithState в структурированном потоке
Здесь я пытаюсь достичь соединения SQL между двумя потоками. Поскольку объединение потоков в потоки возможно только в Spark 2.3., Я пытаюсь выяснить, могу ли я использовать mapGroupswithState
API для достижения этой цели.
У меня в Кафке 2 потока данных - Заказы и Клиенты.
Поток заказов имеет следующие поля: OrderID
, CustomerID
, OrderDate
Поток клиентов имеет следующие поля: CustomerID
, CustomerName
, ContactName
, Country
Отношения между двумя потоками выше - это поле "CustomerID".
Мне нужна помощь в определении функции состояния отображения. У меня нет никаких агрегатов, все, что я пытаюсь достичь, - это простое объединение. Это возможно?