Проблемы с обновлением схемы AVRO

Question

У меня есть простой класс дела:

  case class User(id: String, login: String, key: String)

я добавляю поле "имя"

  case class User(id: String, login: String, name: String, key: String)

затем добавьте это поле в схему avro (user.avsc)

{
  "namespace": "test",
  "type": "record",
  "name": "User",
  "fields": [
    { "name": "id", "type": "string" },
    { "name": "login", "type": "string" },
    { "name": "name", "type": "string" },
    { "name": "key", "type": "string" }
  ]
}

этот класс используется другой класс case:

case class AuthRequest(user: User, session: String)

Чема (auth_request.avsc)

{
  "namespace": "test",
  "type": "record",
  "name": "AuthRequest",
  "fields": [
    { "name": "user", "type": "User" },
    { "name": "session", "type": "string" }
  ]
}

после этого изменения мой потребитель начинает бросать кроме

Consumer.committableSource(consumerSettings, Subscriptions.topics("token_service_auth_request"))
    .map { msg =>
      Try {
        val in: ByteArrayInputStream = new ByteArrayInputStream(msg.record.value())
        val input: AvroBinaryInputStream[AuthRequest] = AvroInputStream.binary[AuthRequest](in)
        val result: AuthRequest = input.iterator.toSeq.head !!!! here is exception
        msg.committableOffset.commitScaladsl()

        (msg.record.value(), result, msg.record.key())
      } match {
        case Success((a: Array[Byte], value: AuthRequest, key: String)) =>
          log.info(s"listener got $msg -> $a -> $value")

          context.parent ! value

        case Failure(e) => e.printStackTrace()
      }
    }
    .runWith(Sink.ignore)

java.util.NoSuchElementException: глава пустого потока в scala.collection.immutable.Stream$Empty$.head(Stream.scala:1104) в scala.collection.immutable.Stream$Empty$.head(Stream.scala:1102) в test.consumers.AuthRequestListener.$anonfun$new$2(AuthRequestListener.scala:39) в scala.util.Try$.apply(Try.scala:209) в test.consumers.AuthRequestListener.$anonfun$new$1(AuthRequestLest) scala:36) at test.consumers.AuthRequestListener.$anonfun$new$1$ адаптировано (AuthRequestListener.scala:35) в akka.stream.impl.fusing.Map$$anon$9.onPush(Ops.scala:51) в akka.stream.impl.fusing.GraphInterpreter.processPush(GraphInterpreter.scala:519) в akka.stream.impl.fusing.GraphInterpreter.processEvent(GraphInterpreter.scala:482) в akka.stream.impl.fusing.GraphInterpreter.execute(GraphInterpre.scala:378) в akka.stream.impl.fusing.GraphInterpreterShell.runBatch(ActorGraphInterpreter.scala:588) в akka.stream.impl.fusing.GraphInterpreterShell$AsyncInput.execute(ActorGraphInterpreter.scala:472) в eam.impl.fusing.GraphInterpreterShell.processEvent(ActorGraphInterpreter.scala:563) в akka.stream.impl.fusing.ActorGraphInterpreter.akka$stream$impl$fusing$ActorGraphInterpreter$$processEvent(ActorGraphInterpreter.sck 745):.impl.fusing.ActorGraphInterpreter$$anonfun$receive$1.applyOrElse(ActorGraphInterpreter.scala:760) в akka.actor.Actor.aroundReceive(Actor.scala:517) в akka.actor.Actor.aroundReceive$(Actor.scala:515) по адресу akka.stream.impl.fusing.ActorGraphInterpreter.aroundReceive(ActorGraphInterpreter.scala:670) по адресу akka.actor.ActorCell.receiveMessage(ActorCell.scala:588) по адресу akka.actor.ActorCell.invoke: Actor:55) в akka.dispatch.Mailbox.processMailbox(Mailbox.scala:258) в akka.dispatch.Mailbox.run(Mailbox.scala:225) в akka.dispatch.Mailbox.exec(Mailbox.scala:235) в akka.dispatch.forkjoin.ForkJoinTask.doExec(ForkJoinTask.java:260) в akka.dispatch.forkjoin.ForkJoinPool$WorkQueue.runTask(ForkJoinPool.java:1339) в akka.djopoF rker(ForkJoinPool.java:1979) в akka.dispatch.forkjoin.ForkJoinWorkerThread.run(ForkJoinWorkerThread.java:107)

Я пытался очистить сборки и сделать кеш недействительным - мне кажется, что какая-то кеширующая предыдущая версия схемы в некоторых там Помогите, пожалуйста!

Answer 1

Вы должны сделать ваше изменение обратно совместимым, сделав новое поле обнуляемым и добавив к нему значение по умолчанию.

{
  "namespace": "test",
  "type": "record",
  "name": "User",
  "fields": [
    { "name": "id", "type": "string" },
    { "name": "login", "type": "string" },
    { "name": "name", "type": ["null", "string"], "default": null },
    { "name": "key", "type": "string" }
  ]
}