Визуализация конвергенции LDA через вариационную нижнюю границу
Я пытаюсь понять сходимость ELBO, получая границы после каждого полного прохода корпуса, используя LDA следующим образом:
ldamodel = gensim.models.ldamodel.LdaModel(corpus, passes=1, chunksize=100, id2word=corpus.id2word)
bound_list = [ldamodel.bound(corpus)]
for i in range(100):
ldamodel.update(corpus, chunksize=100, passes=1)
bound_list.append(ldamodel.bound(corpus))
Я думал, что ELBO будет подниматься все выше и выше, потому что мы максимизируем нижнюю границу. Однако при построении полученных нижних границ я получил следующую тенденцию:
Я делаю это неправильно?