Визуализация конвергенции LDA через вариационную нижнюю границу

Я пытаюсь понять сходимость ELBO, получая границы после каждого полного прохода корпуса, используя LDA следующим образом:

ldamodel = gensim.models.ldamodel.LdaModel(corpus, passes=1, chunksize=100, id2word=corpus.id2word)

bound_list = [ldamodel.bound(corpus)]
for i in range(100):
    ldamodel.update(corpus, chunksize=100, passes=1)
    bound_list.append(ldamodel.bound(corpus))

Я думал, что ELBO будет подниматься все выше и выше, потому что мы максимизируем нижнюю границу. Однако при построении полученных нижних границ я получил следующую тенденцию:

введите описание изображения здесь

Я делаю это неправильно?

0 ответов

Другие вопросы по тегам