pymc3: выборка NUTS, множественная иерархическая модель, распределение по Wishart

Question

У меня проблемы с выборкой NUTS в иерархической модели в pymc3. Я сделал несколько более простых моделей в pymc3 без каких-либо проблем, но с этим заданием я не могу двигаться. Может кто-то помочь мне, пожалуйста?

Данные можно получить здесь: cars2004.csv. Сначала нужно выполнить некоторую работу с набором данных:

import numpy as np
import pandas as pd
import pymc3 as pm
import theano.tensor as T

data = pd.read_csv("cars2004.csv", sep=",", index_col= 0)

interest = ["price.retail", "cons.city", "cons.highway", "engine.size", 
            "horsepower","weight", "wheel.base", "length", "width", "ncylinder"]

df1 = data[data.ncylinder != -1]
df1 = df1[df1.fhybrid != "Yes"]
df = df1[interest].copy()
n, p = len(df), 9
df["price.retail"] = df["price.retail"].apply(lambda x: x/1000)

Модель в питоне:

with pm.Model() as model:
    lambd = pm.Gamma("lambd", alpha=1, beta=.005)
    beta0 = pm.Normal("beta0", mu = 80, sd = 100)
    beta = pm.MvNormal("beta", mu = np.zeros(p), tau = lambd*np.eye(p), shape = p)

    mu = pm.MvNormal("mu", mu = np.array([10,10,3,200,1500,250,500,10,5]),
                     cov = np.diag([100,100,100,1000**2,1000**2,100**2,100**2,100**2,100]),
                     shape=p)

    sigmainvert = pm.WishartBartlett("sigmainvert", nu=p,S=.001*np.eye(p),
                                     testval=.001*np.eye(p))

    tau = pm.Gamma("tau", 1, .005)
    #sigma = pm.Uniform("sigma", .1, 100)

    X = pm.MvNormal("X", mu = mu, tau = sigmainvert, shape = (n,p),
                    observed = df[interest[1:]])

    Y = pm.Normal("Y", mu = beta0 + T.dot(X, beta), tau = tau,
                  observed = df["price.retail"])
    dev = pm.Deterministic("dev",-2*Y.logpt)

Значения в предыдущих распределениях получены из присвоения. "X" содержит некоторые пропущенные данные, а "sigmainvert" должен быть Wishart(9, диаг (0,001,...,0,001).

Применение ADVI для шагов NUTS и начальных значений (сначала у меня были некоторые проблемы со значениями NaN elbo и NaN, теперь elbo = -inf). Отбор проб:

with model:
    means, sds, elbo = pm.variational.advi(n=50000, learning_rate=0.1)
    step = pm.NUTS(scaling = model.dict_to_array(sds)**2, is_cov=True)
    trace = pm.sample(1000, step, start = means)  

plot1 = pm.traceplot(trace, varnames=["beta0","beta","tau","mu","dev"],alpha=1)  

Итоговый сюжет трасс: трассировка. Как видите, вывод MCMC не был сделан, трассы являются постоянными в качестве начальных значений. Выборка одной и той же модели с шагом Метрополиса делает следы "mu" постоянными, а другие как-то нормальными. В чем проблема?