Restricted Boltzmann Machines, used in contemporary neural networks.
2 ответа

Гауссовские видимые единицы в рублях

Я хочу реализовать гауссовский RBM. Для этого я хочу сделать нулевое среднее и единичную дисперсию data.my data - набор данных MNIST. Набор данных был взят и получен по следующей ссылке. Посетите http://www.cs.toronto.edu/~hinton/code/makebatches.m …
24 ноя '13 в 01:01
4 ответа

Ограниченная машина Больцмана - реконструкция

Я прочитал несколько статей об ограниченных машинах Больцмана. Эти машины были проверены на их возможности восстановления. Я понимаю, как работает тренировка, но не то, как это делается. Кто-нибудь может дать мне несколько советов?
1 ответ

Если я использую softmax в RBM, нужно ли использовать его как в скрытых единицах, так и в видимых?

Как я понимаю, при использовании softmax значений K в видимых единицах RBM скрытая единица остается двоичной. Если так - я не уверен, как вычислить вклады двоичных единиц в видимые. Должен ли я связать двоичное состояние 0 в скрытой единице с конкре…
11 июн '13 в 23:54
2 ответа

Ограниченная машина Больцмана для вещественных данных - гауссовские линейные единицы (глю) -

Я хочу, чтобы моя машина с ограниченным доступом Больцмана выучила новое представление реальных данных (см.: Хинтон - 2010 - Практическое руководство по обучению УОР). Я борюсь с реализацией гауссовых линейных единиц. При гауссовых линейных единицах…
07 июл '13 в 09:11
1 ответ

Gaussian-RBM дает сбой на тривиальном примере

Я хочу иметь четкое представление об ограниченных машинах Больцмана с непрерывными входными переменными. Я пытаюсь придумать самый простой пример, чтобы поведение можно было легко отследить. Итак, вот оно. Входные данные являются двумерными. Каждая …
1 ответ

Прогноз для УКР в скиките

Я хотел бы использовать RBM в Scikit. Я могу определить и обучить УОКР, как и многие другие классификаторы. from sklearn.neural_network import BernoulliRBM clf = BernoulliRBM(random_state=0, verbose=True) clf.fit(X_train, y_train) Но я не могу найти…
24 янв '15 в 02:09
1 ответ

(Python) Gaussian Бернулли RBM по вычислениям P(v|h)

Контекст: Я использую Gaussian Bernoulli RBM, он похож на популярный RBM, но с реально видимыми видимыми единицами. Правда, процедура выборки скрытых значений p(h=1|v) одинаковы для обоих, т.е. Проблема: Моя проблема в кодировании (с использованием …
1 ответ

Как обрабатывать негативные входные данные в сетях глубокого убеждения

В моих данных у меня есть столбец с отрицательными и положительными значениями. Здесь отрицательное значение означает, что некоторые вещи отсутствуют, а положительные значения означают неожиданные дополнительные вещи, а 0 означает нейтральное, что в…
02 апр '17 в 15:08
0 ответов

Tensorflow GraphDef не может быть больше, чем 2 ГБ

Я пытаюсь реализовать глубокий автоэнкодер с тензорным потоком. Предварительная подготовка RBM работает просто отлично, но когда дело доходит до тонкой настройки, возникает ошибка: "ValueError: GraphDef не может быть больше 2 ГБ". Мой вход - это мас…
16 май '16 в 02:41
1 ответ

Проблемы с реальными входными сетями глубокого убеждения (RBMs)

Я пытаюсь воссоздать результаты, о которых сообщалось в статье " Уменьшение размерности данных с помощью нейронных сетей автоматического кодирования набора данных лица olivetti" с помощью адаптированной версии кода Matlab цифр MNIST, но у меня возни…
0 ответов

Как использовать двоичный RBM для глубокого обучения с Tanh

Я понимаю, что нам нужно использовать разные типы скрытых модулей, отличных от двоичных, если мы имеем дело с выпрямителем, непрерывным вводом и т. Д. В RBM. Теперь предположим, что RBM используется в качестве отправной точки для контролируемого глу…
1 ответ

Машина Больцмана с ограничениями (RBM): изменение бинарных единиц на гауссовские или реулевые единицы

Я написал рабочую реализацию RBM с двоичными скрытыми / видимыми единицами в R. Я некоторое время искал, но просто не могу понять, как изменить двоичные единицы на гауссовые или ReLU. Если бы я хотел, чтобы мои входные данные были реальными значения…
23 авг '15 в 20:04
0 ответов

Как использовать DBN для восстановления изображений с разреженной матрицей с шаблоном затухания

У меня есть набор данных, содержащий изображения размером 30 х 15 пикселей. В этом наборе данных есть следы, идущие слева направо с некоторым изменением в направлении y. Трассировки обычно начинаются с (20, 0). Каждый следующий пиксель - один справа…
0 ответов

TensorFlow SLICE_TYPE_ERROR (Music_RNN_RBM)

Нужна помощь с Music_RNN_RBM Я уже собрал некоторую находчивую помощь, которая помогла мне решить мелкие проблемы с python, tf и т. Д., Но я застрял на этом. Вот ошибка, которую дает мне питон: File "rnn_rbm_generate.py", line 45, in <module> …
1 ответ

Как тренировать непрерывные результаты (регрессия) в машинном обучении

Я хочу тренировать регрессионную модель (не классификацию), результаты которой являются непрерывными числами. Допустим, у меня есть входная переменная X, которая находится в диапазоне от -70 до 70. И у меня есть выходная переменная Y, которая находи…
15 ноя '15 в 15:50
0 ответов

Бернулли РБМ, расчет ошибки после каждой эпохи

В настоящее время я использую пакет scikit-learn для реализации сети RBM Бернулли, которая, кажется, работает до сих пор, но у меня есть одна проблема, я хотел бы рассчитать веса для скрытых узлов после каждой итерации, получить ошибку, и затем прод…
20 фев '19 в 12:27
1 ответ

Разница в расчете производной RBM при использовании ContrastiveDivergence

Кто-нибудь может объяснить мне разницу между вычислением производной в RBM с -h_j * x_k и - h_j(x) * x_k? Я нашел исходные коды с обеими реализациями, и я не уверен, какая из них лучше (и почему?)
01 дек '14 в 00:09
0 ответов

sklearn RBM, бросающий IndexError

Я тренирую RBM от sklearn 0.14 в текстовом корпусе в скудном разреженном формате. Во время установки он будет работать некоторое время (несколько минут), но затем ломается и выдает эту ошибку: IndexError: index out of bounds: 0 <= 199740 <= 19…
29 апр '14 в 21:49
1 ответ

Как найти, почему RBM не работает правильно?

Я пытаюсь реализовать RBM и тестирую его на наборе данных MNIST. Тем не менее, он не кажется сходящимся. У меня 28х28 видимых юнитов и 100 скрытых юнитов. Я использую мини-партии размером 50. Для каждой эпохи я пересекаю весь набор данных. У меня ск…
22 янв '14 в 14:40
1 ответ

В чем причина "извлечения патчей 8x8" в Restricted Boltzman Machine?

Я получил эту документацию на примере RBM в pyLearn2 (Библиотека машинного обучения). Может ли кто-нибудь сказать мне, почему это проще? # First we want to pull out small patches of the images, since it's easier # to train an RBM on these pipeline.i…
23 янв '15 в 17:36