Описание тега bias-neuron

Вопросы с тегом
0 ответов

Ошибка с уклоном в обратном распространении

Это мой нн. и вот код: import numpy as np def relu(x): x = np.where(x>=0,x,x*.1) return x def deriv_relu(x): x = np.where(x>=0,1,x*.1) return x def bias(x): e = np.ones((x.shape[0],1)) e1 = np.hstack((e,x)) return e1 X = np.array([[1,1],[1,0]…
04 мар '18 в 20:32
1 ответ

Подсчитать нейроны в керасе (с разными слоями), мой подход правильный?

Я пытаюсь определить количество "нейронов / узлов" в моей сети Keras, а не параметр. Я использую уже реализованный вариант, поэтому сам ничего не разрабатывал. То, что я могу получить обзор сети и количество параметров со сводкой, я знаю. Проблема з…
28 янв '19 в 18:42
1 ответ

Добавление смещения для встраивания слоя в Keras

Я строю модель, используя керасы, чтобы выучить вложения слов, используя скипграмму с отрицательной выборкой. Мой ввод - это пара слов: (context_word, target_word) и, конечно, метка 1 для положительных и 0 для отрицательных пар. Что мне нужно сделат…
10 фев '19 в 14:10
0 ответов

Как я могу применить обратное распространение при уклоне?

Это часть моего кода, написанного Python, многослойной нейронной сетью. Эта модель хорошо работает без смещения. Тем не менее, многие люди сказали, что модель NN должна иметь смещение. Я пытаюсь обновить мою модель, добавив смещение и обновив обратн…
01 мар '19 в 17:33
0 ответов

Моя простая нейронная сеть работает лучше без предвзятости. У меня проблемы с интерпретацией смещения на скрытом слое

Быстрое исправление: моя сеть лучше учится с помощью столбца смещения на входе, раньше я сталкивался с глупой ошибкой, из-за которой казалось, что смещение вредно, но на самом деле оно фактически повышает производительность по сравнению с отсутствие…
29 авг '18 в 02:33
1 ответ

Как использовать "Смещение" в нейронных сетях

Уже 2 недели я работаю с нейронной сетью. Моя функция активации - нормальная сигмовидная функция, но есть одна вещь, о которой я читал в Интернете, но нашел разные способы интерпретации. В настоящее время я складываю все входные значения, умноженные…
19 апр '16 в 17:00
1 ответ

Инициализация неправильного смещения Tensorflow

Я инициализирую свои 2 набора весов / смещений, используя ту же функцию 1-й сет: W_omega = tf.Variable(tf.random_uniform([hidden_size, attention_size], -0.1, 0.1), name='W_omega') b_omega = tf.Variable(tf.random_uniform([attention_size], -0.1, 0.1),…
15 фев '18 в 16:25
2 ответа

Интерпретация нейронов в нейронной сети

Я пришел к решению проблемы классификации с использованием нейронных сетей. У меня есть весовые векторы для того же самого. Данные 5-мерные и в скрытом слое 5 нейронов. Предположим, что нейрон 1 имеет входные веса w11, w12, ...w15 Я должен объяснить…
15 июл '14 в 19:47
1 ответ

Должен ли входной слой включать нейрон смещения?

Мне было интересно: в многослойной нейронной сети с прямой связью входной слой должен включать нейрон смещения, или это просто полезно в скрытых слоях? Если так, то почему? Спасибо,Tunnuz
30 авг '11 в 10:03
4 ответа

Как найти Персептрон: вес1, вес2 и математическое смещение

Как найти значения веса1, веса2 и смещения? Какой обобщенный математический способ найти эти 3 значения для любой задачи! import pandas as pd weight1 = 0.0 weight2 = 0.0 bias = 0.0 test_inputs = [(0, 0), (0, 1), (1, 0), (1, 1)] correct_outputs = [Fa…
14 мар '18 в 18:57
1 ответ

Начальные значения смещения для нейронной сети

В настоящее время я строю CNN в тензорном потоке, и я инициализирую свою матрицу весов, используя инициализацию нормального веса He. Тем не менее, я не уверен, как я должен инициализировать свои значения смещения. Я использую ReLU в качестве функции…
03 июл '17 в 10:58
1 ответ

BackPropagation Neuron Сетевой подход - Дизайн

Я пытаюсь сделать программу распознавания цифр. Я передам белое / черное изображение цифры, и мой выходной слой запустит соответствующую цифру (один нейрон срабатывает из 0 -> 9 нейронов в выходном слое). Я закончил реализацию Двумерной Сети Нейроно…
19 дек '15 в 23:57
1 ответ

Простое обучение умножению нейронных сетей на неподготовленных данных дает большие ошибки

Я сделал небольшую нейронную сеть умножения, используя библиотеку Encog с функцией активации сигмоида в базовой сети. Моя проблема в том, что я получил большие ошибки по неподготовленным данным. Как я могу улучшить нетренированные данные более хорош…
07 апр '14 в 07:10
1 ответ

Обратное смещение в нейронной сети

Следуя примеру Эндрю Тракса, я хочу реализовать трехслойную нейронную сеть - 1 вход, 1 скрытый, 1 выход - с простым выпадением для двоичной классификации. Если я включу условия смещения b1 а также b2Затем мне нужно немного изменить код Эндрю, как по…
06 дек '17 в 14:24
2 ответа

Почему у нас -1 и +1 в качестве двоичных входов вместо 0 и 1

Я пытаюсь начать работу с нейронной сетью и реализовать логические функции, такие как AND/OR. Вместо использования 0 и 1 в качестве двоичных входов, они используют -1 и +1. Есть ли причина, по которой мы не можем использовать (0, 1)? Как пример: htt…
01 окт '13 в 11:25
3 ответа

Правильный способ реализации смещений в нейронных сетях

Я могу сделать нейронную сеть, мне просто нужно уточнить реализацию смещения. Какой способ лучше: реализовать матрицы смещения B1, B2, .. Bn для каждого слоя в своей отдельной, отдельной матрице из матрицы весов, или, включите смещения в матрице вес…
29 июн '18 в 23:48
1 ответ

С предубеждением ANN больше не сходятся

Я учусь ANN, я сделал два сценария (в Fortran90 и Python) для простой задачи двоичной классификации. Сначала я обошелся без предвзятости, и я получаю хорошую конвергенцию Но добавляя смещение для каждого узла, он больше не сходится (или все приближа…
19 май '17 в 11:58
1 ответ

Почему БИАС необходим в ИНС? Должны ли мы иметь отдельные BIAS для каждого слоя?

Я хочу сделать модель, которая прогнозирует будущую реакцию входного сигнала, архитектура моей сети [3, 5, 1]: 3 входа, 5 нейронов в скрытом слое, и 1 нейрон в выходном слое. Мои вопросы: Должны ли мы иметь отдельный BIAS для каждого скрытого и выхо…
24 авг '11 в 12:03
1 ответ

Нейронная сеть Подгонка с собаками и кошками

Не обязательно вдаваясь в его код, но сосредоточившись больше на принципах, у меня возникает вопрос о том, что, как я полагаю, будет недостаточно. Если я тренирую сеть, которая распознает истину или ложь относительно того, является ли изображение со…
29 июн '18 в 19:20
0 ответов

Нейронные сети - Можно ли заменить предвзятость предварительной обработкой?

Я внедряю нейронную сеть, стараясь максимально упростить реализацию, чтобы оптимизировать ее производительность. В настоящее время я тестирую свой код с наборами данных Numerai и MNIST, и я не заметил значительного улучшения, внедрив смещение или не…
08 июл '18 в 13:14