Какой смысл в пороге в персептроне?

Question

У меня не получается увидеть, что на самом деле делает порог в однослойном персептроне. Данные обычно разделяются независимо от значения порога. Кажется, более низкий порог делит данные более равномерно; это то, для чего он используется?

Answer 1

На самом деле, вы просто устанавливаете порог, когда не используете смещение. В противном случае порог равен 0.

Помните, что один нейрон делит ваше входное пространство с гиперплоскостью. ОК?

Теперь представьте себе нейрон с 2 входами X=[x1, x2], 2 веса W=[w1, w2] и порог TH, Уравнение показывает, как работает этот нейрон:

x1.w1 + x2.w2 = TH

это равно:

x1.w1 + x2.w2 - 1.TH = 0

То есть, это ваше уравнение гиперплоскости, которое разделит входное пространство.

Обратите внимание, что этот нейрон просто работает, если вы вручную установите порог. Решением является замена TH на другой вес, поэтому:

x1.w1 + x2.w2 - 1.w0 = 0

Где термин 1.w0 это ваш БИАС. Теперь вы все еще можете нарисовать плоскость во входном пространстве, не устанавливая вручную порог (т. Е. Порог всегда равен 0). Но, если вы установите порог на другое значение, веса просто адаптируются к уравнению, то есть веса (ВКЛЮЧАЯ БИАС) поглощают пороговые эффекты.

Answer 2

Я думаю, что теперь я понимаю, с помощью Даок. Я просто хотел добавить информацию для других людей, чтобы найти.

Уравнение для сепаратора для однослойного персептрона имеет вид

Σw_j x_j+ смещение = порог

Это означает, что если входное значение выше, чем пороговое значение, или

Σw_j x_j+ смещение> порог, он классифицируется в одну категорию, и если

Σw_j x_j+ смещение <пороговое значение, оно классифицируется как другое.

Смещение и порог действительно служат одной и той же цели, чтобы перевести линию (см. Роль смещения в нейронных сетях). Находясь на противоположных сторонах уравнения, они "отрицательно пропорциональны".

Например, если смещение было 0 и порог 0,5, это было бы эквивалентно смещению -0,5 и порогу 0.

Answer 3

Сумма произведений весов и входов рассчитывается в каждом узле, и, если значение превышает некоторый порог (обычно 0), нейрон срабатывает и принимает активированное значение (обычно 1); в противном случае он принимает деактивированное значение (обычно -1). Нейроны с такой функцией активации также называют искусственными нейронами или линейными пороговыми единицами.