Можно ли реализовать ANN (2-2-1 уровня) для изучения XOR с использованием функции линейной активации?

Question

Если да, то как? Также приведены примеры простых приложений, которые можно реализовать с помощью функций линейной активации.

Answer 1

Ответ довольно короткий: нет.

Если вы используете функцию линейной активации, то ваша нейронная сеть не сильнее простого перцептрона (отсутствие скрытого слоя).

Другими словами, нет смысла использовать скрытый слой с функцией линейной активации.

Answer 2

XOR нельзя разделить линейно. если вы напечатаете вывод функции в плоскости 2D и попытаетесь найти способ ее линейного разделения, вы не найдете. это было срывом NN в начале, пока они не нашли другой метод активации, который позволяет разделить точку нелинейно, как сигмовидная функция.

a   b   a XOR b
1   1      0
0   1      1
1   0      1
0   0      0