Почему предложение функции активации выхода нейронной сети в окне NNtool является чистым?

Question

Когда я изучаю нейронную сеть, при математическом выводе всегда используется сигма-функция в скрытом слое и выходном слое. Но поле NNtool в Mathworks предлагает пользователю использовать сигму в скрытом слое и чистую линию в выходном слое. Может кто-нибудь сказать мне, почему выходной слой может быть pureline? Я просто не могу понять причину этой функции активации.

http://imgur.com/9V2HIlF // традиционная формула обратного распространения

Что касается формулы, если я использую функцию pureline, результат будет сильно отличаться. Но я не вижу никакого происхождения обратного распространения, где функция активации выхода - чистая линия. Мне просто интересно, есть ли какая-либо причина для использования prureline, хотя это не то же самое, что традиционное обратное распространение.

Answer 1

Целью использования сигмовидной функции в качестве функции активации в искусственной нейронной сети является ограничение диапазона выходных сигналов. Если он использовался на скрытом слое, число узлов скрытого слоя конечно, а усиление узлов выходного слоя ограничено, то узлы выходного слоя будут иметь ограниченный выход.

Но это всего лишь предложение. Вы все еще можете использовать сигмоид в выходном слое.