Что заставляет людей думать, что NN обладают большей вычислительной мощностью, чем существующие модели?
Я читал в Википедии, что функции нейронной сети, определенные на поле произвольных действительных / рациональных чисел (наряду с алгоритмическими схемами и спекулятивными "транскурсивными" моделями), обладают большей вычислительной мощностью, чем компьютеры, которые мы используем сегодня. Конечно, это была страница русской википедии (ru.wikipedia.org), и это может быть неправильно доказано, но это не единственный источник таких слухов.
Теперь, что я действительно не понимаю: как может машина перезаписи строк (NN - это машины переписывания строк, точно так же, как машины Тьюринга; только язык программирования отличается) быть более мощной, чем универсально способная U-машина?
Да, описательный инструмент действительно отличается, но факт в том, что любая функция такого класса (легко или нет) может быть превращена в легальную машину Тьюринга. Я ошибся? Я скучаю по чему-то важному?
По какой причине люди так говорят? Я знаю, что феномен неразрешимости сегодня широко распространен (хотя не всегда подтверждается тем, что я прочитал), но я не вижу ни малейшего шанса, что НС смогут решить эту конкретную проблему.
Добавить в: Not consistently proven according to what I've read - Я имел в виду, что вы, возможно, захотите взглянуть на статьи А. Зенкина (русского математика) после середины 90-х годов, где он убедительно постулирует ошибочность концепций Г. Кантора, включая трансфинитные множества, неисчисляемые множества, метод диагонализации (используемый метод в доказательстве неразрешимости Тьюринга) и, возможно, другие. Даже теоремы Гёделя о неполноте были доказаны правильно только в 21-м веке. Это все лишь для того, чтобы включить работу Зенкина в должность, потому что я не знаю, насколько широко распространены эти знания в сообществе CS, так что простите, если это выглядело глупо.
Спасибо!
5 ответов
Любой, кто "доказывает", что диагональный метод Кантора не работает, доказывает только свою собственную некомпетентность. Ср Редактор Уилфреда Ходжеса вспоминает несколько безнадежных статей для удивительно сочувственного объяснения того, что не так с этими попытками.
Вы можете предоставить умозрительные описания нейронных сетей гипер-Тьюринга, точно так же, как вы можете предоставить умозрительные описания других типов компьютеров гипер-Тьюринга: нет ничего непоследовательного в идее, что гиперкомпьютеры возможны, и умозрительные описания механических гиперкомпьютеров были сделаны там, где гиперкомпьютер должен иметь бесконечно тонкие гравюры, которые кодируют оракула для машины Холтинга: существование такой машины согласуется с ньютоновской механикой, но не с квантовой механикой. Скорее, тезис Черча-Тьюринга говорит, что они не могут быть построены, и есть две причины полагать, что тезис Черч-Тьюринга верен:
- Такие машины никогда не были построены; а также
- Была проделана работа по соединению моделей физики с моделями вычислений, возвращаясь к работе в начале 1970-х годов Робину Гэнди, с недавними работами таких людей, как Дэвид Дойч (например, " Машины, логика и квантовая физика" и Джон Такер (например, " Вычисления"). через эксперименты с кинематическими системами), который утверждает, что физика не поддерживает гиперкомпьютеры.
Суть в том, что истинность тезиса Черча-Тьюринга - это эмпирический факт, а не математический факт. Это то, что мы можем иметь уверенность, правда, но не уверенность.
Из того небольшого исследования, которое я провел, большинство этих утверждений о системах Тьюринга, или о неправильности доказательства диагонализации Кантора и т. Д., Скажем так, являются "спорными" в законных математических кругах. Такие слова, как "кривошип", часто используются.
Очевидно, что сильный тезис Черча-Тьюринга остается недоказанным, но, как вы указали, на самом деле нет веских оснований полагать, что искусственные нейронные сети представляют собой вычислительные возможности, выходящие за рамки общей рекурсии /UTMs/lambda calculus/etc.
С теоретической точки зрения, я думаю, что вы абсолютно правы - нейронные сети предоставляют очень мало нового или другого.
С практической точки зрения нейронные сети - это просто способ преобразования решений в форму, в которой параллельное выполнение является естественным и легким, в то время как машины Тьюринга являются последовательными по своей природе, и выполнение их последовательностей параллельно является относительно трудным. Фактически, большая часть того, что было сделано в разработке ЦП за последние несколько десятилетий, в основном находила способы параллельного выполнения кода при сохранении иллюзии, что он выполняется последовательно. Большая часть аппаратного обеспечения в современном процессоре посвящена поддержанию этой иллюзии, и степень, в которой параллельное выполнение стало явным, по большей части является признанием того, что поддержание иллюзии стало непомерно дорогим.
Вас могут заинтересовать S. Franklin и M. Garzon, Нейронная вычислимость. Есть предварительный просмотр в Google. В нем обсуждается вычислительная мощность нейронных сетей, а также утверждается, что, по слухам, нейронные сети строго более мощные, чем машины Тьюринга.
С точки зрения непрофессионала, я вижу, что
- NN могут быть более эффективными при решении некоторых типов задач, чем машины Тьюринга, но они не являются вычислительно более мощными.
- Даже если бы NN были, очевидно, более мощными, чем ТМ, выполнение на текущем оборудовании сделало бы их менее мощными, поскольку текущее оборудование является лишь приблизительным вариантом ТМ и может выполнять задачи, вычисляемые только ограниченным ТМ.