Описание тега deep-residual-networks

Остаточная нейронная сеть - это класс глубоких искусственных нейронных сетей с прямой связью, которые используют пропускаемые соединения или короткие пути для перехода через некоторые уровни, чтобы сделать оптимизацию очень глубоких сетей управляемой.
1 ответ

Возможно ли иметь не обучаемый слой в Керасе?

Я хотел бы рассчитать постоянную свертку, такую ​​как размытие или пересэмплирование, и хочу, чтобы она никогда не меняла тренировки во время тренировки. Можно ли инициализировать ядро ​​свертки постоянным и исключить его из обучения в Керасе? ОБНОВ…
0 ответов

Как установить опцию пакетной нормализации в режиме вывода без вызова tf.layers.batch_normalization()?

Я определяю глубокий CNN с тензорным потоком, включая опцию пакетной нормализации, т.е. мой код может выглядеть так: def network(input): ... input = tf.layers.batch_normalization(input, ...) ... Предположим, что сеть была обучена, и файл контрольных…
1 ответ

Как добавить пропущенную связь между сверточными слоями в Keras

Я хотел бы добавить пропустить соединение между остаточными блоками в керасах. Это моя текущая реализация, которая не работает, потому что тензоры имеют разные формы. Функция выглядит так: def build_res_blocks(net, x_in, num_res_blocks, res_block, n…
1 ответ

Как реализовать одномерную сверточную нейронную сеть с остаточными соединениями и пакетной нормализацией в Keras?

Я пытаюсь разработать 1D сверточную нейронную сеть с остаточными связями и нормализацией партии, основанную на статье " Обнаружение аритмии на уровне кардиолога с помощью сверточных нейронных сетей, используя керасы". Это код до сих пор: # define mo…
1 ответ

Остаточная ошибка ссылки на содержимое ячейки сети в matconvnet

Я использую mathconvnet 1.0 beta24. Я могу правильно установить и скомпилировать панель инструментов. Когда я отслеживаю быстрый старт на сайте ( http://www.vlfeat.org/matconvnet/quick/); Я начинаю с; untar('http://www.vlfeat.org/matconvnet/download…
2 ответа

Что такое "линейная проекция" в сверточной нейронной сети

Я читаю Остаточное обучение, и у меня есть вопрос. Что такое "линейная проекция", упомянутая в 3.2? Выглядит довольно просто, как только получил это, но не мог понять... Я в основном не специалист по информатике, поэтому я был бы очень признателен, …
1 ответ

Остаточные слои LSTM

У меня проблемы с пониманием тензорного поведения в слоях LSTM в кератах. Я предварительно обработал числовые данные, которые выглядят как [образцы, временные шаги, особенности]. Итак, 10 000 выборок, 24 временных шага и 10 предикторов. Я хочу соста…
15 янв '19 в 11:52
1 ответ

Почему моя нейронная сеть никогда не перезаряжается?

Я тренирую глубокую остаточную сеть с 10 скрытыми слоями с игровыми данными. У кого-нибудь есть идея, почему я не получаю никакого переоснащения здесь? Потеря тренировок и испытаний по-прежнему уменьшается после 100 эпох обучения. https://imgur.com/…
1 ответ

Моя остаточная нейронная сеть выдает очень странную карту глубины в качестве вывода. Я не знаю, как улучшить мою модель?

Вывод, который я получаю из моей остаточной модели, - это изображение с маленькими квадратиками (изображение с очень низким разрешением), но оно должно дать мне карту глубины. Объекты на изображении теряются, и видны только эти маленькие квадраты. Я…
26 дек '18 в 14:04
1 ответ

Могут ли остаточные сети пропустить одну линейность вместо двух?

Стандарт в ResNets - пропустить 2 линейности. Будет ли пропускать только одну работу?
1 ответ

Остаточное обучение в тензорном потоке

Я пытаюсь воспроизвести это изображение из исследовательской работы. На изображении оранжевая стрелка указывает на ярлык с использованием остаточного обучения, а слой, выделенный красным, указывает на расширенную свертку. В приведенном ниже коде r5…
0 ответов

Реализация остаточного блока в тензорном потоке

Я пытаюсь реализовать остаточную единицу Resnet v1 и v2 на основе https://arxiv.org/pdf/1512.03385.pdf и https://arxiv.org/pdf/1603.05027.pdf. Итак, вот остаточные единицы, которые я беспокоюсь о реализации в tenorflow: И остаточная единица v2 (б) н…
08 июн '18 в 18:17
3 ответа

Tensorflow: как установить скорость обучения в логарифмическом масштабе и некоторые вопросы Tensorflow

Я начинающий Tensorflow, и я пытаюсь реализовать алгоритм в этой статье, используя Tensorflow. Эта статья использует Matconvnet+Matlab для его реализации, и мне любопытно, имеет ли Tensorflow эквивалентные функции для достижения того же самого. В до…
1 ответ

Как узнать количество слоев в ResNet-18?

Ниже приведена реализация RestNet-18 в Pytorch: https://github.com/pytorch/vision/blob/master/torchvision/models/resnet.py Ниже приводится структура ResNet-18. Всем известно, почему в этой сети 18 слои? ResNet ( (conv1): Conv2d(3, 64, kernel_size=(7…
1 ответ

Почему каждый блок в сети Deep Остаточный имеет два сверточных слоя вместо одного?

На этом рисунке показан базовый блок остаточной сети. Какой у него два сверточных слоя? Что произойдет, когда у него будет только один сверточный слой?
0 ответов

Точность ухудшается, чем дольше я тренируюсь A Keras Model

В настоящее время я использую Resnet, встроенный в Keras, чтобы сделать два класса классификации. Я использую контрольную точку модели, чтобы сохранить лучшие модели, основанные на точности проверки. Все лучшие и новые модели сохраняются, пока я не …
1 ответ

Потеря не развивается при использовании пропустить соединения

Я пытаюсь реализовать этот документ в Keras: https://arxiv.org/pdf/1603.09056.pdf который использует Conv-Deconv с пропуском подключений для создания сети, снижающей шум на изображениях. Моя сеть работает довольно хорошо, если я делаю симметричные п…
0 ответов

Объединение DropoutWrapper и ResidualWrapper с variational_recurrent=True

Я пытаюсь создать MultiRNNCell из ячеек LSTM, обернутых как DropoutWrapper, так и ResidualWrapper. Для использования variational_recurrent=True мы должны предоставить параметр input_size для DropoutWrapper. Я не могу понять, какой input_size должен …
0 ответов

Восстановить и выполнить вывод новых данных, используя сохраненную контрольную точку модели в тензорном потоке

Я обучил resnet в тензорном потоке и сохранил различные контрольные точки в количестве итераций. Хотя я уже выполнил проверку каждой сохраненной контрольной точки, я хочу восстановить данные из определенных контрольных точек и сделать вывод на тесто…
0 ответов

Вопрос, связанный с Wavenet, в реализации ibab в tenorflow

Я пытаюсь понять архитектуру модели wavenet в тензорном потоке. Реализация предоставлена ​​ibab по адресу https://github.com/ibab/tensorflow-wavenet. У меня есть один главный вопрос, связанный с реализацией остаточного слоя по адресу: https://github…
30 авг '18 в 20:43