Нейронной сети требуется время для обучения даже после замораживания всех слоев

В тензорном потоке после того, как я установил обучаемый флаг каждого слоя на False, попытка обучения сети не изменила веса (как и ожидалось). Однако для каждой эпохи по-прежнему требуется одинаковое количество времени (около 12 секунд) для тренировки, как и для тренировки без замораживания каких-либо слоев.

Для пояснения я установил обучаемый флаг каждого слоя на False перед компиляцией.

for i in range(len(model.layers)):
        model.layers[i].trainable = False

Кто-нибудь знает, почему это происходит? Я намерен сократить время обучения сети за счет замораживания некоторых весов. Когда замораживание некоторых весов не сокращало время тренировки, я пытался заморозить все веса, но даже это не привело к сокращению времени тренировки.

Возможно, стоит упомянуть, что я использую тензорный поток 1.12.0

0 ответов

Другие вопросы по тегам