Как определить форму тензора при использовании batch_size в керасе (initial_value должен иметь указанную форму)

У меня есть custom layerв одной строке этого обычного слоя я делаю так:

out = tf.Variable(tf.zeros(shape=tf.shape(tf_a1), dtype=tf.float32))

Когда я запускаю код, я получил эту ошибку:

Значение Error: initial_value должно иметь указанную форму: Tensor("lambda_1/zeros_2:0", shape=(?, 20), dtype=float32)

Я искал и узнал, что я могу использовать validate_shape=False

Поэтому я изменил код на:

out = tf.Variable(tf.zeros(shape=tf.shape(tf_a1), dtype=tf.float32), validate_shape=False)

Тогда возникает эта ошибка:

ValueError: вход 0 несовместим с повторителем слоя: ожидается ndim=2, найдено ndim = нет

Update1

когда я попробую это:

out = tf.Variable(tf.zeros_like(tf_a1, dtype=tf.float32))

Это снова вызывает ошибку:

Начальное_значение должно иметь указанную форму: Tensor("lambda_1/zeros_like:0", shape=(?, 20), dtype=float32)

Кроме того, когда я даю это явно так:

out = tf.Variable(tf.zeros(shape=(BATCH_SIZE, LATENT_SIZE), dtype=tf.float32))

Возникает эта ошибка:

ValueError: операция имеет None для градиента. Пожалуйста, убедитесь, что все ваши операции имеют определенный градиент (то есть являются дифференцируемыми). Обычные операции без градиента: K.argmax, K.round, K.eval.

На всякий случай модель может помочь выяснить, откуда возникла эта ошибка:

это лямбда-слой, в котором просто немного изменить матрицу:

def score_cooccurance(tf_a1):
    N = tf.shape(tf_a1)[0]
    n = 2
    input_tf = tf.concat([tf_a1, tf.zeros((1, tf_a1.shape[1]), tf_a1.dtype)], axis=0)
    tf_a2 = tf.sort(sent_wids, axis=1)
    first_col_change = tf.zeros([tf_a2.shape[0], 1], dtype=tf.int32)
    last_cols_change = tf.cast(tf.equal(tf_a2[:, 1:], tf_a2[:, :-1]), tf.int32)
    change_bool = tf.concat([first_col_change, last_cols_change], axis=-1)
    not_change_bool = 1 - change_bool
    tf_a2_changed = tf_a2 * not_change_bool + change_bool * N #here

    idx = tf.where(tf.count_nonzero(tf.gather(input_tf, tf_a2_changed, axis=0), axis=1) >= n)
    y, x = idx[:, 0], idx[:, 1]
    rows_tf = tf.gather(tf_a2, y, axis=0)

    columns_tf = tf.cast(x[:, None], tf.int32)

    out = tf.Variable(tf.zeros(shape=(BATCH_SIZE, LATENT_SIZE), dtype=tf.float32))

    rows_tf = tf.reshape(rows_tf, shape=[-1, 1])

    columns_tf = tf.reshape(
        tf.tile(columns_tf, multiples=[1, tf.shape(tf_a2)[1]]),
        shape=[-1, 1])

    sparse_indices = tf.reshape(
        tf.concat([rows_tf, columns_tf], axis=-1),
        shape=[-1, 2])
    v = tf.gather_nd(input_tf, sparse_indices)
    v = tf.reshape(v, [-1, tf.shape(tf_a2)[1]])

    scatter = tf.scatter_nd_update(out, tf.cast(sparse_indices, tf.int32), tf.reshape(v, shape=[-1]))
    return scatter

На самом деле, когда я распечатываю форму out это распечатать <unknown>,

Любая идея или хитрости, как я могу это исправить?

Я использую tensorflow 1.13.

Спасибо за вашу помощь:)

1 ответ

Решение

Таким образом, обходной путь в моем случае должен был удалить tf.variable только есть tf.zeros, в этом случае tf.scater_nd_update вызывает ошибку, так как это не может быть применено на tensors,

Кажется, что есть tensor_scatter_nd_update Я не знал раньше. поэтому я также изменил эту строку, теперь код работает нормально, хотя я не получил основную причину ошибки. Я просто изменяю его таким образом, чтобы он работал успешно.

out = tf.zeros(shape=tf.shape(tf_a1), dtype=tf.float32)
scatter = tf.tensor_scatter_update(out, tf.cast(sparse_indices, tf.int32), tf.reshape(v, shape=[-1]))

Спасибо @Daniel Moller за указание концепции обучаемых переменных...:)

Другие вопросы по тегам