Tensorflow: преобразовать Tensor в массив numpy, а затем передать в feed_dict

Question

Я пытаюсь построить регрессионную модель softmax для классификации CIFAR. Сначала, когда я пытался передать свои изображения и метки в словарь каналов, я получил сообщение о том, что словари каналов не принимают Tensors. Затем я преобразовал их в массивы с помощью.eval(), но программа зависает в строке.eval() и больше не продолжается. Как я могу передать эти данные в feed_dict?

CIFARIMAGELOADING.PY

import tensorflow as tf
import os
import tensorflow.models.image.cifar10 as cf


IMAGE_SIZE = 24
BATCH_SIZE = 128


def loadimagesandlabels(size):
    # Load the images from the CIFAR data directory
    FLAGS = tf.app.flags.FLAGS
    data_dir = os.path.join(FLAGS.data_dir, 'cifar-10-batches-bin')
    filenames = [os.path.join(data_dir, 'data_batch_%d.bin' % i) for i in xrange(1, 6)]
    filename_queue = tf.train.string_input_producer(filenames)
    read_input = cf.cifar10_input.read_cifar10(filename_queue)

    # Reshape and crop the image
    height = IMAGE_SIZE
    width = IMAGE_SIZE
    reshaped_image = tf.cast(read_input.uint8image, tf.float32)
    cropped_image = tf.random_crop(reshaped_image, [height, width, 3])

    # Generate a batch of images and labels by building up a queue of examples
    print('Filling queue with CIFAR images')
    num_preprocess_threads = 16
    min_fraction_of_examples_in_queue = 0.4
    min_queue_examples = int(BATCH_SIZE*min_fraction_of_examples_in_queue)

    images, label_batch = tf.train.batch([cropped_image,read_input.label],batch_size=BATCH_SIZE, num_threads=num_preprocess_threads, capacity=min_queue_examples+3*BATCH_SIZE)
    print(images)
    print(label_batch)
    return images, tf.reshape(label_batch, [BATCH_SIZE])

CIFAR.PY

#Set up placeholder vectors for image and labels
x = tf.placeholder(tf.float32, shape = [None, 1728])
y_ = tf.placeholder(tf.float32, shape = [None,10])
W = tf.Variable(tf.zeros([1728,10]))
b = tf.Variable(tf.zeros([10]))


#Implement regression model. Multiply input images x by weight matrix W, add the bias b
#Compute the softmax probabilities that are assigned to each class
y = tf.nn.softmax(tf.matmul(x,W) + b)

#Define cross entropy
#tf.reduce sum sums across all classes and tf.reduce_mean takes the average over these sums
cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_*tf.log(y), reduction_indices = [1]))

#Train the model
#Each training iteration we load 128 training examples. We then run the train_step operation
#using feed_dict to replace the placeholder tensors x and y_ with the training examples
train_step = tf.train.GradientDescentOptimizer(0.5).minimize(cross_entropy)

#Open up a Session
init = tf.initialize_all_variables()
sess = tf.Session()
sess.run(init)
for i in range(1000) :
    images, labels = CIFARImageLoading.loadimagesandlabels(size=BATCH_SIZE)
    unrolled_images = tf.reshape(images, (1728, BATCH_SIZE))

    #convert labels to their one_hot representations
    # should produce [[1,0,0,...],[0,1,0...],...]
    one_hot_labels = tf.one_hot(indices= labels, depth=NUM_CLASSES, on_value=1.0, off_value= 0.0, axis=-1)

    print(unrolled_images)
    print(one_hot_labels)
    images_numpy, labels_numpy = unrolled_images.eval(session=sess), one_hot_labels.eval(session=sess)
    sess.run(train_step, feed_dict = {x: images_numpy, y_:labels_numpy})




#Evaluate the model
#.equal returns a tensor of booleans, we want to cast these as floats and then take their mean
#to get percent correctness (accuracy)
print("evaluating")
test_images, test_labels = CIFARImageLoading.loadimagesandlabels(TEST_SIZE)
test_images_unrolled = tf.reshape(test_images, (1728, TEST_SIZE))
test_images_one_hot = tf.one_hot(indices= test_labels, depth=NUM_CLASSES, on_value=1.0, off_value= 0.0, axis=-1)
correct_prediction = tf.equal(tf.argmax(y,1), tf.argmax(y_,1))
accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))
print(accuracy.eval(feed_dict = {x: unrolled_images.eval(), y_ : test_images_one_hot.eval()}))

Answer 1

Есть пара вещей, которые вы не очень хорошо понимаете. По всему графику вы будете работать с Tensors. Вы определяете тензоры либо используя tf.placeholder и кормить их в session.run(feed_dict{}) или с tf.Variable и инициализировать его session.run(tf.initialize_all_variables()), Вы должны подавать свои данные таким образом, и это должны быть пустые массивы в той же форме, что и вы ожидаете в заполнителях. Вот простой пример:

images = tf.placeholder(type, [1728, BATCH_SIZE])
labels = tf.placeholder(type, [size])

'''
    Build your network here so you have the variable: Output
'''

images_feed, labels_feed = CIFARImageLoading.loadimagesandlabels(size=BATCH_SIZE)
# here you can see your output
print sess.run(Output, feed_dict = {x: images_feed, y_:labels_feed})

Вы не подпитываете tf.functions массивами, вы всегда кормите их тензорами. И feed_dict всегда питается массивами. Дело в том, что вам никогда не придется преобразовывать тензоры в массивы для ввода, что не имеет смысла. Ваши данные должны быть массивами, если это список, вы можете использовать np.asarray(list)Если это тензор, вы делаете это неправильно.

я не знаю что CIFARImageLoading.loadimagesandlabels возвращается к вам, но я представляю, что это не Tensor, это, вероятно, массив уже, так что просто избавьтесь от этого .eval(),