StellarGraph PaddedGraphGenerator — как предоставить специальные наборы для обучения, проверки и тестирования

Question

Я пытаюсь обучить базовую нейронную сеть Graph с использованием библиотеки StellarGraph, в частности, начиная с примера, приведенного в [0].

Пример работает нормально, но теперь я хотел бы повторить то же упражнение, удалив N-кратную перекрестную проверку и предоставив специальные наборы для обучения, проверки и тестирования. Я пытаюсь сделать это с помощью следующего кода:

      # One hot encoding
graph_training_set_labels_encoded = pd.get_dummies(graphs_training_set_labels, drop_first=True)
graph_validation_set_labels_encoded = pd.get_dummies(graphs_validation_set_labels, drop_first=True)

graphs = graphs_training_set + graphs_validation_set

# Graph generator preparation
generator = PaddedGraphGenerator(graphs=graphs)

train_gen = generator.flow([x for x in range(0, len(graphs_training_set))],
                           targets=graph_training_set_labels_encoded,
                           batch_size=batch_size)

valid_gen = generator.flow([x for x in range(len(graphs_training_set),
                                            len(graphs_training_set) + len(graphs_validation_set))],
                          targets=graph_validation_set_labels_encoded,
                          batch_size=batch_size)

# Stopping criterium
es = EarlyStopping(monitor="val_loss",
                   min_delta=0,
                   patience=20,
                   restore_best_weights=True)

# Model definition
gc_model = GCNSupervisedGraphClassification(layer_sizes=[64, 64],
                                            activations=["relu", "relu"],
                                            generator=generator,
                                            dropout=dropout_value)

x_inp, x_out = gc_model.in_out_tensors()
predictions = Dense(units=32, activation="relu")(x_out)
predictions = Dense(units=16, activation="relu")(predictions)
predictions = Dense(units=1, activation="sigmoid")(predictions)

# Creating Keras model and preparing it for training
model = Model(inputs=x_inp, outputs=predictions)
model.compile(optimizer=Adam(adam_value), loss=binary_crossentropy, metrics=["acc"])

# GNN Training
history = model.fit(train_gen, epochs=num_epochs, validation_data=valid_gen, verbose=0, callbacks=[es])
model.fit(x=graphs_training_set,
          y=graph_training_set_labels_encoded,
          epochs=num_epochs,
          verbose=0,
          callbacks=[es])

# Calculate performance on the validation data
test_metrics = model.evaluate(valid_gen, verbose=0)
valid_acc = test_metrics[model.metrics_names.index("acc")]

print(f"Test Accuracy model = {valid_acc}")

Где graphs_training_setа также graphs_validation_setявляются списками StellarDiGraphs.

Я могу запустить этот фрагмент кода, но в результате он выдает NaN. В чем может быть проблема?

Поскольку я впервые использую StellarGraph и, в частности, PaddedGraphGenerator. Я думаю, что моя ошибка связана с использованием этого генератора, но предоставление обучающего набора и набора проверки по-разному не дало лучших результатов.

Заранее спасибо.

[0] https://stellargraph.readthedocs.io/en/stable/demos/graph-classification/gcn-supervised-graph-classification.html

Answer 1

Я нашел решение, копаясь вStellarGraph документация для PaddedGraphGeneratorиGCN Neural Network Class GCNSupervisedGraphClassification. Кроме того, я нашел аналогичный вопрос наStellarGraph Issue Trackerчто также указывает на решение.

      # Graph generator preparation
generator = PaddedGraphGenerator(graphs=graphs)

train_gen = generator.flow([x for x in range(0, num_graphs_for_training)],
                            targets=training_graphs_labels,
                            batch_size=35)
valid_gen = generator.flow([x for x in range(num_graphs_for_training, num_graphs_for_training + num_graphs_for_validation)],
                            targets=validation_graphs_labels,
                            batch_size=35)

# Stopping criterium
es = EarlyStopping(monitor="val_loss",
                    min_delta=0.001,
                    patience=10,
                    restore_best_weights=True)

# Model definition
gc_model = GCNSupervisedGraphClassification(layer_sizes=[64, 64],
                                            activations=["relu", "relu"],
                                            generator=generator,
                                            dropout=dropout_value)

x_inp, x_out = gc_model.in_out_tensors()
predictions = Dense(units=32, activation="relu")(x_out)
predictions = Dense(units=16, activation="relu")(predictions)
predictions = Dense(units=1, activation="sigmoid")(predictions)

# Let's create the Keras model and prepare it for training
model = Model(inputs=x_inp, outputs=predictions)
model.compile(optimizer=Adam(adam_value), loss=binary_crossentropy, metrics=["acc"])

# GNN Training
history = model.fit(train_gen, epochs=num_epochs, validation_data=valid_gen, verbose=1, callbacks=[es])

# Evaluate performance on the validation data
valid_metrics = model.evaluate(valid_gen, verbose=0)
valid_acc = valid_metrics[model.metrics_names.index("acc")]

# Define test set indices temporary vars
index_begin_test_set = num_graphs_for_training + num_graphs_for_validation
index_end_test_set = index_begin_test_set + num_graphs_for_testing

test_set_indices = [x for x in range(index_begin_test_set, index_end_test_set)]

# Evaluate performance on test set
generator_for_test_set = PaddedGraphGenerator(graphs=graphs)
test_gen = generator_for_test_set.flow(test_set_indices)
result = model.predict(test_gen)