Атакующая модель Tensorflow с CarliniWagnerL2 от Cleverhans, приводящая к NotImplementedError

Question

Я пытаюсь познакомиться с тензорным потоком и умными людьми. Но кажется, что я перепутал функциональность.

Я создал простую модель с тензорным потоком, обучил ее, а затем хочу создать изображение соперника с помощью атаки CarliniWagnerL2 от умных людей. Я прочитал код документации тензорных потоков и умных людей и попытался понять, что происходит, но я просто не понимаю, какую функцию из какой библиотеки мне нужно использовать.

Это мой упрощенный пример кода. Насколько я понял, я должен превратить вызываемый объект в допустимую функцию, используя CallableModelWrapper. Это правильно? Или моя модель не вызывается? Действительно ли возможно использовать тензорный поток для обучения модели, а затем атаковать ее умными людьми? Ошибка возникает, когда я пытаюсь сгенерировать состязательное изображение.

# TensorFlow and tf.keras
import tensorflow as tf

# Cleverhans
import cleverhans as ch
from cleverhans import attacks
from cleverhans import model

# Others
import numpy as np

sess = tf.Session()

# load data set
mnist = tf.keras.datasets.mnist
(train_images, train_labels), (test_images, test_labels) = mnist.load_data()

class_names = ['0', '1', '2', '3', '4',
               '5', '6', '7', '8', '9']

train_images = train_images / 255.0
test_images = test_images / 255.0

#set up model
model = tf.keras.Sequential([
    tf.keras.layers.Flatten(input_shape=(28, 28)),
    tf.keras.layers.Dense(128, activation=tf.nn.relu),
    tf.keras.layers.Dense(10, activation=tf.nn.softmax)
])

model.compile(optimizer='SGD',
              loss='sparse_categorical_crossentropy',
              metrics=['accuracy'])

# train
model.fit(train_images, train_labels, epochs=3)

# wrap 
wrap = ch.model.CallableModelWrapper(model, 'probs')

cw = ch.attacks.CarliniWagnerL2(wrap, sess=sess)

#set params and targeted image
cw_params = {'batch_size': 1,
             'confidence': 10,
             'learning_rate': 0.1,
             'binary_search_steps': 5,
             'max_iterations': 1000,
             'abort_early': True,
             'initial_const': 0.01,
             'clip_min': 0,
             'clip_max': 1}

image = np.array([test_images[0]])

# and here i get the error!!!
adv_cw = cw.generate_np(image, **cw_params)

Я на самом деле хочу получить изображение соперника, но все, что я пытаюсь сделать, кажется, что я использую сочетание двух библиотек, и они не подходят друг другу. Я получил:

NotImplementedError: необходимо реализовать get_logits или должен определить вывод logits в fprop

Кто-нибудь может помочь?

В основном я просто хочу понять, какие модели я могу использовать для cleverhans.attacks!:)

Заранее спасибо.

Ролл

редактировать

Это моя трассировка:

Traceback (most recent call last):
  File "/usr/lib/python3.6/code.py", line 91, in runcode
    exec(code, self.locals)
  File "<input>", line 1, in <module>
  File "/home/<me>/.local/share/JetBrains/Toolbox/apps/PyCharm-P/ch-0/191.6605.12/helpers/pydev/_pydev_bundle/pydev_umd.py", line 197, in runfile
    pydev_imports.execfile(filename, global_vars, local_vars)  # execute the script
  File "/home/<me>/.local/share/JetBrains/Toolbox/apps/PyCharm-P/ch-0/191.6605.12/helpers/pydev/_pydev_imps/_pydev_execfile.py", line 18, in execfile
    exec(compile(contents+"\n", file, 'exec'), glob, loc)
  File "/home/<path_to_project>/tensorflow/untitled/minexample.py", line 57, in <module>
    adv_cw = cw.generate_np(image, **cw_params)
  File "/home/<me>/.local/lib/python3.6/site-packages/cleverhans/attacks/__init__.py", line 189, in generate_np
    self.construct_graph(fixed, feedable, x_val, hash_key)
  File "/home/<me>/.local/lib/python3.6/site-packages/cleverhans/attacks/__init__.py", line 161, in construct_graph
    x_adv = self.generate(x, **new_kwargs)
  File "/home/<me>/.local/lib/python3.6/site-packages/cleverhans/attacks/__init__.py", line 1196, in generate
    x.get_shape().as_list()[1:])
  File "/home/<me>/.local/lib/python3.6/site-packages/cleverhans/attacks_tf.py", line 628, in __init__
    self.output = model.get_logits(self.newimg)
  File "/home/<me/.local/lib/python3.6/site-packages/cleverhans/model.py", line 70, in get_logits
    " output in `fprop`")
NotImplementedError: <class 'cleverhans.model.CallableModelWrapper'>must implement `get_logits` or must define a logits output in `fprop`

Я заменил мою внутреннюю структуру каталогов на path_to_project или меня соответственно.

Answer 1

Разделяемый вами фрагмент кода определяет и обучает модель с использованием Keras, чтобы было проще использовать конкретные KerasModelWrapper у нас есть для моделей Keras. Вы можете найти учебник для этого здесь.