Случайный лес черный ящик с CleverHans

Question

Я новичок в этом деле и пытаюсь атаковать Случайный Лес с FGSM Black Box (от умных ханов)

Но я не уверен, как это реализовать. У них есть пример "черного ящика" для данных Mnist, но я не понимаю, где я должен разместить свой случайный лес и где я должен атаковать. Любая помощь будет оценена.

Answer 1

В текущем руководстве модель черного ящика представляет собой нейронную сеть, реализованную с помощью TensorFlow, и ее прогнозы (метки) используются для обучения замещающей модели (копии модели черного ящика). Затем замещающая модель используется для создания состязательных примеров, которые переходят к модели черного ящика.

В вашем случае вам придется заменить bbox_val в

bbox_val = batch_eval(sess, [x], [bbox_preds], [x_sub_prev],
                        args=eval_params)[0]

по предсказаниям вашего случайного леса на массиве заменяющих тренировочных данных x_sub_prev,

Вы можете найти больше информации об атаке, реализованной в этом руководстве, в следующей статье: https://arxiv.org/abs/1602.02697