Как я могу оценить несколько моделей, используя пакет CARET?

Question

Я хочу использовать CARET а также nnet пакеты, чтобы предсказать выживание / смерть для набора данных Титаника. Я хотел бы установить 20 нейронных сетей с 1 скрытым узлом, 2 скрытыми узлами, ... 20 скрытыми узлами. Типично CARET Пакет выберет лучшую модель на основе данных обучения, но я хочу взять каждую из 20 сетей и применить каждую из них к тестовым данным. Как я могу сохранить каждую из моделей, чтобы проверить их на основе набора тестовых данных? Есть ли в пакете CARET метод, который может помочь?

Answer 1

Не напрямую, нет, но это должно быть возможно. Вам нужно будет изменитьfit функция, чтобы сохранить их в файл. Внутри fit функция, вы будете знать значение параметра настройки, но не то, с какой повторной выборкой была построена модель.

Вот пример того, как вы могли бы выполнить это, исходя из ответа на очень похожий вопрос.

# Copy all model structure info from existing model type
cust.mdl <- getModelInfo("rf", regex=FALSE)[[1]]

# Override fit function so that we can save the iteration
cust.mdl$fit <- function(x=x, y=y, wts=wts, param=param, lev=lev, last=last, classProbs=classProbs, ...) {
  # Dont save the final pass (dont train the final model across the entire training set)
  if(last == TRUE) return(NULL) 

  # Fit the model
  fit.obj <- getModelInfo("rf", regex=FALSE)[[1]]$fit(x, y, wts, param, lev, last, classProbs, ...)

  # Create an object with data to save and save it
  fit.data <- list(resample=rownames(x),
                   mdl=fit.obj,
                   #x, y, wts,
                   param=param, lev=lev, last=last, classProbs=classProbs, 
                   other=list(...))

  # Create a string representing the tuning params
  param.str <- paste(lapply(1:ncol(param), function(x) {
                     paste0(names(param)[x], param[1,x])
                    }), collapse="-")

  save(fit.data, file=paste0("rf_modeliter_", sample(1000:9999,1), "_", param.str, ".RData"))
  return (fit.obj)
}