В кратком обзоре фильмов в формате "ai dl1", лекция 4, при прогнозировании следующего слова, где они указали ввод и вывод?
Я новичок в pytorch и, возможно, поэтому не понимаю, прошу прощения за мои ошибки.
Я смотрел быстрые видео. но не смог выяснить, где они указывают выходные данные для входного набора данных. Я опишу мое понимание ниже. Пожалуйста, скажите мне, где я делаю ошибку.
TEXT = data.Field(lower=True, tokenize="spacy") //created a pytorch text field with spacytok
FILES = dict(train=TRN_PATH, validation=VAL_PATH, test=VAL_PATH) //created file paths list
md = LanguageModelData.from_text_files(PATH, TEXT, **FILES, bs=bs, bptt=bptt, min_freq=10) //created a language model from TEXT data and file paths and also specified batch size and short term memory size.
//created learner from the model specifying hidden layer size, number of hidden layers and various dropouts.
learner = md.get_model(opt_fn, em_sz, nh, nl,
dropouti=0.05, dropout=0.05, wdrop=0.1, dropoute=0.02, dropouth=0.05)
learner.reg_fn = partial(seq2seq_reg, alpha=2, beta=1)
learner.clip=0.3
learner.fit(3e-3, 4, wds=1e-6, cycle_len=1, cycle_mult=2) //trained the model specifying learning rate and other training parameters.
Все здесь имеет смысл для меня, кроме того, как модель знает, что сравнивать с выходными данными этой модели?