Как мне наиболее эффективно использовать OpenAI GPT-2 для изменения уже существующего текста на другую форму с тем же значением?
В настоящее время я начинаю исследовательский проект, в котором пытаюсь преобразовать текст одной формы в другую. то есть, если бы я написал посылку в форме "Ученые наконец-то достигли способности вызывать сны об электрических овцах в сознании обезболенных роботов", я бы хотел, чтобы GPT-2 преобразовал это в "Роботы, наконец, мечтали об электрических овцы под наркозом ученых ". или некоторая последовательная перестановка базовой структуры, посредством которой основная логика текста передается, хотя и грубо.
Текущая реализация GPT-2 с открытым исходным кодом нацелена на предсказание следующего слова, т. Е. Исходному тексту дается "Ученый наконец-то", а сгенерированный текст "начал получать достаточно!"
Моим первым предположением было использование некоторой формы GAN, однако быстро стало очевидно, что:
Недавняя работа показала, что с учетом как качества, так и разнообразия текст, созданный GAN, существенно хуже, чем поколения языковых моделей (Caccia et al., 2018; Tevet et al., 2018; Semeniuta et al., 2018).
Как я мог добиться этого наиболее эффективно? Спасибо.