Разговорный бот с Flan-T5
Я создаю чат-бота, используя модель flan-T5. У бота есть текстовое окно, в котором можно давать такие инструкции, как:
- Подведите итог для меня: «Здесь идет большой текст»
Или можно сначала выгрузить текст в окно чата, а затем сказать
- Кратко изложите приведенный выше текст (или что-то подобное)
Или можно выбросить в окно чата кучу фактов, касающихся конкретной предметной области, а затем задать вопросы по ним.
Вопрос:
- Как я могу сформировать контекстные данные для бота, чтобы он знал о любой информации, которая была передана раньше, если бы он суммировал что-то из предыдущего или отвечал на вопросы из текста, который был передан ранее
- Как я могу создать подсказку, которая определяет, является ли намерение
ASK QUESTION
илиCREATE SUMMARY
или простоINFO ADDITION
(на случай, если мы просто передаем информацию, чтобы использовать ее для того, чтобы задать вопросы или составить сводку позже.