Тег для ELMo, способ моделировать слова в глубоко контекстуализированном представлении. Он является частью и разработан AllenNLP.

ELMo - это глубоко контекстуализированное представление слов, которое моделирует как (1) сложные характеристики употребления слов (например, синтаксис и семантику), так и (2) то, как их использование различается в зависимости от языкового контекста (например, для моделирования многозначности). Эти векторы слов являются изученными функциями внутренних состояний глубокой двунаправленной языковой модели (biLM), которая предварительно обучается на большом текстовом корпусе. Их можно легко добавить к существующим моделям и значительно улучшить состояние дел в широком спектре сложных проблем НЛП, включая ответы на вопросы, текстовое следствие и анализ настроений.