Описание тега elmo
Тег для ELMo, способ моделировать слова в глубоко контекстуализированном представлении. Он является частью и разработан AllenNLP.
0
ответов
Понимание количества презентаций ELMo
Я пробую свои силы в ELMo, просто используя его как часть более широкой модели PyTorch. Основной пример приведен здесь. Это подкласс torch.nn.Module, который вычисляет любое количество представлений ELMo и вводит обучаемые скалярные веса для каждого…
01 мар '19 в 15:04
0
ответов
Модуль ошибок должен быть применен в графе, для которого он был создан
В настоящее время я использую Tensorflow и Tensor Hub для запуска Elmo на документах малого и среднего размера (например, новостные статьи). У меня возникла проблема с OOM, поэтому, пытаясь исправить это, я отредактировал свой код так: with tf.Graph…
31 май '19 в 18:21
0
ответов
Использование моделей Elmo для прогнозирования замаскированного слова в предложении
У меня есть домашнее задание, которое требует от меня построения алгоритма, который может угадать пропущенное слово из предложения. Например, когда входное предложение звучит так: "Я взял свое **** на прогулку этим утром", я хочу, чтобы вывод угадал…
21 май '19 в 19:07
0
ответов
Получение ошибки при передаче токенизированного ввода в ElMo с подписью "токены"
Я новичок в Data Science и изучаю концепцию техники встраивания ElMo. Я использую опцию signature = tokens при вызове метода elmo. Однако, когда тензор входной строки, который я передаю в ElMo, содержит более 2 элементов, я получаю ошибку о форме те…
28 май '19 в 07:12
0
ответов
Не удалось установить сервер Bert Serving. "Не удалось найти версию, которая удовлетворяет требованию bert-serve-server"
Я пытаюсь настроить bert-as-service на своем офисном компьютере и продолжаю получать ту же ошибку. У меня есть Python 3.6.8:: Anaconda, Inc. и Tensorflow 1.10.0 в моей среде Conda и Python 3.7.2 на моей локальной машине (CMD)(Windows 10). У меня нет…
17 май '19 в 16:45
0
ответов
TypeError: неподдерживаемый тип операнда с вложением Elmo и LSTM
Я работаю над проблемой мультиклассовой классификации. Я использую LSTM и Elmo для встраивания контекстных функций. При построении вложения elmo (возвращает вектор измерения 1024), я установил форму тензора, чтобы он мог быть передан в LSTM, который…
29 май '19 в 10:06
0
ответов
Использование elmo для извлечения функций из текста
Я пытаюсь извлечь функции через ELMo (вложения из языковых моделей). У меня есть два набора твитов, тренируйся и тестируй. Я выполнил следующие коды, но он выдает ошибки. Я искал SO, может быть, это проблема совместимости между Tensorflow и Cuda. Я …
18 мар '19 в 04:02
1
ответ
Выход из предварительно подготовленной модели Elmo
Я работаю над анализом настроений. Я использую метод elmo, чтобы получить вложения слов. Но меня смущает вывод, который дает этот метод. Рассмотрим код, приведенный на сайте тензорного потока: elmo = hub.Module("https://tfhub.dev/google/elmo/2", tra…
25 мар '19 в 08:46
1
ответ
Использование Elmo с tf.Keras выдает ValueError: не удалось преобразовать строку в плавающее
Я пытаюсь использовать Elmo с tf.keras, Тем не менее, призыв к model.fitпричины ValueError: could not convert string to float Версия Tensorflow: 1.13.1 Numpy версия: 1.14.6 Вот полный код: import tensorflow as tf import tensorflow_hub as hub import …
25 мар '19 в 09:59
0
ответов
Есть ли способ использовать гири ELMo для дальнейшего обучения?
Я пытаюсь использовать мою предварительно обученную модель ELMo. Я сохранил контрольную точку (meta/index/data) в опциях json и hdf5-файле. Теперь я хочу использовать веса для обучения классификатора, как здесь: http://hunterheidenreich.com/blog/elm…
30 мар '19 в 01:03
1
ответ
Как получить похожие слова в предварительно обученном встраивании ELMO?
Как получить подобное слово для данного слова в предварительно обученном ELMO Embedding? Например: в Glove у нас есть glove_model.most_simil (), чтобы найти наиболее похожее слово и его вложение для любого данного слова. Точно так же у нас есть что-…
17 апр '19 в 13:05
0
ответов
Моя обученная модель ELMo дает выходной словарь с полями, отличными от полей модели tf.hub
При использовании предварительно обученной модели ElMo я получаю выходной словарь, отличный от выходного словаря, описанного в опубликованной модели tf.hub. Подпись моего выходного словаря > model = BidirectionalLanguageModel(options_file, weight…
24 апр '19 в 15:04
1
ответ
Поменяйте местами новинки с ELMo в простом уроке colab
Я работаю над этой записной книжкой: https://colab.research.google.com/github/tensorflow/hub/blob/master/examples/colab/tf2_text_classification.ipynb Я хотел бы заменить поворотные вложения gnews на вложения ELMo. Итак, замени model = "https://tfhub…
30 апр '19 в 06:33
0
ответов
Как использовать предварительно обученную модель ELMo (5.5B), обученную в Википедии и новом корпусе с использованием каркаса keras
Как получить доступ к встраиваниям ELMo, обученным в Wikipedia +New Corpus(5.5B) в рамках Keras для классификации текста? Я не могу определить, как получить доступ к модели ELMo, обученной в Википедии + Новый корпус (5.5B) Я написал этот код, чтобы …
01 май '19 в 07:16
1
ответ
keras pad_sequence для строкового типа данных
У меня есть список предложений. Я хочу добавить отступы к ним; но когда я использую keras pad_sequence, как это: from keras.preprocessing.sequence import pad_sequences s = [["this", "is", "a", "book"], ["this", "is", "not"]] g = pad_sequences(s, dty…
04 май '19 в 16:48
0
ответов
Как загрузить другие веса в tenorflow-hub.module?
Я хочу использовать ELMo в керасе, и для этого я хочу использовать tenorflow-hub, вероятно, похожий на ( https://github.com/strongio/keras-elmo/blob/master/Elmo%20Keras.ipynb или https://tfhub.dev/google/elmo/2). Моя проблема в том, что я хочу испол…
08 май '19 в 12:21
1
ответ
Сильно увеличивается потребление памяти при использовании ELMo от Tensorflow-Hub
Я сейчас пытаюсь сравнить сходство миллионов документов. Для первого теста на процессоре я уменьшил их примерно до 50 символов каждый и попытался получить вложение ELMo для 10 из них за раз, например, так: ELMO = "https://tfhub.dev/google/elmo/2" fo…
07 июн '19 в 09:14
0
ответов
В чем разница между word2vec, glove и elmo?
В чем разница между word2vec, glove и elmo? Насколько я понимаю, все они используются для обучения встраиванию слов, я прав?
18 июн '19 в 11:01
1
ответ
Путать с параметром 'tokens_length' модели elmo в тензорном узле
Я ищу модель ELMo в тензорном центре и мне не очень понятно, что означает tokens_length = [6, 5] в примере использования потока: ( https://tfhub.dev/google/elmo/2) elmo = hub.Module("https://tfhub.dev/google/elmo/2", trainable=True) tokens_input = […
25 июн '19 в 15:26
1
ответ
Keras PREDICTION throws 'TypeError: ufunc 'add'не содержит цикл с типами соответствия сигнатуры dtype(' <U4 ') dtype(' <U4 ') dtype(' <U4 ')'
Я построил модель заполнения слотов (тип классификации последовательностей) со структурой: пользовательский слой встраивания ELMo - BiLSTM - CRF. Тренируется нормально. Но по прогнозу я получаю: 'TypeError: ufunc 'add' did not contain a loop with si…
10 июл '19 в 12:32