По вопросам, связанным с платформой глубокого обучения Trax
0 ответов

Простыми словами, в чем разница между JAX, TRAX и TensorRT?

Я использую TensorRT и TensorFlow-TRT, чтобы ускорить вывод моих алгоритмов DL. Тогда я слышал о: JAX https://github.com/google/jax Trax https://github.com/google/trax Оба "вроде" ускоряют DL. Но мне трудно их понять. Может ли кто-нибудь объяснить м…
20 мар '20 в 01:45
1 ответ

Знакомство с вводным примером трансформаторов в Trax

Я новичок в машинном переводе и Trax. Моя цель - понять вводный пример трансформаторов в Trax, который можно найти по адресу https://trax-ml.readthedocs.io/en/latest/notebooks/trax_intro.html: import trax # Create a Transformer model. # Pre-trained …
19 авг '20 в 19:48
1 ответ

Многомерная регрессия с использованием trax

Как настроить задачу многомерной регрессии с помощью Trax? я получил AssertionError: Invalid shape (16, 2); expected (16,). из приведенного ниже кода, полученного из L2Loss объект. Ниже представлена ​​моя попытка адаптировать пример анализа настроен…
28 авг '20 в 01:20
1 ответ

ВниманиеQKV от Trax

Уровень AttentionQKV, реализованный Trax, выглядит следующим образом: AttentionQKV def AttentionQKV(d_feature, n_heads=1, dropout=0.0, mode='train'): """Returns a layer that maps (q, k, v, mask) to (activations, mask). See `Attention`…
30 сен '20 в 03:36
0 ответов

Как настроить BERT с помощью сиамской сети с помощью новейшей библиотеки Google Brain Trax

Как точно настроить BERT с помощью сиамской сети с использованием последней библиотеки Google Brain Trax, любого концентратора git, который показывает рабочий пример. Как "заморозить" определенные слои при тонкой настройке или применить другие скоро…
03 ноя '20 в 10:55
0 ответов

import trax raise ImportError: dlopen: больше невозможно загрузить объект со статическим TLS?

Описание: Ubuntu 14.04.5 LTS python3.8 при импорте вызывает ошибку ImportError: dlopen: больше невозможно загрузить объект со статическим TLS Содержимое /home/jiantong.zhang/anacond3/lib/python3.8/site-packages/sklearn/_check_build:check_build.cpyth…
01 дек '20 в 15:56
1 ответ

создание настраиваемого набора данных TFDS

Я хотел бы создать собственный набор данных tenorflow для задачи суммирования. У меня есть набор отчетов с тремя золотыми резюме для каждого отчета. Все данные в формате (.txt). Я хотел бы создать TFDS, где ключ - это отчет, а значение - сводка. Ита…
22 фев '21 в 04:03
1 ответ

TensorBoard с Trax

Кому-нибудь удалось зарегистрировать потерю с помощью TensorBoard? Я использую библиотеку trax ml. Я получаю эту ошибку TypeError: 'SummaryWriter' object is not callable. Я использую SummaryWriter из jaxboard а затем добавив его в callbacks в traini…
25 фев '21 в 11:03
1 ответ

Является ли модуль trax.fastmath устаревшим?

Устарел ли модуль trax.fastmath пакета TRAX? Я использую этот модуль, но возвращается ошибка ModuleNotFoundError.
07 мар '21 в 11:39
1 ответ

Повторная реализация пулера в стиле Берта вызывает ошибку формы, как если бы размер длины все еще был необходим

Я обучил готовый трансформатор (). Теперь я хочу использовать кодировщик, чтобы построить классификатор. Для этого я хочу использовать только вывод первого токена (cls-token-result в стиле bert) и пропустить его через плотный слой. Что я делаю: tl.S…
08 мар '21 в 20:37
1 ответ

модуль 'trax.supervised' не имеет атрибута 'inputs'

Я работаю над проектом с использованием пакета TRAX от Google. Я обнаружил следующее сообщение об ошибке при запуске фрагмента кода в записной книжке Jupyter. module 'trax.supervised' has no attribute 'inputs' Есть ли способ обойти эту проблему? У м…
07 мар '21 в 09:50
0 ответов

TRAX: Нам требуется проверка или тестовое разделение набора данных. Вызов настраиваемой 'TFDS' [закрыто]

Я пытаюсь получить данные из trax == 1.3.8, используя train_stream_fn = trax.data.tf_inputs.TFDS('opus / medical',data_dir = '. / data', keys = ('en', 'de'), train = False)() я получаю следующую ошибку ValueError: нам требуется проверка или тестовое…
0 ответов

Почему Trax автоматически создает последовательный слой поверх подслоя?

Я реализовал последовательный уровень в Trax(библиотека глубокого обучения от Google). Почему создается дополнительный последовательный уровень, несмотря на то, что он уже объявлен? Ниже приведен код. model = tl.Serial( tl.Dense(n_units=512), tl.Rel…
27 май '21 в 20:36
1 ответ

Слои trax tl.Relu и tl.ShiftRight вложены в Serial Combinator

Я пытаюсь построить модель внимания, но слои Relu и ShiftRight по умолчанию вложены в Serial Combinator. Это также дает мне ошибки в обучении. layer_block = tl.Serial( tl.Relu(), tl.LayerNorm(), ) x = np.array([[-2, -1, 0, 1, 2], [-20, -10, 0, 10, 2…
29 июн '21 в 13:46
0 ответов

Есть ли реализация Reformer, позволяющая сохранить SavedModel TensorFlow?

Учитывая, что Reformer является наиболее эффективным с точки зрения вычислений вариантом Transformer для длинных последовательностей (единственный, который O(N Log N) в длине последовательности), я бы подумал, что будет реализация, которая может быт…
0 ответов

Я получаю сообщение об ошибке при использовании нейронной сети trax

python3 Я пытаюсь обучить нейронную сеть с помощью trax, это для курса NLP, нейронная сеть предназначена для анализа настроений. Я использую блокнот jupyter, это ошибка, в которой она сокращена: LayerError Traceback (последний вызов последним) в ---…
18 авг '21 в 03:48
2 ответа

Что такое файл *.subwords при обработке естественного языка для использования в качестве файла словаря?

Я пытался создать файл словаря в задаче nlp для использования в методе токенизации trax для токенизации слова, но я не могу найти, какой модуль / библиотеку использовать для создания файла *.subwords. Пожалуйста, помогите мне?
29 дек '20 в 02:08
0 ответов

Как использовать опцию Trax SelfAttention с несколькими головками?

Я играю с моделью из библиотеки Самовниманияtrax . когда я установил n_heads=1, все отлично работает. Но когда я установил n_heads=2, мой код ломается. Я использую только активации ввода и один слой SelfAttention. Вот минимальный код: import trax im…
0 ответов

Как google trax выводит прогнозы для нескольких классов и как я могу узнать, к какому ярлыку они принадлежат?

Следующий код - это режим, который я использую и не совсем понимаю, как налог выводит прогнозы. Вы можете заметить, что прогноз содержит всего 11 прогнозов, но как они упорядочены, чтобы соответствовать моим меткам прогнозов? довольно запутался. def…
17 сен '21 в 17:54
1 ответ

Выбрать задачу из цикла Trax

У меня есть объект цикла Trax, из которого я хотел бы извлечь объект задачи. Код ниже возвращает ошибку AttributeError: 'Loop' object has no attribute '_task'. У вас есть предложения, как это исправить? Справочная информация: я пытаюсь запустить на …
21 дек '20 в 16:57