Как я могу получить слова из встроенного вектора?

Как я могу преобразовать их в их оригинальные слова, когда я генерирую векторы слов в генераторе? Я использовал встроенный в pytorch модуль nn.Embedding для встраивания слов.

1 ответ

Решение

Поскольку вы не предоставили никакого кода, я использую приведенный ниже код с комментариями для ответа на ваш запрос. Не стесняйтесь добавлять больше информации для вашего конкретного случая использования.

import torch
# declare embeddings
embed = torch.nn.Embedding(5,10)

# generate embedding for word [4] in vocab 
word = torch.tensor([4])

# search function for searching through embedding
def search(vector, distance_fun):
    weights = embed.weight
    min = torch.tensor(float('inf'))
    idx = -1
    v, e = weights.shape

    # each vector in embeding is corresponding to one of the word.
    # use a distance function to compare with vector
    for i in range(v):
        dist = distance_fun(vector, weights[i])
        if (min<dist):
            min = dist
            idx = i
    return i  
# searching with squared distance
search(word, lambda x,y: ((x-y)**2).sum()   
Другие вопросы по тегам