Как я могу получить слова из встроенного вектора?
Как я могу преобразовать их в их оригинальные слова, когда я генерирую векторы слов в генераторе? Я использовал встроенный в pytorch модуль nn.Embedding для встраивания слов.
1 ответ
Решение
Поскольку вы не предоставили никакого кода, я использую приведенный ниже код с комментариями для ответа на ваш запрос. Не стесняйтесь добавлять больше информации для вашего конкретного случая использования.
import torch
# declare embeddings
embed = torch.nn.Embedding(5,10)
# generate embedding for word [4] in vocab
word = torch.tensor([4])
# search function for searching through embedding
def search(vector, distance_fun):
weights = embed.weight
min = torch.tensor(float('inf'))
idx = -1
v, e = weights.shape
# each vector in embeding is corresponding to one of the word.
# use a distance function to compare with vector
for i in range(v):
dist = distance_fun(vector, weights[i])
if (min<dist):
min = dist
idx = i
return i
# searching with squared distance
search(word, lambda x,y: ((x-y)**2).sum()