Ошибка индекса списка вне диапазона при вызове метода tag_sents() NLTK SennaTagger

Question

IndexError: list index out of range когда tag_sents() метод NLTK SennaTagger ( http://www.nltk.org/_modules/nltk/tag/senna.html) вызывается.

Список предложений приводится в качестве входных данных для tag_sentsметод.

Исполняемый файл senna необходим для запуска tagger. Руководство по установке инструментария SENNA можно найти здесь. http://ronan.collobert.com/senna/

Код:

from nltk.tag import SennaTagger

SENNA_EXECUTABLE_DIR = '../../tools/senna'

pos_tagger = SennaTagger(SENNA_EXECUTABLE_DIR)

tagged = pos_tagger.tag_sents(["All the banks are closed", "Today is Sunday"])

Выход:

Traceback (most recent call last):

  File "<ipython-input-90-886051c3d91d>", line 1, in <module>
    tagged = pos_tagger.tag_sents(["All the banks are closed", "Today is Sunday"])

  File "F:\Programs\Anaconda3\lib\site-packages\nltk\tag\senna.py", line 55, in tag_sents
    tagged_sents = super(SennaTagger, self).tag_sents(sentences)

  File "F:\Programs\Anaconda3\lib\site-packages\nltk\classify\senna.py", line 161, in tag_sents
    result[tag] = tags[map_[tag]].strip()

IndexError: list index out of rangeenter code here

Answer 1

Входные данные для senna.tag_sents - это список списка строк, который может быть достигнут через [word_tokenize(sent) for sent in sents]

>>> from nltk import word_tokenize
>>> from nltk.tag import SennaTagger
>>> senna = SennaTagger('/home/alvas/senna/')
>>> sents = ["All the banks are closed", "Today is Sunday"]

>>> tokenized_sents = [word_tokenize(sent) for sent in sents]
>>> senna.tag_sents(tokenized_sents)
[[('All', u'PDT'), ('the', u'DT'), ('banks', u'NNS'), ('are', u'VBP'), ('closed', u'VBN')], [('Today', u'NN'), ('is', u'VBZ'), ('Sunday', u'NNP')]]

Или использовать map если вы не хотите материализоваться tokenized_sents перед пометкой:

>>> tokenized_sents = map(word_tokenize, sents)
>>> senna.tag_sents(tokenized_sents)
[[('All', u'PDT'), ('the', u'DT'), ('banks', u'NNS'), ('are', u'VBP'), ('closed', u'VBN')], [('Today', u'NN'), ('is', u'VBZ'), ('Sunday', u'NNP')]]