Нужно ли использовать * Unicode* строку в качестве текста для тега, в то время как тегирование с TreeTagger?

Question

С сайта TreeTagger я создал каталог и скачал указанные файлы. Затем treetaggerwrapper, поэтому из документации я попытался протестировать и попытаться пометить некоторый текст следующим образом:

In [40]:

import treetaggerwrapper

tagger = treetaggerwrapper.TreeTagger(TAGLANG='en')

tags = tagger.TagText("This is a very short text to tag.")

print tags

Тогда я получил следующие предупреждения:

WARNING:TreeTagger:Abbreviation file not found: english-abbreviations
WARNING:TreeTagger:Processing without abbreviations file.
ERROR:TreeTagger:Must use *unicode* string as text to tag, not <type 'str'>.

---------------------------------------------------------------------------
TreeTaggerError                           Traceback (most recent call last)
<ipython-input-40-37b912126580> in <module>()
      1 import treetaggerwrapper
      2 tagger = treetaggerwrapper.TreeTagger(TAGLANG='en')
----> 3 tags = tagger.TagText("This is a very short text to tag.")
      4 print tags

/usr/local/lib/python2.7/site-packages/treetaggerwrapper.pyc in TagText(self, text, numlines, tagonly, prepronly, tagblanks, notagurl, notagemail, notagip, notagdns, encoding, errors)
   1236         return self.tag_text(text, numlines=numlines, tagonly=tagonly,
   1237                  prepronly=prepronly, tagblanks=tagblanks, notagurl=notagurl,
-> 1238                  notagemail=notagemail, notagip=notagip, notagdns=notagdns)
   1239 
   1240     # --------------------------------------------------------------------------

/usr/local/lib/python2.7/site-packages/treetaggerwrapper.pyc in tag_text(self, text, numlines, tagonly, prepronly, tagblanks, notagurl, notagemail, notagip, notagdns, nosgmlsplit)
   1302             # Raise exception now, with an explicit message.
   1303             logger.error("Must use *unicode* string as text to tag, not %s.", type(text))
-> 1304             raise TreeTaggerError("Must use *unicode* string as text to tag.")
   1305 
   1306         if isinstance(text, six.text_type):

TreeTaggerError: Must use *unicode* string as text to tag.

Где я могу скачать файл аббревиатур для английского и испанского языков? И как правильно установить treetaggerwrapper?.

Answer 1

Метод принимает только строки Unicode и добавляет u к вашей строке, чтобы сделать ее строкой Unicode:

tags = tagger.TagText(u"This is a very short text to tag.")

"This is a very short text to tag." является типом str, когда вы добавляете u это юникод:

In [12]: type("This is a very short text to tag.")
Out[12]: str

In [13]: type(u"This is a very short text to tag.")
Out[13]: unicode

Если вы берете str из другого источника, вам нужно будет расшифровать:

In [15]: s = "This is a very short text to tag."

In [16]: type(s)
Out[16]: str

In [17]: type(s.decode("utf-8"))
Out[17]: unicode

Скрипты тегов можно скачать здесь