Странные символы после загрузки китайской таблицы из html

Я использую систему MAC OS X 10.12. Я скачал таблицу с http://www.stats.gov.cn/tjsj/tjbz/tjyqhdmhcxhfdm/2011/51/06/81/510681114.html. Таблица была закодирована с помощью GB2312, однако я использовал GBK для ее сохранения. Основная часть кода выглядит следующим образом:

req = urllib2.Request(url, headers={ 'User-Agent': 'Mozilla/5.0' })
page = urllib2.urlopen(req ).read()
tables=BeautifulSoup(page,'html.parser',
parse_only=SoupStrainer(),from_encoding='gbk')
f = open(path, 'w')
for row in tables.findAll("tr"):
    cells = row.findAll("td")
    write_to_file = cells[0].find(text=True) + "," + cells[1].find(text=True) 
+ "\n"
    write_to_unicode = write_to_file.encode('utf-8')
    f.write(write_to_unicode)
f.close()

Я повторил этот шаблон кода для многих других подобных таблиц, однако для некоторых ссылок (например, той, которую я разместил здесь) загруженные китайские таблицы содержат странные символы. Вот пример.

´úÂë,³ÇÏç·ÖÀà,Ãû³Æ
510681114001,121,½ÖµÀ¾ÓÃñίԱ»á
510681114201,220,ðÀÃù´å´åÃñίԱ»á
510681114202,220,°×º×´å´åÃñίԱ»á
510681114203,122,Áâ½Ç´å´åÃñίԱ»á
510681114204,122,»Æ¼Òµê´å´åÃñίԱ»á
510681114205,122,»¨ÌÁ´å´åÃñίԱ»á
510681114206,220,ÔÂÍå´å´åÃñίԱ»á
510681114207,122,°×ÔÆ´å´åÃñίԱ»á
510681114208,220,Á¹Ë®¾®´å´åÃñίԱ»á
510681114209,122,Çàþh´å´åÃñίԱ»á

Что я должен сделать, чтобы преобразовать эту таблицу в настоящий китайский, или что я должен сделать, чтобы загрузить китайскую таблицу?

Проблема в том, что если я решу использовать GB2312, возможно, для этой таблицы он может быть корректно показан на китайском, но для других таблиц он все равно будет показывать эти раздражающие странные символы.

1 ответ

Я только что получил вдохновение отсюда http://zzi.io/?p=275 например

a=u"´úÂë"
print a.encode('iso-8859-1').decode('gbk')

Результат

代码

Так что эта проблема частично решена.

Другие вопросы по тегам