Невозможно развернуть проект portia с использованием scrapyd-deploy из-за 'Модуль не найден..'
Я оцениваю порцию и сталкиваюсь с проблемой развертывания на scrapyd.
Когда я пытаюсь развернуть свой проект portia, используя
scrapyd-deploy local -p new_project
из моего каталога проекта portia я получаю следующее сообщение об ошибке
Packing version 1433441798
Deploying to project "new_project" in http://192.168.59.103:6800/addversion.json
Server response (200):
{"status": "error", "message": "ImportError: Error loading object
'slybot.spidermanager.ZipfileSlybotSpiderManager': No module named slybot.spidermanager"}
У меня есть один портовый контейнер с порцией, а другой - с скройдом.
Мой проект проходит через portiacrawl
успешно. Я также попытался создать простой проект с использованием startproject
а также genspider
Команды, которые успешно развернуты на scrapyd
Я не уверен, где найти файл яйца, который генерируется.
Скрапид бревно
2015-06-04 18:28:51+0000 [HTTPChannel,21,172.17.42.1] Unhandled Error
Traceback (most recent call last):
File "/usr/lib/python2.7/dist-packages/twisted/web/http.py", line 1618, in allContentReceived
req.requestReceived(command, path, version)
File "/usr/lib/python2.7/dist-packages/twisted/web/http.py", line 773, in requestReceived
self.process()
File "/usr/lib/python2.7/dist-packages/twisted/web/server.py", line 132, in process
self.render(resrc)
File "/usr/lib/python2.7/dist-packages/twisted/web/server.py", line 167, in render
body = resrc.render(self)
--- <exception caught here> ---
File "/usr/lib/pymodules/python2.7/scrapyd/webservice.py", line 18, in render
return JsonResource.render(self, txrequest)
File "/usr/lib/pymodules/python2.7/scrapy/utils/txweb.py", line 10, in render
r = resource.Resource.render(self, txrequest)
File "/usr/lib/python2.7/dist-packages/twisted/web/resource.py", line 216, in render
return m(request)
File "/usr/lib/pymodules/python2.7/scrapyd/webservice.py", line 66, in render_POST
spiders = get_spider_list(project)
File "/usr/lib/pymodules/python2.7/scrapyd/utils.py", line 65, in get_spider_list
raise RuntimeError(msg.splitlines()[-1])
exceptions.RuntimeError: ImportError: Error loading object 'slybot.spidermanager.ZipfileSlybotSpiderManager': No module named slybot.spidermanager
2015-06-04 18:28:51+0000 [HTTPChannel,21,172.17.42.1] 172.17.42.1 - - [04/Jun/2015:18:28:51 +0000] "POST /addversion.json HTTP/1.1" 200 156 "-" "Python-urllib/2.7"
Есть идеи, что мне не хватает?
1 ответ
Я смог решить эту проблему, используя последнюю версию github вместо версии 1.0.1 и версию 0.25.1.
Более подробная информация здесь: https://github.com/scrapinghub/portia/issues/209