Всплеск Scrapy не загрузит нужную страницу

Я пытался очистить некоторые страницы из лазады, используя scrapy-splash:

Вот мой сценарий:

function main(splash, args)
  local num_scrolls = 3
  local scroll_delay = 2.0
  assert(splash:go(args.url))
  assert(splash:set_viewport_full())
  assert(splash:wait(5.0))
  return {
    html = splash:html(),
    png = splash:png(),
    har = splash:har(),
  }
end

Когда я сравнил реальный веб-сайт и изображение + HTML, отображенные по первой ссылке с использованием веб-интерфейса всплеска, я обнаружил, что они отличаются. Затем я выполнил рендеринг других ссылок, результаты рендеринга такие же. Я пробовал много задержек ожидания: 2.0, 3.0, 5.0 и 10.0, но результаты все те же. Я даже не мог загрузить отрендеренное изображение из веб-интерфейса, там говорилось об ошибке загрузки. Что я упустил?

0 ответов

Другие вопросы по тегам