Создание записи варка с ответом на запросы request.get() с использованием warcio
Я использую warcio
библиотека для чтения и записи warc
файлы.
При попытке записать запись объекта ответа из requests.get(URL,stream=False)
, warcio
записывает в запись только HTTP-заголовки, но не полезную нагрузку. Однако, когда потоковый режим включен, он работает нормально.
Есть ли способ сохранить полезную нагрузку, когда потоковый режим не включен?
1 ответ
Решение
Я нашел обходной путь, но не уверен, что это правильный путь. Вместо того, чтобы сделать объект запроса потоковым, я сделал поток полезнымBytesIO(response.text.encode())
и это похоже на работу.