Создание записи варка с ответом на запросы request.get() с использованием warcio

Я использую warcio библиотека для чтения и записи warc файлы.

При попытке записать запись объекта ответа из requests.get(URL,stream=False), warcio записывает в запись только HTTP-заголовки, но не полезную нагрузку. Однако, когда потоковый режим включен, он работает нормально.

Есть ли способ сохранить полезную нагрузку, когда потоковый режим не включен?

1 ответ

Решение

Я нашел обходной путь, но не уверен, что это правильный путь. Вместо того, чтобы сделать объект запроса потоковым, я сделал поток полезнымBytesIO(response.text.encode()) и это похоже на работу.

Другие вопросы по тегам