python - requests.get使用代理能转发http头部吗

查看:127
本文介绍了python - requests.get使用代理能转发http头部吗的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

问 题

需要爬取的网页需要登陆才可以获取,但是又对爬取ip有限制,所以我想要使用代理ip进行爬取;
但是我在request的session中使用proxy后无法爬取到有信息的网页,所以猜想可能是代理地址没有进行头部转发,这里想请教一下大家!

解决方案

如果是从某个代理ip网站上抓取的ip,绝大部分是不可用的,可用的也因为超时等原因影响程序的稳定性,requests会自动帮你对HTTP头部的处理了,不存在你猜想的问题,应该是你代理ip的问题,看看我的使用代理ip

这篇关于python - requests.get使用代理能转发http头部吗的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
相关文章
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆