python - scrapy如何使用同一个session来访问几个url

查看:150
本文介绍了python - scrapy如何使用同一个session来访问几个url的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

问 题

需要提交的表单里面有个验证码,我需要先把验证码下下来再转换成文本放上去,然后 post 到一个 URL 里。这里面应该要用同一个 session 才可以完成。 requests 里面用 session 就很方便,想请问下在 scrapy 里怎么使用同一个 session?
这样用meta不行。

def start_requests(self):
    cookie_jar = CookieJar()
    yield scrapy.Request(self.getUrl, meta={'cookiejar': cookie_jar}, callback=self.downloadPic)

def downloadPic(self, response):
    yield scrapy.Request(self.vcodeUrl, meta={'cookiejar': response.meta['cookiejar']}, callback=self.getAndHandlePic

def getAndHandlePic(self, response):
    # handle picture, not the point here
    pic = self.handlePic(response.body)
    yield FormRequest(self.postUrl, formdata={'a':a, 'pic':pic}, meta={'cookiejar': response.meta['cookiejar']}, callback=self.parse)

def parse(self, response):
   # do process source code

解决方案

把headers所有东西加进去

这篇关于python - scrapy如何使用同一个session来访问几个url的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆