pyspider - 抓取任何网站 HTTPError: HTTP 599: Resolving timed out

其他开发 IT屋
问 题

Traceback (most recent call last):
      File "D:\Program Files (x86)\python\python3.5-32\lib\site-packages\pyspider-0.3.7-py3.5.egg\pyspider\libs\base_handler.py", line 188, in run_task
        result = self._run_task(task, response)
      File "D:\Program Files (x86)\python\python3.5-32\lib\site-packages\pyspider\libs\base_handler.py", line 167, in _run_task
        response.raise_for_status()
      File "D:\Program Files (x86)\python\python3.5-32\lib\site-packages\pyspider\libs\response.py", line 190, in raise_for_status
        raise http_error
    requests.exceptions.HTTPError: HTTP 599: Resolving timed out after 20000 milliseconds

1抓取任何域名都是,用ip抓取没问题。
2应该是dns的问题吧,可是浏览器直接打开网址没问题。
3直接调用urllib.request.Request抓取没问题。

会不会是内置的requests抓取问题?

win10系统,python(3.5),pyspider(0.3.7)

之前升级了0.3.8,结果出现其他问题(https://segmentfault.com/q/10...


**最新发现:我把联通换成电信网络,问题解决。感觉是我本地联通的dns有问题,偶尔会劫持放广告,可能和这个有关!
2.也可以试试禁用其他不用的网络连接,比如你用wifi上网,就禁用本地连接。
**

解决方案

你好!我今天也遇到这个问题,经过千百次不同的尝试,终于发现了问题所在。只需禁用你当前所使用的网络的ipv6访问即可

本文地址:IT屋 » pyspider - 抓取任何网站 HTTPError: HTTP 599: Resolving timed out