python - pyspider遇到不能识别的url时报错
本文介绍了python - pyspider遇到不能识别的url时报错的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!
问题描述
问 题
大家好,我遇到一个很棘手的问题想请教大家是怎么解决的。
问题描述:
pyspider遇到不规则的html页面时,只要其实包含不能正常解析的url时就会报错,如页面http://www.jb51.net/os/windows/win2008/18272.html,其中就有<p>作者:<a href="http://www.locoy.com 字体:[<a href="javascript:turnbig()">增加</a> <a href="javascript:turnsmall()">减小</a>] 来源:互联网 时间:07-02 01:51:10<a href="#comments"> 我要评论</a></p>
,这里页面的链接不能正常解析就会报Invalid IPv6 URL错误
如下图:
解决方案
如果你要深究,这是 lxml, pyquery, urlparse 标准库的 bug。
只能 catch 掉,然后手动建树。
这篇关于python - pyspider遇到不能识别的url时报错的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!
查看全文