网页爬虫 - 在python中使用urllib2.urlopen获取的html网页不完整
本文介绍了网页爬虫 - 在python中使用urllib2.urlopen获取的html网页不完整的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!
问题描述
问 题
http://apk.hiapk.com/appinfo/...
我想要爬取这个网页中的用户评论
但是却发现使用urllib2.urlopen(request)获取的html页面不完整
代码如图
输出如图
但是实际上这个页面里面是有东西的
请问一下为什么获取到的html不全呢
解决方案
不是获取不全,这个页面的评论 是通过javascript后期加载生成的,urllib2.urlopen中返回请求的html,并不会执行页面中的javascript
你直接请求 http://apk.hiapk.com/web/api.... 这个地址就可以返回所有评论了,还是json的,好处理的很
这篇关于网页爬虫 - 在python中使用urllib2.urlopen获取的html网页不完整的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!
查看全文