Pyspider task.db 浪费了非常多的存储空间
本文介绍了Pyspider task.db 浪费了非常多的存储空间的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!
问题描述
问 题
Pyspider task.db 浪费了非常多的存储空间
抓取网站过程中,新闻分页信息存储到了 save中
self.crawl(each.attr.href, callback=self.detail_page,save='新闻信息')
这些信息在使用后一直存储在数据里,result.db才500M,task.db已经6G了.
解决方案
如果可以的话,尽量少用 save
或者写个脚本清掉
这篇关于Pyspider task.db 浪费了非常多的存储空间的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!
查看全文