Pyspider task.db 浪费了非常多的存储空间

问题描述

问 题

Pyspider task.db 浪费了非常多的存储空间
抓取网站过程中，新闻分页信息存储到了 save中

    self.crawl(each.attr.href, callback=self.detail_page,save='新闻信息')

这些信息在使用后一直存储在数据里，result.db才500M，task.db已经6G了.

解决方案

如果可以的话，尽量少用 save
或者写个脚本清掉

这篇关于Pyspider task.db 浪费了非常多的存储空间的文章就介绍到这了，希望我们推荐的答案对大家有所帮助，也希望大家多多支持IT屋！