我的爬虫在工作的时候是从表里取地址,然后再获取数据,为了在某个地址出错以后重新执行时还从这里开始,我用另一个表来记录当前地址的 ID ,这样,下回直接从这里执行就可以了。
我现在想把记录 ID 的这个步骤放到 sqlite 的内存数据库中,这样可以减轻硬盘的压力,可是如果在出错以后,内存数据库也就清空了,那么怎样能在出错时把当前内存数据库的记录保存下来呢?
我现在想把记录 ID 的这个步骤放到 sqlite 的内存数据库中,这样可以减轻硬盘的压力,可是如果在出错以后,内存数据库也就清空了,那么怎样能在出错时把当前内存数据库的记录保存下来呢?