目前的url爬取是深度无限爬取,存在无法中止以及可能的重复爬取问题 需要更改后做到 1. 深度有限制 2. 超时解决 3. 无重复爬取问题
目前的url爬取是深度无限爬取,存在无法中止以及可能的重复爬取问题
需要更改后做到