如何获得大量URL的返回码

【如何获得大量URL的返回码】

如何获得大量URL的返回码

文章插图
如何获取大量网址的返回码简介:如题 , 我从网上下载抓取了4万个网址 。因为大量的URL都有404的返回码 , 抓取网页源代码的时间大大增加 。现在我的做法是 , 如果返回代码是404 , 就把它的URL添加到一个表中 。下次我运行程序时 , 如果URL