Python中关于Scrapy爬虫框架的一些小问题

同样的脚本 爬同样的目标站

服务器 A 配置 AMD4 核 Opteron 1381 SATA 22TB+750G4 我键了一个 6TB 的 POOL

服务器 B 配置 ATOM CZ2750 128G SSD

目标站挂载在 CF 上 差不多都在 10ms 以内

服务器 A 开始爬还可以跑在 20~30M 大约爬了几分钟以后变成 5mbps 左右

服务器 B 爬取速度不但快 而且下载的时候都可以保持 100M 的速度。

我想知道服务器 A 的 delay 是在哪里。 有没有办法优化

服务器 A 的下载速度 就是一个图片 一个图片以肉眼的速度下载

服务器 B 的下载速度 就是刷刷刷的那种。

是否是 SSD 的问题?


Python中关于Scrapy爬虫框架的一些小问题

2 回复

我无法理解你的问题


SATA 和 SSD 的写入差距这么大?

回到顶部