Python中scrapy框架使用问题请教!

要爬的网站的评论是由服务端直接一次生成正文内容和评论,非 ajax 调接口获取。这种情况 scrapy 怎样能做到评论即能分页抓取还能和正文内容关联起来。想到的办法是写两个 spider 分别抓取正文和评论,然后再通过程序,根据贴子 id 关联起来。有没有办法一个 spider 直接搞定,item['content'],item['content'],请教下大家!


Python中scrapy框架使用问题请教!
2 回复

好的,我试试,谢谢!


def parse_article(self, response):
____item = Item()
____yield scrapy.Request(url, meta={‘item’: item}, callback=self.parse_reviews)

def parse_reviews(self, response):
____item = response.meta[‘item’] # here be the magic

回到顶部