Python中scrapy框架使用问题请教!
要爬的网站的评论是由服务端直接一次生成正文内容和评论,非 ajax 调接口获取。这种情况 scrapy 怎样能做到评论即能分页抓取还能和正文内容关联起来。想到的办法是写两个 spider 分别抓取正文和评论,然后再通过程序,根据贴子 id 关联起来。有没有办法一个 spider 直接搞定,item['content'],item['content'],请教下大家!
Python中scrapy框架使用问题请教!
5 回复
我无法理解你的问题
好的,我试试,谢谢!
def parse_article(self, response):
____item = Item()
____yield scrapy.Request(url, meta={‘item’: item}, callback=self.parse_reviews)
def parse_reviews(self, response):
____item = response.meta[‘item’] # here be the magic


