素材牛VIP会员
Scrapy的spider在IDE中方便运行调试
 陈***0  分类:Python  人气:916  回帖:2  发布于6年前 收藏

我有很多spider,不能每次调试都手动创建一个debugger吧(scrapy crawl spider_name)

想可以在spider文件中直接右键运行/调试。

 标签:scrapypython

讨论这个帖子(2)垃圾回帖将一律封号处理……

Lv6 码匠
骨***活 产品经理 6年前#1

新建一个py文件,用这个来调试

from scrapy.cmdline import execute

import sys
import os


sys.path.append(os.path.dirname(os.path.abspath(__file__)))

execute(["scrapy","crawl","YOUR_SPIDER"])
Lv4 码徒
13***64 软件测试工程师 6年前#2

参考文章:Scrapy爬虫常见问题总结

spider方便运行/调试

在spider文件中,加入cmdline的调用方法

import scrapy.cmdline

#Your Spider Class...

def main():
    scrapy.cmdline.execute(['scrapy', 'crawl', 'your_spider_name'])

if __name__ == '__main__':
    main()
 文明上网,理性发言!   😉 阿里云幸运券,戳我领取