博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
【Scrapy学习】 scrapyd 文件配置
阅读量:6910 次
发布时间:2019-06-27

本文共 1268 字,大约阅读时间需要 4 分钟。

hot3.png

scrapyd配置文件: 如果没有没有配置文件,scrapyd会使用自身的默认值,比如默认每个CPU 最多只执行4个scrapy进程。 CentOS 6.5 64 位 scrapy 1.3.3 scrapyd 1.1.1

如果设置了scrapyd的配置文件: scrapyd会搜索路径:

• /etc/scrapyd/scrapyd.conf (Unix)• c:\scrapyd\scrapyd.conf (Windows)• /etc/scrapyd/conf.d/* (in alphabetical order, Unix)• scrapyd.conf• ~/.scrapyd.conf (users home directory)

我的配置文件放在etc /scrapyd/scrapyd.conf 下

[scrapyd]eggs_dir = /usr/scrapyd/eggslogs_dir = /usr/scrapyd/logsjobs_to_keep = 100dbs_dir = /usr/scrapyd/dbsmax_proc = 0max_proc_per_cpu = 800finished_to_keep = 100poll_interval = 5.0bind_address = 192.168.17.30http_port = 6800debug = offrunner = scrapyd.runnerapplication = scrapyd.app.applicationlauncher = scrapyd.launcher.Launcherwebroot = scrapyd.website.Root[services]schedule.json     = scrapyd.webservice.Schedulecancel.json       = scrapyd.webservice.Canceladdversion.json   = scrapyd.webservice.AddVersionlistprojects.json = scrapyd.webservice.ListProjectslistversions.json = scrapyd.webservice.ListVersionslistspiders.json  = scrapyd.webservice.ListSpidersdelproject.json   = scrapyd.webservice.DeleteProjectdelversion.json   = scrapyd.webservice.DeleteVersionlistjobs.json     = scrapyd.webservice.ListJobs

其中在打开web界面时,如果长时间没有操作,后台会报出Timing out..

转载于:https://my.oschina.net/whitejavadog/blog/906655

你可能感兴趣的文章
启动时nginx时报错
查看>>
菜鸟学Linux 第063篇笔记 postfix+mysql+courier-authlib
查看>>
【 58沈剑 架构师之路】InnoDB七种锁——共享/排它锁、意向锁、插入意向锁
查看>>
终究未能留下,秦致被动离去,汽车之家已变天
查看>>
wxWidgets第一课 wx/wx.h解决头文件包含问题
查看>>
论Mysql5.7.13架构组成之物理文件
查看>>
C/C++笔试题目大全
查看>>
呼叫转移XCAP log的查看
查看>>
JAVA--------抽象类
查看>>
我的友情链接
查看>>
动画状态切换
查看>>
linux 下的GPT分区
查看>>
线程同步
查看>>
Nginx 配置SSL证书
查看>>
每日总结复习
查看>>
iPhone 开发过程中的一些小技术的总结
查看>>
android 资料
查看>>
ThreadLocal 那点事儿
查看>>
Spark源码分析调试环境搭建
查看>>
手把手教你搭建LyncServer2013之命令行持久聊天室和聊天室BUG(十五)
查看>>