博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
scrapyd spiderkeeper docker部署
阅读量:4511 次
发布时间:2019-06-08

本文共 1432 字,大约阅读时间需要 4 分钟。

Dockerfile

FROM python:3.5RUN cp -f /usr/share/zoneinfo/Asia/Shanghai /etc/localtime && pip install --upgrade pip && pip install scrapy scrapyd sqlalchemy scrapy-redis mysql_connector scrapyd-client spiderkeeperCOPY scrapyd.conf /etc/scrapyd/COPY config.txt /VOLUME /dataVOLUME /imagesEXPOSE 6800

config.txt

[mysql]db_host=root:123456@localhost:3306/scrapy[redis]db_host=localhostdb_port=7501[img]path = /images/

scrapyd.conf

[scrapyd]bind_address = 0.0.0.0eggs_dir    = /data/eggslogs_dir    = /data/logsdbs_dir     = /data/dbshttp_port   = 6800

docker-compose.yml

version: '2'services:    worker_1:        image: scrapy        hostname: worker_1        volumes:            - /Project/docker/worker_1:/data            - /Project/docker/images:/images        command: scrapyd        worker_2:        image: scrapy        hostname: worker_2        volumes:            - /Project/docker/worker_2:/data            - /Project/docker/images:/images        command: scrapyd        spiderkeeper:        image: scrapy        hostname: spiderkeeper        ports:            - '5000:5000'        volumes:            - /Project/docker/spiderkeeper:/data        external_links:            - worker_1            - worker_2        command: spiderkeeper --database-url=sqlite:data/SpiderKeeper.db --server=http://worker_1:6800 --server=http://worker_2:6800 --username=admin --password=admin

  

转载于:https://www.cnblogs.com/qy-brother/p/9076422.html

你可能感兴趣的文章
神器metasploit中Msfvenom 的用法(外文翻译转)
查看>>
[项目管理] 布鲁克斯法则
查看>>
SpringMVC
查看>>
交通灯管理系统笔记
查看>>
Hadoop MapReduce编程 API入门系列之wordcount版本3(七)
查看>>
前端html及标签
查看>>
day2-mysql基本命令和数据类型
查看>>
早上好~
查看>>
【Oracle】Oracle锁表处理
查看>>
CSS垂直翻转/水平翻转提高web页面资源重用性
查看>>
php-7.1.0 rpm包制作
查看>>
configparser模块
查看>>
SET方法内存管理
查看>>
3D数学读书笔记——矩阵基础
查看>>
jdk1.5多线程Lock接口及Condition接口
查看>>
四则运算分析题
查看>>
开博纪念
查看>>
(转)SQL一次性插入大量数据
查看>>
javascript event loop
查看>>
LIS
查看>>