Crawler with Docker

Avatar of 陳弘峻.
Avatar of 陳弘峻.

Crawler with Docker

數據分析師 @ 忠訓國際
Taipei City, Taiwan

Crawler with Docker

以Celery為基礎的分散式架構,運用在多隻網頁爬蟲上,並將其容器化運行於Docker當中,並藉由Docker Swarm將派發爬蟲任務的管理者、爬蟲工人、資料庫分別架設於不同的雲端電腦上,達到職責分離、各司其職,亦方便後續擴展功能以及雲端電腦。

將以celery為基礎的分散式架構,運用在多隻網頁爬蟲上,並將其容器化運行於Docker當中,並藉由Docker Swarm將派發爬蟲任務的管理者、爬蟲工人、資料庫分別架設於不同的雲端電腦上,達到職責分離、各司其職,亦方便後續擴展功能以及雲端電腦。
Avatar of the user.
Please login to comment.

Published: Aug 30th 2022
61
8
0

Tools

linux
Linux
mongodb
MongoDB
mysql
MySQL
python
Python
docker
Docker

Crawler
Docker

Share