时间:2021-05-19
去年因项目需要,用python写了个爬虫。因爬到的数据需要存到生产环境的PG数据库。所以需要将脚本部署到CentOS服务器,并设置定时任务,自动启动脚本。
实施步骤如下:
1.安装pip(操作系统自带了python2.6可以直接用,但是没有pip)
# 下载pip安装包wget "https://pypi.python.org/packages/source/p/pip/pip-1.5.4.tar.gz#md5=834b2904f92d46aaa333267fb1c922bb" --no-check-certificate# 解压安装包并安装tar -xzvf pip-1.5.4.tar.gzcd pip-1.5.4python setup.py install2.用pip安装第三方库
pip install PyGreSQL==5.0.3pip install requests==2.18.33.设置定时任务
# 开启定时任务服务service crond start# 查看定时任务服务状态service crond status# 打开定时任务编辑窗口crontab -e # 添加两条定时任务,即每天0点0分和12点20分各执行一次,并写入日志0 0 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 &20 12 * * * /usr/bin/python /home/longrise/psrd/collect.py > /home/longrise/psrd/collect.log 2>&1 &定时任务语法如下:# For details see man 4 crontabs# Example of job definition:# .---------------- minute (0 - 59)# | .------------- hour (0 - 23)# | | .---------- day of month (1 - 31)# | | | .------- month (1 - 12) OR jan,feb,mar,apr ...# | | | | .---- day of week (0 - 6) (Sunday=0 or 7) OR sun,mon,tue,wed,thu,fri,sat# | | | | |# * * * * * user-name command to be executed以上这篇Linux部署python爬虫脚本,并设置定时任务的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
前言最近同事问了一个关于Python脚本自启动与定时任务的问题,发现很多的朋友对这块都不是特别的熟悉,所以本文主要给大家介绍的是关于Linux下Python脚本
记得以前的windows任务定时是可以的正常使用的,今天试了下,发现不能正常使用了,任务计划总是挂起。接下来记录下python爬虫定时任务的几种解决方法。今天是
每天定时备份数据库需要用到Linux的定时任务,利用Linux的crondtab命令。下面我们来看详细步骤:一、写好shell脚本mysqlbak.sh#!/b
今天来说一个Java多机部署下定时任务的处理方案。需求:有两台服务器同时部署了同一套代码,代码中写有spring自带的定时任务,但是每次执行定时任务时只需要一台
如果管理网络设备很多,不可能靠人力每天去登录设备去查看是否在线。所以,可以利用python脚本通过每天扫描网络中的在线设备。可以部署在服务器上做成定时任务,每天