时间:2021-05-22
通过logging模块,重写一个logging2模块,独立开启线程,将待写的日志信息异步放入队列,做到日志输出不影响主流程性能,环境python3.8
logging2.py
import osimport threadingimport queueimport timeimport datetimeimport loggingfrom logging.handlers import RotatingFileHandlerclass logging2(threading.Thread): AQueue = queue.Queue(100000) nPID = os.getpid() Adt = datetime.datetime.now().strftime('%Y%m%d') nCount = 1 def __init__(self, threadID, name, module, logLevel): threading.Thread.__init__(self) self.threadID = threadID self.name = name self.module = module print("set loglevel: [%s]" % (logLevel) ) formatter = logging.Formatter('%(asctime)s|%(name)s|%(process)d|%(levelname)s|%(message)s') logfile = "log_" + self.module + "_" + str(logging2.nPID) + "_" + str(logging2.Adt) + ".log" self.logger = logging.getLogger(__name__) self.rHandler = RotatingFileHandler(logfile, maxBytes = 10*1024*1024, backupCount = 10) self.rHandler.setFormatter(formatter) self.console = logging.StreamHandler() self.console.setFormatter(formatter) if logLevel == 'DEBUG' : self.logger.setLevel(level = logging.DEBUG) self.rHandler.setLevel(logging.DEBUG) self.console.setLevel(logging.DEBUG) elif logLevel == 'INFO' : self.logger.setLevel(level = logging.INFO) self.rHandler.setLevel(logging.INFO) self.console.setLevel(logging.INFO) elif logLevel == 'WARNING' : self.logger.setLevel(level = logging.WARN) self.rHandler.setLevel(logging.WARN) self.console.setLevel(logging.WARN) elif logLevel == 'ERROR' : self.logger.setLevel(level = logging.ERROR) self.rHandler.setLevel(logging.ERROR) self.console.setLevel(logging.ERROR) self.logger.addHandler(self.rHandler) self.logger.addHandler(self.console) #如果跨天了,则重新生成新的文件名 def reSetLog(self): AdtTemp = datetime.datetime.now().strftime('%Y%m%d') #比较新的时间 if AdtTemp == logging2.Adt: return(True) logging2.Adt = AdtTemp logfile = "log_" + self.module + "_" + str(logging2.nPID) + "_" + str(AdtTemp) + ".log" self.rHandler = RotatingFileHandler(logfile, maxBytes = 1*1024, backupCount = 10) self.logger.addHandler(self.rHandler) self.logger.addHandler(self.console) logging2.nCount += 1 def run(self): print ("开启日志线程:" + self.name) i = 0 while True: #data = "queue test data" #debug(data) #print("Queuesize: %s" % (logging2.AQueue.qsize())) self.reSetLog() if logging2.AQueue.empty() == False: #从队列获取日志消息 data = logging2.AQueue.get() #解析日志消息,格式:日志级别,内容 level = list(data.keys())[0] content = data.get(level) #把内容按分隔符|解析成list传入参数 lstContent = list(content.split('|')) if level == 'DEBUG' : self.logger.debug(*lstContent) elif level == 'INFO' : self.logger.info(*lstContent) elif level == 'WARNING' : self.logger.warn(*lstContent) elif level == 'ERROR' : self.logger.error(*lstContent) else: time.sleep(0.5) print ("退出线程:" + self.name) def debug(*content): logMsg = "" #传入多个参数用竖线分隔符分开 for i in range(len(content)): if i == len(content)-1: logMsg += content[i] else: logMsg += content[i]+"|" logging2.AQueue.put({'DEBUG':logMsg}) def info(*content): logMsg = "" for i in range(len(content)): if i == len(content)-1: logMsg += content[i] else: logMsg += content[i]+"|" logging2.AQueue.put({'INFO':logMsg}) def warn(*content): logMsg = "" for i in range(len(content)): if i == len(content)-1: logMsg += content[i] else: logMsg += content[i]+"|" logging2.AQueue.put({'WARNING':logMsg}) def error(*content): logMsg = "" for i in range(len(content)): if i == len(content)-1: logMsg += content[i] else: logMsg += content[i]+"|" logging2.AQueue.put({'ERROR':logMsg}) def init(module, level): # 创建新线程 thread1 = logging2(1, "Thread-log", module, level) # 开启新线程 thread1.start()# thread1.join()测试桩logMain.py
import sysimport osimport timeimport threadingif __name__ == '__main__': import logging2 logging2.init("logMain", "DEBUG") teststr = "22222" while True: logging2.debug('this is a debug log test [%s] ', teststr) logging2.info('this is a info log test [%s] [%s]', teststr, teststr) logging2.warn('this is a warn log test') logging2.error('this is a error log test') #time.sleep(0.1) print(threading.enumerate()) print('press ctrl_c to exit')测试结果
生成日志文件:
-rw-rw-r--. 1 zxl zxl 10152463 6月 24 17:52 log_logMain_57554_20200624.log
文件内容如下:
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
python自带了日志模块logging,可以用来记录程序运行过程中的日志信息。同时python还有logbook模块用来取代logging模块,在很多的项目中
python的logging模块python提供了一个日志处理的模块,那就是logging。导入logging模块使用以下命令:importlogginglog
logging模块是Python的一个标准库模块,开发过程中,可以通过该模块,灵活的完成日志的记录。logging模块提供了两种记录日志的方式:1)使用logg
python中logging模块假如遇到多线程或者多进程或者在web框架中自定义logging的话(一个请求就是一个独立的线程)非常容易重复打印日志和造成内存崩
详解使用python的logging模块在stdout输出前言: 使用python的logging模块时,除了想将日志记录在文件中外,还希望在前台执行pyth