场景应用

老大我让爬取内部网站获取数据，插入到新建的表中，并每天进行爬取更新数据（后面做了定时任务）。然后根据该表统计每日的新增数量/更新数量进行制图制表，向上级汇报。

思路构建

选用sqlalchemy+mysqlconnector，连接数据库，创建表，对指定表进行CRUD

from sqlalchemy import exists, Column, Integer, String, ForeignKey, DateTime, Text, funcfrom sqlalchemy.ext.declarative import declarative_basefrom sqlalchemy import create_enginefrom sqlalchemy.orm import sessionmakerfrom conf.parseConfig import parseConf# 从配置文件中获取数据库信息host = parseConf.get_conf('MySQLInfo', 'host')port = parseConf.get_conf('MySQLInfo', 'port')dbname = parseConf.get_conf('MySQLInfo', 'dbname')usernm = parseConf.get_conf('MySQLInfo', 'usernm')passwd = parseConf.get_conf('MySQLInfo', 'passwd')# 连接数据库engine_str = "mysql+mysqlconnector://{0}:{1}@{2}:{3}/{4}".format(usernm, passwd, host, port, dbname)# 创建的数据库引擎engine = create_engine(engine_str, encoding='utf-8')#创建session类型DBSession = sessionmaker(bind=engine)# 创建session对象，进行增删改查:session = DBSession()# 实例化官宣模型 - Base 就是 ORM 模型Base = declarative_base()# 创建服务单表 继承Base基类class ServiceOrder(Base): __tablename__ = 'serviceOrderTable' serviceOrderId = Column(String(32), primary_key=True, comment='服务单ID') serviceDesc = Column(String(512), comment='服务说明') transferTimes = Column(String(32), comment='转派次数') # 创建更新时间，对数据的更新进行记录 updateTime = Column(DateTime, server_default=func.now(), onupdate=func.now())def init_db(): Base.metadata.create_all(engine)def drop_db(): Base.metadata.drop_all(engine)if __name__ == "__main__": # 每次执行时 会判断表的存在性 对于数据库中不存在的表进行创建 已存在的表则可以直接进行增删改查 init_db() ### 首先讲一下使用sqlalchemy执行原生的sql语句### # 方式一： res = session.execute('select * from ServiceOrder') # res是获取的对象 all_res_list = res.fetchall() # all_res_list具体的结果 是列表 print(all_res_list ) # 结果： [('数据提取',), ('非数据提取',)] # 方式二： conn = engine.connect() res = conn.execute('select * from ServiceOrder') all_res_list = res.fetchall() ### 使用创建好的session对象进行增删改查 ### # 插入单条数据 # 创建新service0rder对象 new_serviceorder = ServiceOrder(serviceOrderId='001', serviceDesc='ack', transferTimes='9') # 添加到session session.add(new_serviceorder) # 提交即保存到数据库 session.commit() # 插入多条数据 serviceorder_list = [ServiceOrder(serviceOrderId='002', serviceDesc='好的', transferTimes='9'),ServiceOrder(serviceOrderId='003', serviceDesc='起床', transferTimes='9')] session.add_all(serviceorder_list) session.commit() # session.close() # 查询 # 查询是否存在 结果是布尔值 it_exists = session.query( exists().where(ServiceOrder.serviceOrderId == '002') ).scalar() # 创建Query查询，filter是where条件 # 调用one() first()返回唯一行，如果调用all()则已列表的形式返回所有行: server_order = session.query(ServiceOrder).filter(ServiceOrder.serviceOrderId == '003').first() print(server_order.serviceDesc) serciceorders = session.query(ServiceOrder).filter(ServiceOrder.serviceDesc == '好的').all() # 改 更新数据 # 数据更新，将值为Mack的serviceDesc修改为Danny update_obj = session.query(ServiceOrder).filter(ServiceOrder.serviceDesc == 'Mack').update({"serviceDesc": "Danny"}) # 或则 update_objp = session.query(ServiceOrder).filter(ServiceOrder.serviceDesc == 'Mack').first() update_objp.serviceDesc = 'Danny' session.commit() # 删除 update_objk = session.query(ServiceOrder).filter(ServiceOrder.serviceDesc == 'Mack').delete() # 或则 update_objkp = session.query(ServiceOrder).filter(ServiceOrder.serviceDesc == 'Mack').one() update_objkp.delete() session.commit() session.close()

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持。