时间:2021-05-22
LMDB的全称是Lightning Memory-Mapped Database(快如闪电的内存映射数据库),它的文件结构简单,包含一个数据文件和一个锁文件:
LMDB文件可以同时由多个进程打开,具有极高的数据存取速度,访问简单,不需要运行单独的数据库管理进程,只要在访问数据的代码里引用LMDB库,访问时给文件路径即可。
让系统访问大量小文件的开销很大,而LMDB使用内存映射的方式访问文件,使得文件内寻址的开销非常小,使用指针运算就能实现。数据库单文件还能减少数据集复制/传输过程的开销。
在python中使用lmdb: linux中,可以使用指令‘pip install lmdb' 安装lmdb包。
1. 生成一个空的lmdb数据库文件
# -*- coding: utf-8 -*- import lmdb # 如果train文件夹下没有data.mbd或lock.mdb文件,则会生成一个空的,如果有,不会覆盖 # map_size定义最大储存容量,单位是kb,以下定义1TB容量 env = lmdb.open("./train",map_size=1099511627776) env.close()2. LMDB数据的添加、修改、删除
# -*- coding: utf-8 -*- import lmdb # map_size定义最大储存容量,单位是kb,以下定义1TB容量 env = lmdb.open("./train", map_size=1099511627776) txn = env.begin(write=True) # 添加数据和键值 txn.put(key = '1', value = 'aaa') txn.put(key = '2', value = 'bbb') txn.put(key = '3', value = 'ccc') # 通过键值删除数据 txn.delete(key = '1') # 修改数据 txn.put(key = '3', value = 'ddd') # 通过commit()函数提交更改 txn.commit() env.close()3. 查询lmdb数据库内容
# -*- coding: utf-8 -*- import lmdb env = lmdb.open("./train") # 参数write设置为True才可以写入 txn = env.begin(write=True) ############################################添加、修改、删除数据 # 添加数据和键值 txn.put(key = '1', value = 'aaa') txn.put(key = '2', value = 'bbb') txn.put(key = '3', value = 'ccc') # 通过键值删除数据 txn.delete(key = '1') # 修改数据 txn.put(key = '3', value = 'ddd') # 通过commit()函数提交更改 txn.commit() ############################################查询lmdb数据 txn = env.begin() # get函数通过键值查询数据 print txn.get(str(2)) # 通过cursor()遍历所有数据和键值 for key, value in txn.cursor(): print (key, value) ############################################ env.close()4. 读取已有.mdb文件内容
# -*- coding: utf-8 -*- import lmdb env_db = lmdb.Environment('trainC') # env_db = lmdb.open("./trainC") txn = env_db.begin() # get函数通过键值查询数据,如果要查询的键值没有对应数据,则输出None print txn.get(str(200)) for key, value in txn.cursor(): #遍历 print (key, value) env_db.close()以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
由于Caffe使用的存储图像的数据库是lmdb,因此有时候需要对lmdb文件进行操作,本文主要讲解如何用Python合并lmdb文件。没有lmdb支持的,需要用
本文实例讲述了python文件读写操作与linuxshell变量命令交互执行的方法。分享给大家供大家参考。具体如下:python对文件的读写还是挺方便的,与li
python读写excel文件有很多种方法:用xlrd和xlwt进行excel读写用openpyxl进行excel读写用pandas进行excel读写本文使用x
Python具有基本的文本文件读写功能。Python的标准库提供有更丰富的读写功能。文本文件的读写主要通过open()所构建的文件对象来实现。创建文件对象我们打
linux中,可以使用指令pipinstalllmdb安装lmdb包。----lmdb数据库文件生成增改删查1、生成一个空的lmdb数据库文件#-*-codin