时间:2021-05-22
我就废话不多说了,还是直接看代码吧!
import osimport timeimport mmap filename = 'test.txt' #如果不存在,创建。if not os.path.exists(filename): open(filename, 'w') print(os.path.isdir(filename))if os.path.isfile(filename): print(time.ctime(os.path.getctime(filename))) fd = os.open(filename, os.O_RDWR)m = mmap.mmap(fd, 50, access=mmap.ACCESS_WRITE) # 1024字节的文件。m.seek(2) buf1 = bytes(b'Zhang')m[2:len(buf1)+2] = buf1 buf2 = b'Phil' m.seek(20) # 定位写入的位置。m.write(buf2) # 写入字节数据。m.close() fd = os.open(filename, os.O_RDWR)m = mmap.mmap(fd, 50, access=mmap.ACCESS_READ)m.seek(20)buf3 = m.read(len(buf2))m.close()print(list(buf3))操作后的test.txt文件内容:
Zhang Phil
补充知识:Python对二进制文件做内存映射,高效优雅地对内容随机访问
读写二进制文件还在使用open函数?
各种组合seek()、read()和write()累不累?
使用 mmap 模块实现对文件的内存映射,让我们读写二进制文件像操作数组一样高效优雅。
先给出一个实用函数,用来演示如何打开一个文件并对它进行内存映射操作。
def memory_map(filename, access=mmap.ACCESS_WRITE): size = os.path.getsize(filename) fd = os.open(filename, os.O_RDWR) return mmap.mmap(fd, size, access=access)要使用这个函数,需要先准备一个已经创建好的文件并为之填充一些数据。
>>> size = 1000000>>> with open('data','wb') as f: f.seek(size-1) f.write(b'\x00')接着我们可以使用memory_map()函数对文件内容做内存映射,它返回的mmap对象可以让我们像操作数组一样读写二进制文件!
>>> m = memory_map('data')>>> len(m)1000000>>> m[:10]b'\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00'>>> m[0]0>>> m[0:11]=b'Hello World'#改变一个切片>>> m.close()>>> with open('data','rb') as f:#验证改变已经生效 print(f.read(11)) b'Hello World'由于mmap()返回的mmap对象也可以当作上下文管理器使用,在这种情况下,底层的文件会自动关闭。
>>> with memory_map('data') as m: print(len(m)) print(m[0:11]) 1000000b'Hello World'默认情况下memory_map()函数打开的文件既可以读,也可以写。对数据的任何修改都会拷贝回原始的文件中。
如果需要只读访问,可以为access参数提供mmap.ACCESS_READ值。
m = memory_map(filename, mmap.ACCESS_READ)
如果只想要在本地修改数据,并不想将这些修改写回到原始文件中,可以使用mmap.ACCESS_COPY参数。
m = memory_map(filename, mmap.ACCESS_COPY)
总结:
通过mmap将文件映射到内存之后,我们可以高效并优雅地对文件的内容进行随机访问。
与其打开文件后通过组合各种seek()、read()和write()调用来访问,不如简单将文件映射到内存,然后通过切片操作来访问数据。
需要强调的是,对某个文件进行内存映射并不会导致将整个文件读到内存中。也就是说,文件并不会拷贝到某种内存缓冲区或数组上。相反,操作系统只是为文件内容保留一段虚拟内存而已。
当访问文件的不同区域时,文件的这些区域将被读取并按照需要映射到内存区域中。但是,文件中从未访问过的部分会简单地留在磁盘上。这一切都是以透明的方式在幕后完成的。
如果有多个Python解释器对同一个文件做了内存映射,得到的mmap对象可以用来在解释器之间交换数据。也就是说,所有的解释器可以同时读/写数据,在一个解释器中对数据做出的修改会自动反映到其他解释器上。
虽然还需要一些额外的步骤来处理同步问题,但是有时候可以使用这种方法作为通过管道或者socket传输数据的替代方案。
以上这篇Python内存映射文件读写方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
本文实例讲述了Python内存读写操作。分享给大家供大家参考,具体如下:Python中的读写不一定只是文件,还有可能是内存,所以下面实在内存中的读写操作示例1:
C语言实现大数据文件的内存映射机制摘要本文主要讲述大量数据的文件的内存映射机制的实现。1.内存映射内存映射文件,是由一个文件到一块内存的映射。Win32提供了允
内存映射文件原理首先说说这篇文章要解决什么问题?1.虚拟内存与内存映射文件的区别与联系.2.内存映射文件的原理.3.内存映射文件的效率.4.传统IO和内
Python文件读写的几种模式:r,rb,w,wb那么在读写文件时,有无b标识的的主要区别在哪里呢?文件使用方式标识'r':默认值,表示从文件读取数据'w':表
Python具有基本的文本文件读写功能。Python的标准库提供有更丰富的读写功能。文本文件的读写主要通过open()所构建的文件对象来实现。创建文件对象我们打