时间:2021-05-22
如下所示:
def read_data(file_name): ''' file_name:文件地址 ''' inputfile = open(file_name, 'rb') #可打开含有中文的地址 data = pd.read_csv(inputfile, iterator=True) loop = True chunkSize = 1000 #一千行一块 chunks = [] while loop: try: chunk = dcs.get_chunk(chunkSize) chunks.append(chunk) except StopIteration: loop = False print("Iteration is stopped.") data = pd.concat(chunks, ignore_index=True) #print(train.head()) return data以上这篇python分块读取大数据,避免内存不足的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。
使用PHP读取日志文件,当文件比较大的时候,会报内存不足,因此应该部分读取,读取指定的行数的数据PHP代码:readLogs(self::LOG_PATH,se
当数据文件过大时,由于计算机内存有限,需要对大文件进行分块读取:importpandasaspdf=open('E:/学习相关/Python/数据样例/用户侧数
本文实例分析了php查询mysql大量数据造成内存不足的解决方法。分享给大家供大家参考。具体分析如下:一、问题使用php查询mysql大数据量的时候,程序尚未执
网易MuMu模拟器内存不足怎么办?有很多用过户表示,在使用网易模拟器时,一启动就显示内存不足的情况,下面小编带来了网易mumu模拟器提示内存不足的解决方法,希望
虚拟内存不足,有时是指C盘空间不足,有时中了木马也会提示内存不足。微软认证系统工程师刘岸松的方法设置方法如下: 硬盘上的一块区域当作物理内存(RAM)来使用,