温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

用python解决按行读取内存不够的问题

发布时间:2020-10-24 13:55:18 来源:亿速云 阅读:301 作者:小新 栏目:编程语言

这篇文章给大家分享的是有关用python解决按行读取内存不够的问题的内容。小编觉得挺实用的,因此分享给大家做个参考。一起跟随小编过来看看吧。

第一种:readline()

file = open("sample.txt") while 1:    line = file.readline()    if not line:        break    pass # do somethingfile.close()

一行行得从文件读数据,这样是比较慢的,但是节约内存;

测试读10M的sample.txt文件,每秒大约读32000行;

第二种:fileinput

import fileinput for line in fileinput.input("sample.txt"):    pass

写法稍微简单,不过测试以后发现每秒只能读13000行数据,效率上比上一种方法慢了两倍多;

第三种:readlines()

file = open("sample.txt") while 1:    lines = file.readlines(100000)    if not lines:        break    for line in lines:        pass # do something file.close()

用同样的数据测试,它每秒可以读96900行数据。效率是第一种方法的3倍,第二种方法的7倍。

第四种:文件迭代器

每次只读取和显示一行,读取大文件时如下:

file = open("sample.txt") for line in file:    pass # do something file.close()

感谢各位的阅读!关于用python解决按行读取内存不够的问题就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到吧!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI