本文章向大家介绍使用python怎么把超大的txt文件转换为csv文件的基本知识点总结和需要注意事项，具有一定的参考价值，需要的朋友可以参考一下。
Python是一种编程语言，内置了许多有效的工具，Python几乎无所不能，该语言通俗易懂、容易入门、功能强大，在许多领域中都有广泛的应用，例如最热门的大数据分析，人工智能，Web开发等。
import numpy as np
import pandas as pd
data_txt = np.loadtxt('datas_train.txt')
data_txtDF = pd.DataFrame(data_txt)
data_txtDF.to_csv('datas_train.csv',index=False)上述的datas_train.txt只有不到100MB，560W行数据，三分钟之内转换完毕。
然后我换了一个5600W行共1.2G的txt文本，用上述代码转换，电脑直接卡死了。
原因在于上述代码会把全部的txt加载进内存，然后再转换，这就会造成电脑内存耗尽。
然后就想到了切割数据的办法，具体实现如下：
import numpy as np
import pandas as pd
train_data = pd.read_table('big_data.txt',iterator=True,header=None)
while True:
try:
chunk = train_data.get_chunk(5600000)
chunk.columns = ['user_id','spu_id','buy_or_not','date']
chunk.to_csv('big_data111.csv', mode='a',header=False,index = None)
except Exception as e:
break以上就是小编为大家带来的使用python怎么把超大的txt文件转换为csv文件的全部内容了，希望大家多多支持亿速云！
免责声明：本站发布的内容（图片、视频和文字）以原创、转载和分享为主，文章观点不代表本网站立场，如果涉及侵权请联系站长邮箱：is@yisu.com进行举报，并提供相关证据，一经查实，将立刻删除涉嫌侵权内容。
