温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

Python怎么统计单词个数

发布时间:2021-11-23 16:22:23 来源:亿速云 阅读:505 作者:iii 栏目:大数据

这篇文章主要讲解了“Python怎么统计单词个数”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Python怎么统计单词个数”吧!

1、Python项目PythonSparkWordCount

Python怎么统计单词个数

2、input目录里的文本文件test.txt

3、创建word_count.py文件实现词频统计

import os
import shutil

from pyspark import SparkContext

inputpath = 'input'
outputpath = 'result'

sc = SparkContext('local', 'wordcount')

# 读取文件
input = sc.textFile(inputpath)
# 切分单词
words = input.flatMap(lambda line: line.split(' '))
# 转换成键值对并计数
counts = words.map(lambda word: (word, 1)).reduceByKey(lambda x, y: x + y)

# 输出结果
counts.foreach(print)

# 删除输出目录
if os.path.exists(outputpath):
    shutil.rmtree(outputpath, True)

# 将统计结果写入结果文件
counts.saveAsTextFile(outputpath)

运行程序,结果如下:

Python怎么统计单词个数

统计结果还保存在result目录下的part-00000文件里:

感谢各位的阅读,以上就是“Python怎么统计单词个数”的内容了,经过本文的学习后,相信大家对Python怎么统计单词个数这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是亿速云,小编将为大家推送更多相关知识点的文章,欢迎关注!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI