温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

python中set、dict和dict.keys的性能对比

发布时间:2021-09-04 16:38:14 来源:亿速云 阅读:134 作者:chen 栏目:大数据

这篇文章主要介绍“python中set、dict和dict.keys的性能对比”,在日常操作中,相信很多人在python中set、dict和dict.keys的性能对比问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”python中set、dict和dict.keys的性能对比”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

 当我们统计文本的词频时,通常需要查询当前词是否已经出现过,如果出现过,那么次数增1。通常我用dict来保存词和词频。我常用的方式是:

if word not in vocab_dict:
    vocab_dict[word] = 0
vocab_dict[word] += 1

用了很久觉得速度还行。 
后来看到有大神是这么用的:

if word not in vocab_dict.keys():
    vocab_dict[word] = 0
vocab_dict[word] += 1

感觉这样似乎合理一些,因为我要做的本来就是常看word是否是vocab_map的key.于是之后都用这种方式。 
某天,处理大量文本,且文本属于开放领域,词汇量也大,采用第二种方式,速度极慢,这时候,以为是查询dict本身比较慢,并没有意识到是vocab_map.keys()的问题。于是,将词同时存入set,查询时查set,速度快了很多。

if word not in vocab_set:
    vocab_dict[word] = 0
vocab_dict[word] += 1

抽取小部分数据,量化对比set、dict、dict.keys()的查询速度,结果如下: 
1.查询vocab_dict,打印语句:

print "time cost is %d ms." % ((end - begin).microseconds/1000)
time cost is 175 ms.

2.查询vocab_dict.keys(),打印语句如下:

print "time cost is %d s." % ((end - begin).seconds)
time cost is 45 s.

3.查询vocab_set,打印语句:

print "time cost is %d ms." % ((end - begin).microseconds/1000)
time cost is 168 ms.

和查询vocab_dict差不多。

那么为什么dict.keys()查询速度比另外两个慢很多呢?这就要对比list、dict、set三种的数据结构了。 
dict.keys()实际上是list(keys),是dict的所有key组成的list。查找一个元素是否在list中是以list的下标为索引遍历list.而查询是否在dict中,是将key以hash值的形式直接找到key对应的索引,根据索引可直接访问value。对量大的dict查询,自然是后者快很多。 
而set和dict的存储原理基本是一样的,唯一不同的是,set没有value,只有key。对查询key是否在dict或sset内,效果基本上是一样的。

由此,可以得出,如果存储的数据会被反复查询,且量大,那么,尽量不要用list,尽量用dict,如果元素不重复,用set更好。查询是否在dict内,也不要在用dict.keys()

到此,关于“python中set、dict和dict.keys的性能对比”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注亿速云网站,小编会继续努力为大家带来更多实用的文章!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI