温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

python如何实现信息熵的计算代码

发布时间:2021-04-28 10:27:03 阅读:1370 作者:小新 栏目:编程语言
Python开发者专用服务器限时活动,0元免费领,库存有限,领完即止! 点击查看>>

小编给大家分享一下python如何实现信息熵的计算代码,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!

Python的优点有哪些

1、简单易用,与C/C++、Java、C# 等传统语言相比,Python对代码格式的要求没有那么严格;2、Python属于开源的,所有人都可以看到源代码,并且可以被移植在许多平台上使用;3、Python面向对象,能够支持面向过程编程,也支持面向对象编程;4、Python是一种解释性语言,Python写的程序不需要编译成二进制代码,可以直接从源代码运行程序;5、Python功能强大,拥有的模块众多,基本能够实现所有的常见功能。

1、什么是信息熵?

1948年香农提出了信息熵(Entropy)的概念。

信息理论:

1、从信息的完整性上进行的描述:

当系统的有序状态一致时,数据越集中的地方熵值越小,数据越分散的地方熵值越大。

2、从信息的有序性上进行的描述:

当数据量一致时,系统越有序,熵值越低;系统越混乱或者分散,熵值越高。

“信息熵” (information entropy)是度量样本集合纯度最常用的一种指标。

二、python实现信息熵的计算代码

1、导入库

import numpy as np
import pandas as pd

2、 准备数据

data = pd.DataFrame(
    {'学历': ['专科''专科''专科''专科''专科''本科''本科''本科''本科''本科',
     '研究生''研究生''研究生''研究生''研究生'],
     '婚否': ['否''否''是''是''否''否''否''是''否''否''否''否''是''是''否'],
     '是否有车': ['否''否''否''是''否''否''否''是''是''是''是''是''否''否', 
     '否'],
     '收入水平': ['中''高''高''中''中''中''高''高''很高''很高''很高''高''高', 
     '很高''中'],
     '类别': ['否''否''是''是''否''否''否''是''是''是''是''是''是''是''否']})

3、定义信息熵函数

# 定义计算信息熵的函数:计算Infor(D)
def infor(data):
    a = pd.value_counts(data) / len(data)
    return sum(np.log2(a) * a * (-1))

4、数据测试

# print(infor(data["学历"]))   #测试结果为: 1.584962500721156

以上是“python如何实现信息熵的计算代码”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注亿速云行业资讯频道!

亿速云「云服务器」,即开即用、新一代英特尔至强铂金CPU、三副本存储NVMe SSD云盘,价格低至29元/月。点击查看>>

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

原文链接:https://www.py.cn/jishu/jichu/26824.html

AI

开发者交流群×