(资料图)

1、信息熵（information entropy）是信息论的基本概念。

2、描述信息源各可能事件发生的不确定性。

3、20世纪40年代，香农（C.E.Shannon）借鉴了热力学的概念，把信息中排除了冗余后的平均信息量称为“信息熵”，并给出了计算信息熵的数学表达式。

4、^{信息熵的提出解决了对信息的量化度量问题。}

5、信息是个很抽象的概念。

6、人们常常说信息很多，或者信息较少，但却很难说清楚信息到底有多少。

7、比如一本五十万字的中文书到底有多少信息量。

8、信息论之父克劳德·艾尔伍德·香农第一次用数学语言阐明了概率与信息冗余度的关系。

本文到此结束，希望对大家有所帮助。

关键词： 人们常常 是什么意思 基本概念