大师作文网信息熵是指什么,
来源：学生作业帮 编辑：大师作文网作业帮 分类：综合作业 时间：2024/11/19 22:21:40
信息熵是指什么,
信息是个很抽象的概念.人们常常说信息很多,或者信息较少,但却很难说清楚信息到底有多少.比如一本五十万字的中文书到底有多少信息量.直到1948年,香农提出了“信息熵”的概念,才解决了对信息的量化度量问题.信息论之父克劳德·艾尔伍德·香农第一次用数学语言阐明了概率与信息冗余度的关系.
信息理论的鼻祖之一Claude E.Shannon把信息（熵）定义为离散随机事件的出现概率.所谓信息熵,是一个数学上颇为抽象的概念,在这里不妨把信息熵理解成某种特定信息的出现概率.而信息熵和热力学熵是紧密相关的.根据Charles H.Bennett对Maxwell's Demon的重新解释,对信息的销毁是一个不可逆过程,所以销毁信息是符合热力学第二定律的.而产生信息,则是为系统引入负（热力学）熵的过程.所以信息熵的符号与热力学熵应该是相反的.一般而言,当一种信息出现概率更高的时候,表明它被传播得更广泛,或者说,被引用的程度更高.我们可以认为,从信息传播的角度来看,信息熵可以表示信息的价值.这样子我们就有一个衡量信息价值高低的标准,可以做出关于知识流通问题的更多推论.
熵首先是物理学里的名词.在传播中是指信息的不确定性,一则高信息度的信息熵是很低的,低信息度的熵则高.具体说来,凡是导致随机事件集合的肯定性,组织性,法则性或有序性等增加或减少的活动过程,都可以用信息熵的改变量这个统一的标尺来度量.
信息理论的鼻祖之一Claude E.Shannon把信息（熵）定义为离散随机事件的出现概率.所谓信息熵,是一个数学上颇为抽象的概念,在这里不妨把信息熵理解成某种特定信息的出现概率.而信息熵和热力学熵是紧密相关的.根据Charles H.Bennett对Maxwell's Demon的重新解释,对信息的销毁是一个不可逆过程,所以销毁信息是符合热力学第二定律的.而产生信息,则是为系统引入负（热力学）熵的过程.所以信息熵的符号与热力学熵应该是相反的.一般而言,当一种信息出现概率更高的时候,表明它被传播得更广泛,或者说,被引用的程度更高.我们可以认为,从信息传播的角度来看,信息熵可以表示信息的价值.这样子我们就有一个衡量信息价值高低的标准,可以做出关于知识流通问题的更多推论.
熵首先是物理学里的名词.在传播中是指信息的不确定性,一则高信息度的信息熵是很低的,低信息度的熵则高.具体说来,凡是导致随机事件集合的肯定性,组织性,法则性或有序性等增加或减少的活动过程,都可以用信息熵的改变量这个统一的标尺来度量.