设万维读者为首页 广告服务 技术服务 联系我们 关于万维
简体 繁体 手机版
分类广告
版主:诤友
万维读者网 > 教育学术 > 跟帖
闪农信息熵,是针对每个字母的信息余度的测量
送交者: 拙文君 2016月11月15日09:10:59 于 [教育学术] 发送悄悄话
回  答: 信息和熵的等价性jingchen 于 2016-11-04 20:30:05

“信息和熵等价”的说法本身就是错误的提法。你去看看闪农信息熵的公式,就知道,闪农把一个字中出现的字母看成是随机的变量,通过26个字母中出现一个字母的概率再通过对数表达出来。它表达的或说测量的是每个字母在字中的信息余度。信息余度越大,证明字母使用的效率越低,从通讯的角度看,该编码系统的可压缩性大。

所以信息熵,和信息本身不是等价关系,而是测度信息编码系统效率的一种方法。


0%(0)
0%(0)
  你说的是申农的意思 - jingchen 11/19/16 (622)
    你就说说信息怎么就和信息熵等“价”了? - 拙文君 11/21/16 (500)
标  题 (必选项):
内  容 (选填项):
实用资讯
回国机票$360起 | 商务舱省$200 | 全球最佳航空公司出炉:海航获五星
海外华人福利!在线看陈建斌《三叉戟》热血归回 豪情筑梦 高清免费看 无地区限制