第壹章

来源:未知作者:编辑:admin2018-10-29 04:01

  第壹章无损信源编码第壹章无损信源编码块码前言列码畅通用码。信息熵和信源编码定理赫丈夫曼编码游程编码冗余位编码信息熵和信源编码定理()信息熵和信源编码定理()信息熵计算公式x,x…xr…xA={a,a…am}H=logmbitH=p(x)logp(x)H=p(x)P(x|x)logP(x|x)……………………Hk=p(x,xxk)P(xk|x,xxk)logP(xk|x,xxk)信息熵和信源编码定理()信息熵和信源编码定理()HH…Hk…H(x,xxk)=p(x,xxk)logp(x,xxk)极限熵H=LimHk=LimH(x,xxk)kk拥有限等长码的编码定理码字异样长有益于传输典型前言列ar出产即兴Spr次信息熵和信源编码定理()信息熵和信源编码定理()当S趋于拥有限匪典型前言列出产即兴的概比值趋于洞。却条编此雕刻些前言列疏违反接近洞。典型前言列个数是N=S!(Spr)!用斯斗林公式S!=(Se)S(πS)每个信源标记所需码长是(S)liml=lim(logN)S=prlogpr熵和信信息源编码定理()熵和信信息源编码定理()S拥有限时拥有违反真却忍耐时S已很父亲。很难完成。变长码的编码定理却佩退的必要环境是异前置性。码树构造(根叶节枝)R信息熵和信源编码定理()信息熵和信源编码定理()壹个长为li的码字占Lli个长为L的码字。Kraft不一式:LliLli却佩退的充要环境。却铰行到k进码。若li=logpilogpil>k,m=时能用并元到来扩展mS个标记并成壹个使m=S。例:孤立二元前言列p=,H=,S=赫丈夫曼编码()赫丈夫曼编码()标记概比值码字码长标记概比值码字码长l==,==增父亲S尚却进壹步提高效力。赫丈夫曼编码()赫丈夫曼编码()并元还却片断松摒除相干性。若P(|)=,P(|)=,使用波触动性却得:p=,p=赫丈夫曼编码()赫丈夫曼编码()l==