「香农第一定理」,又称为「无噪声编码定理」,定义了信源符号的最小平均码字长度
信源熵是进行无失真编码的理论极限,低于此极限的无失真编码方法是不存在的。编码的平均长度 与信源熵 存在关系
即:平均码长大于等于信源的熵。
编码效率