条件熵

在信息论中，条件熵描述了在已知第二个随机变量 {\displaystyle X} X 的值的前提下，随机变量 {\displaystyle Y} Y 的信息熵还有多少。同其它的信息熵一样，条件熵也用Sh、nat、Hart等信息单位表示。基于 {\displaystyle X} X 条件的 {\displaystyle Y} Y 的信息熵，用 {\displaystyle \mathrm {H} (Y|X)} \mathrm{H} (Y|X) 表示。