通信系统模型

通信系统模型是信息论基础所涉及的重要概念，因此我把它放在开头进行讲解。它描述了信息从发送端到接收端传输的过程。通信系统模型通常由以下几个部分组成：

过程

• 信源发出消息
• 消息经过编码器变成信号
• 信号在信道中传输，会受到来自噪声源的干扰，变成信号+干扰
• 信号+干扰经过译码器还原成消息
• 还原后的消息传到信宿

概念

• 信源：产生消息的来源
• 信宿：消息传送的终点
• 信道：信号传输的媒介
• 信号：消息的载体
• 消息：信息的载体（具有不确定性）
• 信息：消息的内涵，即消息中包含的有意义内容
• 通信目的：消除或部分消除不确定性，从而获得信息
• 信源编码：压缩信源冗余度，提高信息传输效率，提高通信系统有效性
• 信道编码：增加冗余，提高纠错检错能力，提高通信系统可靠性

信息、消息和信号的关系

信号承载着消息，消息里包含了信息

编码器和译码器的分类

编码器分为两种：

• 信源编码
• 信道编码

相对应地，译码器也分为两种：

• 信源译码
• 信道译码