北邮通原第1讲

《北邮通原第1讲》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、通信原理II联系方式明光楼715,2245-5,yxpeng@bupt.edu.cn课程公共邮箱：tongyuanII.bupt@gmail.compassword:xty@bupt课程总体介绍7章内容中2个重中之重：信道编码，扩频通信2个重点：信源编码，信道3个自学：OFDM,通信系统优化，通信网考核方式期中考试+期末考试+平时(大作业,作业)加分项：建设性意见、建议第一讲信源熵与互信息信息与通信工程学院无线信号处理与网络实验室彭岳星yxpeng@bupt.edu.cn62282245ext.5前言本章将介绍信息科学的基础理论和基

2、本方法，基于一个通讯系统的抽象数学模型进行展开。整章可分为基础理论和编码理论两部分组成。本部分以概率论为基础，数学推导较多，学习时主要把注意力集中到概念的理解上，不过分追求数学细节的推导。学习时一定要从始至终注意基本概念的理解，不断加深概念的把握。学习时注意理解各个概念的“用处”，结合其他课程理解它的意义，而不要把它当作数学课来学习，提倡独立思考，注重思考在学习中的重要性。参考书目ThomasM.CoverandJoyA.Thomas,“ElementsofInformationtheory,”JohnWiley&Sons,Inc.中译本,“信息论基础

3、”阮吉寿张华译,机械工业出版社,2005.信源编码/译码通信系统的目标：在信宿端再现信源的输出（V=U）本章研究信源编码及译码假设信道理想：Y=X本章目标：如何将信源输出转换为二进制比特序列X如何以尽量少的比特数做到这一点5本章内容信源的分类离散信源、波形信源信息的度量熵、联合熵、条件熵、互信息信源编码定理信源编码能做到多好？离散信源的编码哈夫曼编码波形信源的编码抽样、量化、编码67.1引言信息论研究内容信息论基础：香农信息论/狭义信息论，主要研究信息的测度、信道容量、信息率失真函数。代表人物Shannon。一般信息

4、论：主要研究信息的传输和处理问题，除香农基本理论外还包括噪声理论、信号滤波和预测、统计检测与估计理论、调制理论。代表人物Wiener。广义信息论：凡是能够用广义通信系统模型描述的过程或系统，都能用信息基本理论来研究.e.g.网络信息论，多用户信息论A.Goldsmith7.2信源的数学模型及分类信源消息对收信者而言在收到之前是不确定的，是随机的，所以可以用随机变量、随机矢量或随机过程来描述信源输出的消息，或者说用一个样本空间及其概率测度来描述信源。eg：足彩投注——中法男足比赛，赔率玩法1：输赢结果玩法2：进球数Y赢，输，平++ZZ中国队进球数

5、，法国队进球数Z信源的分类离散信源信源输出是一个序列{xl}，其中的xl是离散随机符号，一般进制数为有限值M经压缩编码后成为二进制比特序列连续信源（波形信源）信源输出是一个随机过程X(t)经采样后成为时间离散取值连续的信源经量化后成为M进制离散信源经编码后成为二进制比特序列9信源的数学表述离散无记忆信源所有Xl独立同分布，其统计特性由概率分布P(X=x)表述。{x…x}是X（任意一个X）的样i1Ml本空间相关序列信源序列{X1…XL}的统计特性由联合概率分布P(X=x)表述。X、x是向量。X的样本空间有iiML个元素。连续信

6、源按随机过程的方式来表述10单消息(符号)信源对信源的描述可以转化为用概率空间描述信源输出的消息。对单符号离散信源，用离散型随机变量X的取值集合{x,x,…x，…x}及其取值概率为p(x)共同描述：12iniXxx12,,,xnX,PX或PXPx12,,Px,Pxn对单符号连续信源，用连续性随机变量X与概率密度p(x)来描述：Xxa,bpxpx消息(符号)序列信源消息(符号)序列信源对信源的描述采用随机过程来描述信源输出的消息；根据取值类型可分为离散

7、型、连续型；通过采样，模拟信号可离散化；离散符号序列信源的统计特性描述离散消息序列信源由L个离散符号构成，输出的消息序列是L维随机变量X=X1XXlL，对应的L维联合概率为PPxx1xlLxL统计描述可用消息序列的取值集合X及其对应的概率Px共同描述，即：XLaa,,,aLL12nXP,x或PXPa12,,Pa,PanL单消息离散信源的信息度量自信息量出现某个消息时的信息量IPx()iilog()2px条件自信息量知道消息yj的情况下，消息xi新

8、带来的信息量IPx(/)ylogpx(/)yij2ij