信号检测与估计

《信号检测与估计》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第5章信号的统计估计理论信号的统计估计理论第5章15.3最大似然估计25.4估计量的性质3总结5.3.1最大似然估计原理5.3.2最大似然估计量的构造5.3.3最大似然估计的不变性5.3最大似然估计1最大似然估计的基本原理是对于某个给定的θ，考虑x落在一个小区域内的概率。取最大的那个对应的θ作为估计量。定义最大似然估计(maximumlikelihoodestimation)是基于最大似然原理的估计，是人们获得实用估计的最通用的方法。它定义为使似然函数最大的θ值作为估计量。5.3.1最大似然估计原理下图中，似然函数是在给定后得到的，每一个θ的值，都表明了该

2、θ值下，x落在观测空间R中以为中心的dx范围内的概率。如果已观测到的数据，那么可以推断出是不是合理的。很明显，如果我们选择作为估计量，即选择在被估计量θ允许的范围内，使最大的θ值作为估计量。最大似然估计方程：5.3.2最大似然估计量的构造最大似然估计也适用于随机参量θ，但是是对于不知道先验概率密度函数情况的估计！这时可以设想θ是均匀分布的，其意味着对于θ几乎一无所知，认为它取各种值的可能性都差不多，当然这是种最不利的分布。或(5.3.1)(5.3.2)5.3.3最大似然估计的不变性在很多情况下，我们希望估计θ的一个函数α=g(θ),似然函数中含有参量θ。我

3、们先看一个例子，P274例5.3.3解：根据观测方程和假设条件，似然函数为：该似然函数中含有参量θ。因为在α=exp(θ)函数中，α是θ的一对一变换，我们可以将其等效变换为显然p(x/α)相当于是下列观测矢量x的似然函数：利用最大似然方程，有解得我们知道本例的参量θ的最大似然估计量为于是有由例题我们可以得到，在α是θ的一对一变换的条件下，用原始参量的最大似然估计量替换变换关系中的参量θ，可以求出变换后的参量α的最大似然估计量。这就是最大似然估计的不变性！最大似然估计的不变性归纳如下：①如果参量θ的最大似然估计量为，那么函数α=g(θ)的最大似然估计量，在α

4、是θ的一对一变换时有。②如果α不是θ的一对一变换，则首先应找出在α取值范围内所有变换参量的似然函数中具有最大值的一个，然后，通过p(x/α)求出α的最大似然估计量，就是函数α=g(θ)的最大似然估计量。25.4估计量的性质5.4.1估计量的主要性质5.4.2克拉美-罗不等式和克拉美-罗界5.4.3无偏有效估计量的均方误差与克拉美-罗不等式取等号成立条件式中的k(θ)或k的关系5.4.4非随机参量函数估计的克拉美-罗界●单参量贝叶斯估计●最大似然估计如何评价估计性能?由于估计量是随机变量,采用应用统计的方法分析和评价各种估计量的质量。5.4.1估计量的主要性

5、质估计量的无偏性对信号的参量进行多次观测得到估计量对于非随机参量主要性质：无偏性、有效性、一致性、充分性。称为有偏估计量为常量是函数其中，为估计量的偏。称为无偏估计量(5.4.1)对于随机参量估计量的无偏性若则称是无偏估计量,or其偏等于两均值之差。满足无偏性，是否就具有良好估计性能?即使是一个无偏估计量,如果它的方差很大，那么估计的误差可能很大,则无偏估计仍然不能保证实际构造的估计量有良好的性能.(5.4.2)用估计量的方差或均方误差来判断有效性。若估计的均方误差则称估计量比有效.最小均方误差无偏估计量若的无偏估计量的均方误差小于其他任意无偏估计量的均方

6、误差,则称其为该估计量为最小均方误差无偏估计量.如何判断和确定是否达到最小?克拉美-罗(Cramer-Rao)界——为比较无偏估计量的性能提供了一个标准被估计量的估计量是根据有限N次观测量构造的，记为。次数N的增加估计量的质量提高估计的均方误差逐步减小对于任意小的正数，若：则称估计量是一致估计量。若：则称估计量是均方一致（均方收敛）的估计量。此式表明，所构造的估计量运用了观测量X中全部关于θ的信息，即再也没有别的估计量能够提供比θ的充分估计量更多的关于θ的信息了。(5.4.8)则称估计量为充分估计量。克拉美-罗不等式和克拉美-罗界对于θ的任意无偏估计量，如

7、果其估计的均方误差达到克拉美-罗界，则称该无偏估计量为有效估计量。如何构造克拉美-罗不等式以及取等号的条件？非随机参量情况讨论：随机参量情况或当且仅当对所有的x和θ都满足:时，不等号成立。（5.4.9）（5.4.10）（5.4.11）（5.4.11）（5.4.16）（5.4.17）（5.4.18）（5.4.19）由于联合概率密度函数可表示为：所以这样，随机参量情况下克拉美罗不等式和取等号条件式可表示为以下更方便应用的形式:和（5.4.26）（5.4.27）（5.4.28）（5.4.29）（5.4.30）3总结5.3节和5.4节最大似然估计：原理、方程、不变

8、性。估计量的性质：无偏性、有效性、一致性、充分性，克拉美-罗不等式