一元回归分析(第1讲)

《一元回归分析(第1讲)》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、一元回归分析上海**通信技术有限公司MrJim(seniordba@sina.com)2012-12培训大纲一、基础知识二、一元线性回归模型三、拟合优度检验四、F检验/t检验/相关系数检验五、预测和控制六、SAS示例回归分析的相关背景1、回归分析的由来：英国统计学家高尔顿F.GALTON(1822-1911)和其学生皮尔逊K.Pearson(1856-1936)观察了1078对夫妇，以每对夫妇的平均身高为X，而取他们成年的儿子的身高为Y，得到如下经验方程：Y=33.73+0.516X2、自1969年设立诺贝尔经济学奖以来，已有42名学者获奖，而其中有2/3的人是统计学家、计量经

2、济学家、数学家。由获奖者克莱因发起的国际连接系统使用了7447个方程和3368个外生变量。英国剑桥大学的多部门动态模型有2759个方程和7484个变量。回归分析的相关背景3、回归分析的几个发展方向：1）、统计学的重要方法与回归的关系密切时间序列分析（BOX-JINKINS）、判别分析、主成分分析、因子分析、典型相关分析2）、回归分析自身的完善和发展自变量选择、稳健回归、回归诊断、投影寻踪、非参数回归3）、新的研究方法为回归分析提供了方法论非参数统计、自助法、刀切法、经验贝叶斯估计4）、各种有偏估计出现：岭估计、压缩估计、主成分估计、STEN估计、特征根估计、偏最小二乘估计。术语

3、OLSE:ordinaryleastsquareestimation普通最小二乘估计MLE:maximumlikelihoodestimation极大似然估计培训大纲一、基础知识二、一元线性回归模型三、拟合优度检验四、F检验/t检验/相关系数检验五、预测和控制六、SAS示例估计估计的基本含义：使用已经收集的数据集，计算变量如何相关，接着使用相关系数以及X的信息来估计Y。回归分析：通过数学模型，研究一现象（变量）对其他现象（变量）依赖关系的具体形态的方法论▲注意：回归分析研究一个变量对另一个（些）变量的统计依赖关系，但它们并不意味着一定有因果关系。回归分析回归分析回归分析的变量因

4、变量自变量因变量必须是间距测度等级以上的变量（连续变量）自变量可以是间距测度等级以上的变量（连续变量）、也可以是名义测度等级的变量（分类变量）。▲注意：回归分析对变量的处理方法存在不对称性，即区分应变量（被解释变量）和自变量（解释变量）。一元线性回归模型回归模型建立的步骤一般先做散点图，以便进行简单地观测若散点图的趋势大概呈线性关系，可以建立线性方程，若不呈线性分布，可建立其它方程模型（曲线估计）！只有对有因果关系的变量，才更多地做回归分析一元线性回归分析模型1、一元线性回归模型的数学形式：1）、理论模型：2）、样本回归模型对于n组观测值有：3）、模型的矩阵表达：一元线性回归模

5、型一元线性回归模型只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示式中：a和b为待定参数；为各组观测数据的下标；为随机变量。一元线性回归模型参数的估计最小二乘法的基本思想：让所寻找的样本回归函数（线）上的点尽可能地接近实际观测点，即样本回归线上的点与实际观测点的离差平方和最小。回归分析的参数估计（OLSE）OrdinaryLeastSquareEstimation：对于已知n组观测值有：回归分析的参数估计（OLSE）回归分析的参数估计（OLSE）由此得回归方程：关于ß系数的几种表达方式OLSE的性质1、线性：2、无偏性3、参数的方差：4、协方差上面的公式表明，参数

6、的准确性除受总体的差异外，还受X值的范围影响，X取值范围越大，参数就越稳定一元线性回归模型一元线性回归模型的检验线性回归模型的检验分二大类：统计检验计量经济检验从统计学的角度检验所估计的样本回归函数的有效性从基本假设是否成立这一角度检验最小二乘估计法的适用性及其改进拟合优度检验显著性检验检验对各回归系数的检验对整个回归方程的检验回归方程的检验在得到回归方程后，必须运用统计检验方法分析该方程是否真正描述了Y与X之间的统计规律之后，才能进行分析预测等各种运用，检验的基本假设前提是：培训大纲一、基础知识二、一元线性回归模型三、拟合优度检验四、F检验/t检验/相关系数检验五、预测和控制

7、六、SAS示例一元线性回归模型1.拟合优度检验是通过对Yt的样本点距其样本均值的离差平方和的分解来进行的。对全部样本点来说，可以证明：总离差平方和SST回归平方和SSR残差平方和SSE来自样本回归线来自残差回归线上的点与样本均值离差的平方和实际观测点与回归线上的点的离差的平方和一元线性回归模型决定系数(coefficientofdetermination)取值范围：[0，1]，越接近1，说明实际观测点离样本线越近，拟合优度越高。r2高并不表示模型选择正确。可决系数定义为：很显然，可决系数越大