第二章主要公式资料地址:/jl1、回归模型概述(1)相关分析与回归分析经济变量之间的关系:函数关系、相关关系相关关系:单相关和复相关,完全相关、不完全相关和不相关,正相关与负相关,线性相关和负相关,线性相关和非线性相关。
相关分析:——总体相关系数XY ρ=——样本相关系数()()nii XY XX Y Y r --=∑——多个变量之间的相关程度可用复相关系数和偏相关系数度量 回归分析:相关关系 + 因果关系(2)随机误差项:含有随机误差项是计量经济学模型与数理经济学模型的一大区别。
(3)总体回归模型总体回归曲线:给定解释变量条件下被解释变量的期望轨迹。
总体回归函数:(|)()i i E Y X f X =总体回归模型:(|)()i i i i i Y E Y X f X μμ=+=+ 线性总体回归模型:011,2,...,i i iY X i n ββμ=++=(4)样本回归模型样本回归曲线:根据样本回归函数得到的被解释变量的轨迹。
(线性)样本回归函数: 01ˆˆˆi i Y X ββ=+ (线性)样本回归模型:01ˆˆˆi i iY X e ββ=++ 2、一元线性回归模型的参数估计(1)基本假设① 解释变量:是确定性变量,不是随机变量var()0i X =② 随机误差项:零均值、同方差,在不同样本点之间独立,不存在序列相关等()01,2,...,i E i n μ==2var()1,2,...,i i n μσ==cov(,)0;,1,2,...,i j i j i j n μμ=≠=③ 随机误差项与解释变量:不相关cov(,)01,2,...,i i X i n μ==④ (针对最大似然法和假设检验)随机误差项:2~(0,)1,2,...,i N i n μσ=⑤ 回归模型正确设定。
【前四条为线性回归模型的古典假设,即高斯假设。
满足古典假设的线性回归模型称为古典线性回归模型。
】 (2)参数的普通最小二乘估计(OLS ) 目标:21minnii e=∑对于一元线性回归模型:011,2,...,i i i Y X i n ββμ=++=正规方程组:011011ˆˆ2[()]0ˆˆ2[()]0ni i i ni i i i Y X X Y X ββββ==⎧--+=⎪⎪⎨⎪--+=⎪⎩∑∑ 解得:011112211ˆˆ()()ˆ()n n i i i i i i n ni i i i Y X X X Y Y x y X X x βββ====⎧=-⎪⎪⎪--⎨==⎪⎪-⎪⎩∑∑∑∑(3)最大似然估计(ML )对于一元线性回归模型:011,2,...,i i i Y X i n ββμ=++=重要的基本假设:2~(0,)1,2,...,cov(,)0;,1,2,...,var()01,2,...,i i j i N i n i j i j n X i nμσμμ⎧=⎪=≠=⎨⎪==⎩ 得到:201~(,)1,2,...,i i Y N X i n ββσ+=【且cov(,)0;,1,2,...,i j Y Y i j i j n =≠=,这个对最大似然法的估计很重要】则目标:12,,...,n Y Y Y 的联合概率密度最大,即()2012112121ˆˆ()2max (,,...,)()()()1ni i i n n Y X nf Y Y Y f Y f Y f Y eββσ=---=⋅⋅⋅∑=最终结果与OLS 得到的结果相同。
(4)OLS 估计量的性质① 线性性11ˆni i i v Y β==∑,其中21ii nii x v x==∑01ˆni ii wY β==∑,其中1i i w Xv n =- ② 无偏性1111ˆ...n n i i i i i i v Y v ββμ=====+∑∑ → 1111ˆ()()ni i i E v E ββμβ==+=∑ 0011ˆ...nni i i i i i wY w ββμ=====+∑∑ → 0001ˆ()()ni i i E w E ββμβ==+=∑ ③ 有效性2121ˆvar()n ii xσβ==∑,22121ˆvar()nii nii Xnxσβ===∑∑可以证明,OLS 得到的方差最小。
④ 一致性随着样本量的增大,参数的估计量以概率趋向于真值11ˆlim()p ββ=,00ˆlim()p ββ=(5)OLS 回归函数的性质① 样本回归线过样本均值点(,)X Y ,即01ˆˆY X ββ=+ ② 被解释变量估计值的均值等于实际值的均值,即ˆYY = ③ 残差和为零,即10nii e==∑④ 解释变量与残差的乘积之和为零,即10ni ii X e==∑⑤ 解释变量的估计与残差的乘积之和为零,即1ˆ0ni ii Y e==∑(6)随机误差项的估计OLS 估计量(无偏):2211ˆ2n i i e n σ==-∑ML 估计量(有偏):2211ˆn i i e n σ==∑ 3、拟合优度检验(1)离差分解总体平方和(or 总离差平方和)()2211nnii i i TSS y Y Y ====-∑∑回归平方和()21ˆni i ESS Y Y ==-∑残差平方和()21ˆni ii RSS Y Y ==-∑有TSS ESS RSS =+(2)决定系数21ESS RSSR TSS TSS==- 【总离差中,能够解释的部分所占的比重】4、统计推断(1)参数估计的分布(T 检验)对于一元线性回归模型:011,2,...,i i iY X i n ββμ=++=由正态分布的基本假设和估计量的性质(线性性、无偏性、有效性),参数的估计量有如下性质:2210021ˆ~(,)nii nii XN nxσββ==∑∑,21121ˆ~(,)nii N xσββ=∑000ˆ~(0,1)ˆ()N SE βββ-,其中0ˆ()SE β==111ˆ~(0,1)ˆ()N SE βββ-,其中1ˆ()SE β==由于2σ未知,用2ˆσ代替,则0ˆ()SE β不再为常数。
此时, 统计量1=000ˆˆ()SE βββ-,其中,0ˆβ服从正态分布,(1)ˆ()SE β===−−−说明说明(1):i e 服从正态分布,则2i e 服从2χ分布,残差平方和的自由度为n-2,故221~(2)nii en χ=-∑用估计量2ˆσ代替以后的统计量1=000ˆˆ()t SE βββ-−−−−→服从分布正态分布分布故:000^ˆ~(2)ˆ()t t n SE βββ-=-同理:111^1ˆ~(2)ˆ()t t n SE βββ-=-(2)区间估计002ˆˆ()t SE αββ∧⎡⎤±⎢⎥⎣⎦,112ˆˆ()t SE αββ∧⎡⎤±⎢⎥⎣⎦ (3)参数的假设检验原假设*011:H ββ=,备择假设*111:H ββ≠ → 双边检验 原假设*011:H ββ≥,备择假设*111:H ββ< → 单边检验 统计量:*111^1ˆ~(2)ˆ()t t n SE βββ-=-临界值(临界水平为α):2t α → 双边t α → 单边判断规则:如果12t t α>,则拒绝原假设; → 双边如果1t t α>,则拒绝原假设; → 单边【在实际应用中,一般取*10β=;当检验结果为拒绝原假设时,表明该参数显著地不为零,即认为该参数对应的变量具有显著的影响能力。
】(4)结果表达【必须采用规范的表达方式】2ˆ414.0450.515(6.462)(30.773)0.992i iY X R =+=或2414.0450.515(6.462)(30.773)0.992i i iY X R μ=++=5、预测(1)总体均值的点预测(也是个别值的点预测)0010ˆˆˆ(|)i E Y X Y X ββ==+ (2)总体均值(|)i E Y X 的预测置信区间002ˆˆ()Y t SE Y α∧⎡⎤±⎢⎥⎣⎦其中,0ˆ()SE Y ∧=(3)个别值0Y 的预测置信区间002ˆ()Y t SE e α∧⎡⎤±⎢⎥⎣⎦其中,0e = 【由于误差项的存在,个别值的波动更加明显,因此其方差更大。
在实际做题中,如果未特别说明,都是计算均值的置信区间。
】。