《中级计量经济学》复习一、上学期的主要内容1、数学知识（Basic Knowledge of Mathematics ）1） 矩阵的基础知识（Basic Knowledge of Matrix Algebra ） 2） 概率论与数理统计（Probability and Statistics ） 2、几个回归模型1） 古典线性回归模型(Simple Classical Linear Regression ) 2） 多元线性回归模型(Linear Multiple Regression)3） 带有线性约束的多元线性回归模型及其假设检验(Linear Multiple Regression and its Inference Prediction)4） 正态线性统计模型的最大似然估计(Normal Linear Statistical Model and MLE) 5） 非线性回归模型初步(Nonlinear Regression Model)二、主要知识点1、概率论与数理统计的对应关系概率模型：二项分布、正态分布、几何分布等。
在很多种情况下，参数就决定了分布。
抽样与统计：通过样本确定参数。
顺序统计量、经验分布函数与子样矩设（X 1，…，X n ）是从母体中抽取的一个子样，记（x 1,x 2…,x n ）是子样的一个观察值，将观察值的各分量按大小递增次序排列，得到*1x ≤*2x ≤…≤*n x 当（X 1，…，X n ）取值为（x 1,…,x n ）时，我们定义)(n k X 取值为*k x 。
称由此得到的)()(1,,n n n X X 为（X 1，…，X n ）的一组顺序统计量。
显然)(1n X ≤)(2n X ≤…≤)(n n X ，i ni n X X ≤≤=1)(1min ，即)(1n X 的观察值是子样观察值中最小的一个，而i ni n n X X ≤≤=1)(max ，)(n n X 的观察值是子样观察值中最大的一个。
记＞*nx ⎪⎪⎩⎪⎪⎨⎧≤=x x n k x x x F k n 当当当,1,,0)(**1*显然0≤)(*x F n ≤1，且作为x 的函数是一非减左连续函数，把)(*x F n 看作为x 的函数，它具备分布函数所要求的性质，故称为经验分布函数（或子样分布函数）。
这样一来，我们就可以进行参数估计。
一个有用的结果是：假设对于同一个参数θ，你有n 个相互独立的无偏估计量1ˆθ……ˆnθ，它们的方差分别为1,,n v v 。
那么总存在一个线性组合11ˆˆˆn nc c θθθ=++是θ的最小方差无偏估计量。
2、几种与正态分布N (0,1)有关的常用分布 1）x 2-分布定义 设X 1，X 2，…，X n 是相互独立，且同服从于N (0,1)分布的随机变量，∑==ni i nX x 122所服从的分布为x 2-分布，2n x 称为自由度为n 的x 2-变量。
定理 设)(~121n x X 和)(~222n x X ，且X 1，X 2相互独立，则)(~21221n n x X X ++。
2）t -分布设)(~)1,0(~2n x Y N X 和，且X 和Y 相互独立，则称随机变量nY X T /=所服从的分布为t -分布。
n 称为它的自由度，且记T ～t (n )。
3）F-分布定义 设X 和Y 是相互独立的x 2-分布随机变量，自由度分别为m 和n ，则称随机变量mnY X n Y m X F ⋅==// 所服从的分布为F -分布，（m ,n ）称为它的自由度，且通常写为F ～F （m ,n ）。
＜*1,,2,1,1-=+≤n k k x x3、线性变换下的均值与方差如果P 是一个m ×n 常数矩阵m ≤n 和X 是n 维随机向量，那么Z=PX 是一个m 维随机向量，可以得到（a ） E(Z)=E(PX) =PE(X)=P μ (b) cov(Z)=cov(PX)=P 'P x ∑证明：(a) ⎪⎪⎪⎪⎪⎭⎫⎝⎛⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯=mn m m n n a a aa a a a a a P 212222111211 X=⎪⎪⎪⎪⎪⎭⎫⎝⎛n x x x 21⎪⎪⎪⎪⎪⎭⎫⎝⎛+++⋯⋯++++++=n mn m m n n n n x a x a x a x a x a x a x a x a x a PX 221122221*********μμμμμμμμμμμμμP P a a a a a a a a a PX E Z E n n mn m m n n n n =⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=⎪⎪⎪⎪⎪⎭⎫ ⎝⎛+++⋯⋯++++++== 21221122221211212111)()( (b) cov(PX) = E[(PX-P μ)(PX-P μ)'] = E[P(X-μ)(X-μ)'P '] = P E[(X-μ)(X-μ)'] P ' = P 'P x ∑统计量的分布与独立性定理 若x ～N[0,I]且x Bx x Ax x 是和''的两个幂等二次型，则0=''AB Bx x Ax x 在和时是独立的。
线性变换及二次型的独立性定理 标准正态向量的一个线性函数Lx 和一个幂等二次型Ax x '，当LA=0时是统计独立的。
4、二次型与幂等矩阵1）定理：若A 是实对称矩阵，则存在正交矩阵C ，满足：⎪⎪⎪⎭⎫⎝⎛Λ='n AC C λλ 1，其中I C C ='。
2）定理：实对称矩阵A 的迹等于它的特征根之和。
因为A 是实对称矩阵，故有在矩阵C ，使得⎪⎪⎪⎭⎫⎝⎛=Λ='n AC C λλ 1，其中I C C ='，所以，∑==='='=Λ=ni iA tr AI tr C C A tr AC C tr tr 1)()()()()(λ。
3）幂等矩阵幂等矩阵满足A 2=A 的矩阵称为幂等矩阵 A ）幂等矩阵的特征根要么是1，要么是零。
B ）唯一满秩的对称幂等矩阵是单位矩阵。
C ）A 是幂等矩阵，则I －A 也是幂等矩阵，且秩（A ）+秩（I －A ）=n 。
D ）对称幂等矩阵的秩等于它的迹。
E ）2n nS 的服从)1(2-n x 分布（如果),1),,0(~n i I N i =XF ）X X X X I M ''-=-1)( X 是一个n ×m 的矩阵，秩（X ）=m 则M 是幂等矩阵。
幂等矩阵重要性，原因何在？5、回归模型与方差分解公式(Decomposition of Variance)假设X 是解释变量，Y 是被解释变量，即我们要用X 的行为来解释Y 的行为。
对于任意Y 有：)|()|()|(X Y E Z X Y E X Y E Y Y +=+-= i)EZ=0因为 )|))|((()|(X X Y E Y E X Z E -=0))|((,0)|()|(===-=X Z E E EZ X Y E X Y E 从而。
ii ） 0)),|(cov(,)|()|(=-=Z X Y E X Y E Y Z X Y E 即是不相关的和 ))|(())),|(cov(X Y ZE E Z X Y E =我们考察 ]|))|([(X X Y ZE E 0)|()|(==X Z E X Y E ∴ {}0)|)|())|((==X X Y ZE E X Y ZE Eiii) 方差分解公式 ))|(())|(()(X Y Var E X Y E Var Y Var x +=。
提醒注意：方差分解公式中，每一个部分都是二次型的形式，是我们构造F 统计量的基础。
三、古典回归模型的基本假设与最小二乘法的有限样本特性古典回归模型的基本假设是 Ⅰ.y=X β+ε。
Ⅱ.X 是秩为K 的n ×K 非随机矩阵。
Ⅲ.E[ε]=0。
Ⅳ.E[εε′]=σ2I 。
未知参数β和σ2的最小二乘估计量是y X X X b ''=-1)(和)(2K n ee s -'=通过分析εβX X X b ''+=-1)(并且Kn M s -'=εε2我们可得下列精确的有限样本结果：1. E[b]=β（最小二乘估计是无偏的）2. Var[b]=σ2(X ′X)-13. 任意函数r ′β的最小方差线性无偏估计量是r ′b 。
（这就是高斯—马尔科夫定理）4. E[s 2]=σ25. Cov[b,e]=0为了构造置信区间和检验假设，我们根据正态分布的假设],0[~.2I N V σε推导了额外的结果，即6. b 和e 在统计上是相互独立的。
相应地，b 和s 2无关并在统计上相互独立。
7. b 的精确分布依赖于X ，是])(,[12-'X X N σβ。
8. 22/)(σs K n -的分布是][2K n -χ。
s 2的均值是σ2，方差是2σ4/（n －K ）。
9. 根据6至8结果，统计量))(][12-'-=-kk kk X X s b K n t β服从自由度为n －K 的t 分布。
10. 用于检验一组J 个线性约束R β=q 的检验统计量Jq Rb R X X Rs q Rb K n e e J q Rb R X X R q Rb )(])([)()/(/)(])([)(11211-'''-=-'-'''----- 服从自由度为J 和n －K 的F 分布。
注意，利用I 至IV 建立起来的b 的各种性质和根据扰动项更进一步的正态分布假设而得到的额外推断结果之间的区别。
第一组中最重要的结果是高斯—马尔科夫定理，它与扰动项的分布无关。
根据正态分布假设得到的重要的附加结果是7、8、9、10。
正态性没有产生任何额外的有限样本的最优性结果。
假设b 是y 关于X 的回归的最小二乘估计量，c 是另一K ×1向量，证明两个残差平方和之差是)()()()()()(b c X X b c Xb y Xb y Xc y Xc y -''-=-'---'-并证明这个差值是正的。