普通最小二乘法（OLS ）
普通最小二乘法（Ordinary Least Square ，简称OLS ），是应用最多的参数估计方
法，也是从最小二乘原理出发的其他估计方法的基础，是必须熟练掌握的一种方法。

在已经获得样本观测值
i i x y ,（i=1,2,…,n ）的情况下
（见图2.2.1中的散点），假如模型（2.2.1）的参数估计量
已经求得到，为^0β和^
1β，并且是最合理的参数估计量，那
么直线方程（见图2.2.1中的直线）
i i x y ^
1^0^ββ+= i=1,2,…,n
(2.2.2)
应该能够最好地拟合样本数据。

其中
^
i y 为被解释变量的估计值，它是由参数估计量和解释
变量的观测值计算得到的。

那么，被解释变量的估计值与观测值应该在总体上最为接近，判断的标准是二者之差的平方和最小。

),()(102
2101ββββQ u x y Q i i n
i i ==--=∑∑= ()()
),(min ˆˆˆˆ1
02
1
102
12ˆ,ˆ1
1
ββββββββQ x y y y u Q n
i i n
i i i =--=-==∑∑∑==
(2.2.3)
为什么用平方和？因为二者之差可正可负，简单求和可能将很大的误差抵消掉，只有平方和才能反映二者在总体上的接近程度。

这就是最小二乘原则。

那么，就可以从最小二乘原则和样本观测值出发，求得参数估计量。

由于
2
1
^
1^01
2
^
))(()(∑∑+--=n
i i n
i i x y y y Q ββ＝
是
^
0β、^
1β的二次函数并且非负，所以其极小值总是存在的。

根据罗彼塔法则，当Q 对^
0β、
^
1β的一阶偏导数为0时，Q 达到最小。

即
1
1001
100ˆ,ˆ1
ˆ,ˆ0=∂∂=∂∂====ββββββββββQ Q (2.2.4)
容易推得特征方程：
()0)ˆˆ(0ˆ)ˆˆ(101
110==--==-=--∑∑∑∑∑==i i i
i
n
i i i i i i
n
i i
e x x y
x e y y x y
ββββ
解得：
∑∑∑∑∑+=+=2^
1
^
^
1
^
i
i
i
i
i
i
x
x x y x
n y ββββ （2.2.5）
所以有：⎪⎪⎪⎩
⎪⎪⎪
⎨⎧
-=---=--=∑∑∑∑∑∑∑=======x y x x y y x x x x n y x y x n n i i n
i i i n
i i n i i n i i n i i n i i i 1012121
121111ˆˆ)())(()()()(ˆβββ （2.2.6） 于是得到了符合最小二乘原则的参数估计量。

为减少计算工作量，许多教科书介绍了采用样本值的离差形式的参数估计量的计算公式。

由于现在计量经济学计算机软件被普遍采用，计算工作量已经不是什么问题。

但离差形式的计算公式在其他方面也有应用，故在此写出有关公式，不作详细说明。

记
∑=
-
i x n
x 1
∑=
-
i y n y 1
y y y
x x x
i i i i -=-=
（2.2.6）的参数估计量可以写成
⎪⎪⎩⎪⎪
⎨⎧
-===∑∑==x
y x y x n t i n
t i i 101211ˆˆˆβββ (2.2.7)
至此，完成了模型估计的第一项任务。

下面进行模型估计的第二项任务，即求随机误差项方差的估计量。

记i i i i
y y u
e ˆˆ-==为第i 个样本观测点的残差，即被解释变量的估计值与观测值之差。

则随机误差项方差的估计量为
2
ˆ2
2
-=
∑n e i
u σ
(2.2.8)
在关于2ˆu σ的无偏性的证明中，将给出（2.2.8）的推导过程，有兴趣的读者可以参考
有关资料。

在结束普通最小二乘估计的时候，需要交代一个重要的概念，即“估计量”和“估计值”的区别。

由（2.2.6）给出的参数估计结果是由一个具体样本资料计算出来的，它是一个“估计值”，或者“点估计”，是参数估计量
^0β和^
1β的一个具体数值；但从另一个角度，仅仅
把（2.2.6）看成
^
0β和^
1β的一个表达式，那么，则是i y 的函数，而i y 是随机变量，所以^
β和^
1β也是随机变量，在这个角度上，称之为“估计量”。

在本章后续内容中，有时把
^
0β和
^1β作为随机变量，有时又把^0β和^
1β作为确定的数值，道理就在于此。

Welcome 欢迎您的下载，资料仅供参考！。