当前位置:文档之家› 多元线性回归方法及其应用实例

多元线性回归方法及其应用实例




多元线性回归模型的假设
Y b0 b1 X 1 b2 X 2 bk X k u

解释变量 Xi 是确定性变量,不是随机变量;解释变量 之间互不相关,即无多重共线性。 随机误差项具有0均值和同方差 随机误差项不存在序列相关关系 随机误差项与解释变量之间不相关 随机误差项服从0均值、同方差的正态分布
X X

11 12
X X

21 22

X X
X
1n
X
2n
k2 X kn
k1
二. 参数估计(OLS)

参数值估计
参数估计量的性质 偏回归系数的含义


正规方程
样本容量问题
1.参数值估计(OLS)
Q ei yi y ˆi
2 i 1 i 1 n n n


2
ˆ0 b ˆ1 X 1i b ˆk X ki Yi b
i 1


2
Q 0 b ˆ 0 Q ˆ 0 b1 Q ˆ 0 b2 Q 0 b ˆ k
得到下列方程组
Y ˆ ˆ X ˆ X 0 i b0 b1 1i bk ki Y i X 1i b ˆ0 b ˆ1 X 1i b ˆk X ki X 1i 0 Y i X 2i ˆ ˆ X 1i ˆ X ki X 2i 0 b0 b1 bk b ˆˆ ˆk X ki X ki 0 Y i xki b0 b1 X 1i
正规方程
矩阵形式
n X 1i X X X ki
X X
1i 2 1i
X X X
2i 2i
1i
X 1i X ki
X 2i X ki

X X X
ki ki 1i
2 X ki

ˆ b 0 ˆ b 1 ˆ b ˆ B 2 ˆ bk
Y XB U
矩阵形式
Y XB U Y 1 Y Y 2 Y n b0 b1 B b2 bk 1 1 X 1 u1 U u2 un

多元模型的解析表达式
Y b0 b1 X 1 b2 X 2 bk X k u n个样本观测值 (Yi , X 1i , X 2 i ,, X ki ) i 1,2,, n 得:Yi b0 b1 X 1i b2 X 2 i bk X ki ui
Yi X Y 1i i X Y X kiYi
ˆ X Y X XB ˆ ( X X ) 1 X Y B
最小二乘法的矩阵表示
ˆ XB ˆ Y
n 2 i 1
Y XB U
n i 1
Q ei yi y ˆi
多元模型的矩阵表达式
Y 1 1 Y 2 1 Y n 1
X X

11 12
X X

21 22

X
1n
X
2n
b0 u1 X k1 b1 X k2 u2 b2 X kn b u n k
Y1 b0 b1 X 11 b2 X 21 bk X k1 u1 Y b b X b X b X u 2 0 1 12 2 22 k k2 2 Yn b0 b1 X 1n b2 X 2 n bk X kn un






求参数估计值的实质是求一个k+1元方程组
正规方程
变成矩阵形式
ˆ b ˆ X b ˆ X b ˆ X Y nb i 0 1 1i 2 2i k ki ˆ X b ˆ X 2 b ˆ X X b ˆ X X XY b 1i i 0 1i 1 2 2 i 1 i k ki 1i 1i ˆ ˆ X X b ˆ X X b ˆ X2 X Y b X b ki i 0 ki 1 1 i ki 2 2 i ki k ki
n X 1i X ki
X X
1i 2 1i
X X X
2i 2i
1i
X 1i X ki
X 2i X ki

ˆ b 0 X Yi ki ˆ b1 X Y X X ki 1i b ˆ 1i i 2 2 X ki ˆ X kiYi b k
主要内容

多元线性回归模型的一般形式
参数估计( OLS估计) 假设检验 预测
一. 多元线性回归模型

问题的提出
解析形式
矩阵形式
问题的提出

现实生活中引起被解释变量变化的因素并非仅 只一个解释变量,可能有很多个解释变量。
例如,产出往往受各种投入要素——资本、劳 动、技术等的影响;销售额往往受价格和公司 对广告费的投入的影响等。 所以在一元线性模型的基础上,提出多元线性 模型——解释变量个数≥ห้องสมุดไป่ตู้2
相关主题