PPT典藏
第三章 回归分析
第3章 回归分析预测法
3.1 引言 1．回归分析的提出 回归分析起源于生物学研究，是由英国生物学
家兼统计学家高尔登（Francis Galton 18221911）在19世纪末叶研究遗传学特性时首先提出 来的。 高尔登在1889年发表的著作《自然的遗传》中， 提出了回归分析方法以后，很快就应用到经济领 域中来，而且这一名词也一直为生物学和统计学 所沿用。
间的数量变动关系，并据此对因变模型

回归分析与相关分析的联系是，它们是研究客观事物之间相互依存
关系的两个不可分割的方面。在实际工作中，一般先进行相关分析，由
相关系数的大小决定是否需要进行回归分析。在相关分析的基础上建立
回归模型，以便进行推算、预测，同时相关系数还是检验回归分析效果
第三章 回归分析
第一章 预测概述
1.1 引言 1. 预测的兴起 预测于20世纪60-70年代在美国逐步兴起的 预测：预测是指对事物的演化预先做出的科学推测。
广义的预测，既包括在同一时期根据已知事物推测未 知事物的静态预测，也包括根据某一事物的历史和现 状推测其未来的动态预测。狭义的预测，仅指动态预 测，也就是指对事物的未来演化预先做出的科学推测。 预测理论作为通用的方法论，既可以应用于研究自然 现象，又可以应用于研究社会现象，如社会预测、人 口预测、经济预测、政治预测、科技预测、军事预测、 气象预测等。
根据最小二乘法的要求，记
n
n
n
Q = ei2 ( yi yˆi )2 ( yi a bxi )2
i1
i1
i1
根据多元微分学的极值原理，Q 取极小值的必要条件是 Q 对 a，b 的两个一阶偏导数 全为零。上式分别对 a 和 b 求偏导数，并令其等于零，有
Q
a
的标准。相关分析需要回归分析来表明客观事物数量关系的具体形式，
而回归分析则应建立在相关分析的基础上。
PPT典藏
第三章 回归分析
3.1
３．回归模型的种类
引言
（1）根据自变量的多少，回归模型可以分为一 元回归模型和多元回归模型。
（2）根据回归模型的形式线性与否，回归模型 可以分为线性回归模型和非线性回归模型。

2
n i1
( yi

a

bxi
)

0
Q
b

2
n i1
( yi

a

bxi
)xi

0
PPT典藏
第三章 回归分析
2. OLS (Ordinary Least Square）估计
整理得：
n
n
na b xi yi
i1
i1
n
n
n
a xi b xi2 xi yi
PPT典藏
第三章 回归分析
3.1 引言
（３）回归分析与相关分析的关系
相关分析是以相关关系为对象，研究两个或两个以上随机变量之间线
性依存关系的紧密程度。通常用相关系数表示，多元相关时用复相关系 数表示。

回归分析是对具有相关关系的变量之间的数量变化规律进行测定，
研究某一随机变量（因变量）与其他一个或几个普通变量（自变量）之
y a bx u
式中，x 代表影响因素，我们往往认为它是可以控制或预先给定的，故称之为自变 量；u 表示“非主要因素”的影响、随机变化、观测误差和模型数学形式设定偏差 等各种因素对 y 的影响的总和，通常称为随机扰动项；因变量 y 就是我们的预测对 象；常数 a, b 是待定的参数。 给定（x，y）的 n 对观测值（xi，yi），i 1,2,, n ，代入上式得
（3）根据回归模型所含的变量是否有虚拟变量， 回归模型可以分为普通回归模型和带虚拟变量的回 归模型。
此外，根据回归模型是否用滞后的因变量作自
变量，回归模型又可分为无自回归现象的回归模型 和自回归模型。
PPT典藏
第三章 回归分析
3.2 一元线性回归预测法
1. 一元回归模型 设 x 为自变量，y 为因变量，y 与 x 之间存在某种线性关系，即一元线性回归模型为：
②客观事物之间的数量依存关系不是确定的， 具有一定的随机性。表现在当一个或几个相互联 系的变量取一定数值时，与之对应的另一个变量 可以取若干个不同的数值。这种关系虽然不确定， 但因变量总是遵循一定规律围绕这些数值的平均 数上下波动。
PPT典藏
第三章 回归分析
图 国内生产总值y与固定资产投资完成额x间关系的散点图
一般把作为影响因素的变量称为自变量，把 发生对应变化的变量称为因变量。
PPT典藏
第三章 回归分析
3.1
引言
（2）相关关系
相关关系反映的是客观事物之间的非严格、不 确定的线性依存关系。这种线性依存关系有两个 显著的特点：
①客观事物之间在数量上确实存在一定的内 在联系。表现在一个变量发生数量上的变化，要 影响另一个变量也相应地发生数量上的变化。
回归的现代涵义与过去大不相同。一般说来，回 归是研究因变量随自变量变化的关系形式的分析 方法。其目的在于根据已知自变量来估计和预测 因变量的总平均值。
PPT典藏
第三章 回归分析
第3章 回归分析预测法
２．回归分析和相关分析
（1）函数关系 函数关系反映客观事物之间存在着严格的依
存关系。在这种关系中，当一个或几个变量取值 一定时，另一个变量有确定的值与之相对应，并 且这种关系可以用一个确定的数学表达式反映出 来。
合一条较为理想的回归直线。这条回归直线应满足下列两点要求： （1） 原观测值与模型估计值的离差平方和为最小； （2） 原观测值与模型估计值的离差总和为 0。这两点
可以用公式表示如下：
( yi yˆi )2 min
( yi yˆi ) 0
PPT典藏
第三章 回归分析
2. OLS (Ordinary Least Square）估计
yi a bxi ui ， i 1,2,, n
其中 ui, i 1,2,, n 为 u 的 n 个观测值。
PPT典藏
第三章 回归分析
3.2 一元线性回归预测法
2. OLS (Ordinary Least Square）估计
（１）OLS 的中心思想
最小二乘法的中心思想，是为观测值（ xi , yi ）（ i 1,2,...,n ）配