当前位置:文档之家› 《非线性回归模型》PPT课件

《非线性回归模型》PPT课件

可以根据理论分析或过去的实际经验事先确定; 不能根据理论或过去积累的经验确定时,根据实际资料作散点图,从其
分布形状选择适当的曲线来配合。
2、确定相关函数中的未知参数
最小二乘法是确定未知参数最常用的方法。
选择合适的曲线类型不是一件轻而易举的工作,主要依靠专 业知识和经验,也可以通过计算剩余均方差来确定。
对于此类模型,可以直接通过变量代换将其化为 线性模型。
换元过程和参数估计法如表6.2.1所示。
8
表6.2.1 代换
直接换元法的变量
9
例6.2.1:设某商店1991—2000年的商品流通费用率和商 品零售额资料如表6.2.2所示。根据表中资料,配合适当 的回归模型分析商品零售额与流通费用率的关系,若2001 年该商店商品零售额为36.33万元,试预测2001年的商品 流通费用额。
由于这类模型的因变量没有变形,所以可以直接采用最小二乘 法估计回归系数并进行检验和预测。
第二类,间接代换型
这类非线性回归模型经常通过对数变形代换间接地化为线性回 归模型。如式(6.1.5)、式(6.1.6)和式(6.1.7)。
6
由于这类模型在对数变形代换过程中改变了因变量的形态,使 得变形后模型的最小二乘估计失去了原模型的残差平方和为最 小的意义,从而估计不到原模型的最佳回归系数,可能造成回 归模型与原数列之间的较大偏差。
Y f ( X1, X 2, , X k ;b1, b2, , bp ) v
(6.4.1)
式中:k—自变量的个数;p—待估计参数的个数;f—非线性函数。
利用泰勒级数展开式,将模型(6.4.1)展开为泰勒级数,进行 逐次线性逼近,其步骤如下:
(1)给定参数

b1, b2, , bp
的初始 ,将非b1线0, b性20,函数, bpf0,按照给定的初
第三类,非线性型
这类非线性回归模型属于不可线性化的非线性回归模型。如式 (6.1.8)和式(6.1.9)。
第一类和第二类非线性回归模型相对于第三类,又称 为可线性化的非线性回归模型。
7
§6.2 直接换元法
对于式(6.1.1)、式(6.1.2)、式(6.1.3)和式 (6.1.4)所示的非线性回归模型,虽然包含有非线 性变量,但因变量与待估计参数之间的关系却是 线性的。
第六章 非线性回归模型
§6.1 非线性回归模型的形式及其分类 §6.2 直接换元法 §6.3 间接换元法 §6.4 非线性回归模型的线性逼近
1
§6.1 非线性回归模型的形式 及其分类
在社会现实经济生活中,很多现象之间的关系并不是线性 关系,对这种类型现象的分析预测一般要应用非线性回归 预测或曲线回归预测。
0.045199 10 268.58 (51.0)2 1.9578
由于商品零售额增加,流通费用率呈下降趋势,两者之间为负相关关系, 故相关系数取负值-0.989 8,说明两者高度相关,用双曲线回归模型 配合进行预测是可靠的。
第五步,预测。
将2001年该商店零售额36.33万元代入模型,得2001年流通费用率为:
正确应用回归分析预测时应注意:
用定性分析判断现象之间的依存关系; 避免回归预测的任意外推; 应用合适的数据资料。
22
感谢下 载
始值
b10, b20,展,开bp为0 泰勒级数,即
Y f ( X1, X 2, , X k ;b10, b20, , bp0 )
p
i 1
f ( bi
)bi0 (bi
bi0 )
1 2
p i 1
2 f ( bi2
)bi0 (bi
b0 )2
v
(6.4.2)
19
取(6.4.2)右边的前两项,略去f展开式第三项及以后的所有 高阶项,即可得到非线性模型的一个线性近似。即
17
泰勒级数:
定理:设函数 f (x) 在点x0的某一邻U域(x0)
内具有各阶
导数f (,x)则
在该邻域内能展开成泰勒级数的充分必
要条件是 泰勒公Rn式(x)中的n余项


的极限为零。
f (x)
函数
f (x)
f
(x0 )
在f (xx00)的(x某 x一0) 邻f域2(!x的0) n(x阶泰x0)勒2 公式 为f (nn:)(!x0)
3
常见的非线性回归模型有以下几种:
(1)双曲线模型,其方程式为
yi
1
2
1 xi
ui
(2)多项式模型,其方程式为
(6.1.1)
yi 1 2xi 3xi2 n ui
(3)对数模型,其方程式为
(6.1.2)
yi 1 2 ln xi ui
(4)三角函数模型,其方程式为
(6.1.3)
yi 1 2 sin xi ui (6.1.4)
4
(5)指数模型,其方程式为
yi =abxi ui y e0 1x1i 2x2i ui
i
(6.1.5) (6.1.6)
(6)幂函数模型,其方程式为
yi axib ui (6.1.7)
(7)罗吉斯曲线,其方程式为
yi
0 1xi
1 e e0 1xi
Y f ( X1, X 2, , X k ;b10, b20, , bp0)
p

i 1
f bi0 ( bi
)bi 0
p i 1
f bi ( bi
)bi 0
v
(6.4.3)
(2)对(6.4.3)利用OLS估计出一组参 bˆ11,bˆ21, ,bˆp1


bˆ11,bˆ21, ,bˆp1
(3)重复步骤(1)和(2)中的过程,以
(6.1.5) (6.1.5)
yi axib ui yi axi eb ui
(6.1.7) (6.1.7)
对式(6.1.5’)、式(6.1.6)和式(6.1.7’)两边取对
数,得
ln yi ln a ln b xi ui
(6.3.1)
ln yi 0 1x1i 2x2i ui (6.3.2)
ui
(6.1.8)
(8)修正指数增长曲线,其方程式为
yi a br xi ui (6.1.9)
5
根据非线性回归模型线性化的不同性质,上述模型一般可 以分成三种类型:
第一类,直接换元型
这类非线性回归模型通过简单的变量换元可直接化为线性回归 模型。如式(6.1.1)、式(6.1.2)、式(6.1.3)和式(6.1.4) 。
对此类模型,通常可通过对回归方程两边取对数将其化为 可以直接换元的形式。
这种先取对数再进行变量代换的方法称为间接换元法。 为使取对数后回归方程的形式更为简捷,不妨适当变换式
(6.1.5)和式(6.1.7)中随机扰动项的形式,将式(6.1.5) 和式(6.1.7)改写为:
14
yi =abxi ui yi abxi eui
解:
第一步,绘制散点图(见图6.2.1)。从图中可以清楚地看到:随着商品零 售额的增加,流通费用率有不断下降的趋势,呈双曲线形状。
10
11
第二步,建立双曲线模型。即

xi
1 xi

yi
1
2
1 xi
ui
yi 1 2 xi ui
第三步,用OLS法估计参数。即
n
2
n
xiyi xi2 (
通过变量代换,可以将很多的非线性回归转化为线性回归。 因而,可以用线性回归方法解决非线性回归预测问题。
非线性回归模型按变量个数也可以分为:一元非线性回归 模型和多元非线性回归模型。
2
曲线的形式也因实际情况不同而有多种形式。配曲线问题主 要包括: 1、选配拟合曲线(即确定变量间函数的类型):
y 2.5611 42.8726
1
3.74%
36.33
故2001年该商店商品流通费用总额预测值为:
36.33×3.74%=1.358 7万元
13
§6.3 间接换元法
对于式(6.1.5)、式(6.1.6)和式(6.1.7)所示的非线性回 归模型,因变量与待估计参数之间的关系也是非线性的, 因此不能通过直接换元化为线性模型。
(x
x0 )n
Rn (x)
拉格朗日型余项Rn (x)
f (n1) ( )
(n 1)!
(x
x0 )n1,
是x与x0之间的某个值
f (x)
函数
f (x)
f
(x0) 的 f泰(x勒0)(级x 数x0为) :f 2(!x0 ) (x x0)2
f
(n) ( x0 ) n!
(x
x0 )n
18
给定一般的非线性函数模型为 :
ln yi ln a b ln xi ui
(6.3.3)
式(6.3.1)、式(6.3.2)和式(6.3.3)皆可经过适当的换元直
接化为线性回归方程。 15
例6.3.1:柯布—道格拉斯(Cobb-Douglas)生产函数模型
y AK L eu
(6.3.4)
就是一个可以线性化的模型。其中α为资金投入的弹性系数, β为劳动力投入的弹性系数。

相等或充分接近,即 对于事先给
定的小正数
,有
^^
bin bi,n1
^
,i 1, 2,, p
bi ,n 1
(6.4.4)
成立,则停止。
(5)如(4)中所得的参数点列不收敛,这时返回(1),选取
21
一组新的初始参数值,重新进行逐次线性逼近。
应用回归预测法时应注意的问题
应用回归预测法时应首先确定变量之间是否存在相关 关系。如果变量之间不存在相关关系,对这些变量应 用回归预测法就会得出错误的结果。
相关主题