有数学模型
x(t ) = f ( xt −1 , xt −2 ,⋯) + at
§6.2 时间序列分析模型
对模型 f取线性形式 , 且假定 at 是白噪声 序列 , 其 均值为零,当取有限项时,模型成为
xt = ϕ 1 xt −1 + ϕ 2 xt − 2 + ⋯ + ϕ p xt − p + at
§6.1 回归分析法
由于许多非线性问题转化线性问题来解 决，因此，我们所需解决的问题可看成是一个变 量与多个变量之间的线性相关问题，即多元线性 回归问题。 多元线性回归的中心问题是： �确定对变量影响的因子及它们之间的关系 �运用最小二乘法求回归方程中的回归系数
§6.1 回归分析法
1. 多元线性回归模型
第六章 变形分析与建模的 基本理论与方法
§6.1 §6.2 §6.3 §6.4 §6.5 §6.6 回归分析法 时间序列分析模型 灰色系统分析模型 Kalman滤波模型 人工神经网络模型 频谱分析及其应用
§6.1 回归分析法
一、曲线拟合
Yt = f (t ,θ ) + ε t
几类典型的趋势模型: 1 多项式趋势模型 2 对数趋势模型 3 幂函数趋势模型
x t − ϕ 1 x t −1 − ϕ 2 x t − 2 − ⋯ − ϕ p x t − p
= a t − θ a t −1 − ⋯ − θ a t − q
' 1 ' q
称为自回归滑动平均过程,记为ARMA(p,q)
§6.1 回归分析法
由于自变量之间的相关性，使得多元线性回归模 型
y = xβ + ε
(x ，在最小二乘法下，
T
x)
矩阵回存在接近于零的特征根，从而使得 β 接近 不可估，为此提出了一些新的估计方法，其特点 是估值的有偏性，故称为回归的有偏估计。例如 ，岭估计；Stein估计；主成分估计；特征根估 计等。
Yt = a0 + a1t + ⋯ + ant Yt = a + b ln t
n
Yt = at
b
§6.1 回归分析法
一、曲线拟合
Yt = f (t , θ ) + ε t
几类典型的趋势模型: 4 指数趋势模型 5 双曲线趋势模型 6 修正指数模型
Yt = ae
bt
Yt = a + b / t Yt = L − ae
F = S剩 S回 / p /( N − p − 1)
§6.1 回归分析法
3. 回归系数显著性检验 回归方程显著并不意味着每个自变量 x i 对因变 量 y 的影响都是重要的，这就需要对每个变量 进行考察。如果某个变量
x j 对 y 的作用不显
= 0
著，则相应的回归系数 β j 就应为零。 � 进行检验原假设 � 求统计量 � 进行F检验
则
xt = (1 − θ B − θ B − ⋯ − θ B )at
' 1 ' 2 2 ' q
q
顾及Bk为线性推移算子,则
xt = a t − θ a
' 1 t −1
− ⋯ − θ at − q
' q
此式为滑动平均过程,记作MA(q)
§6.2 时间序列分析模型
实际中,要进行模拟,既包括自回归部分,也包 括滑动平均部分,这时数学模型为
,⋯ , β
p
回归系数为 β = ( β 0 , β 1 , β
)T
§6.1 回归分析法
1. 多元线性回归模型 由最小二乘法可求得回归系数的估值b：
b = ( x x) x y
由回归系数的估值可求得回归方程：
T
−1
T
ˆ = bx y
§6.1 回归分析法
2. 回归方程显著性检验 模型 y = x β + ε 中因变量 y 与自变量 x 1 , x 2 , ⋯ ⋯ , x p 之间是否存在线性关系，需要 进行检验。 � 建立原假设 H 0 : β 1 = 0 , β 2 = 0 , ⋯ , β p = 0 � 求统计量 � 进行F检验
§6.1 回归分析法
对于非线性关系，我们可以通过变量的变 换转化为线性问题。例如，多项式关系
y = a 0 + a1 x + a 2 x
应用变量变换
2
+ ⋯ + anx
n
z1 = x , z 2 = x , ⋯ ⋯ , z n = x
2
n
转化成线性关系
y = a 0 + a1 z 1 + a 2 z 2 + ⋯ + a n z n
第六章 变形分析与建模的 基本理论与方法
§6.1 §6.2 §6.3 §6.4 §6.5 §6.6 回归分析法 时间序列分析模型 灰色系统分析模型 Kalman滤波模型 人工神经网络模型 频谱分析及其应用
§6.2 时间序列分析模型
观测数据之间呈现相关性, 对时间序列
{x ( t )} (t= …,1,2,3, …)
y = xβ + ε
T
其中，设有N个变形量： y = ( y 1 , y 2 , ⋯ , y N ) 有p个影响因子：
⎡1 x11 ⎢1 x 21 ⎢ x= ⎢⋮ ⋮ ⎢ ⎢ ⎣1 x N 1
x12 x 22 ⋮ xN 2
2
⋯ x1 p ⎤ ⎥ ⋯ x2 p ⎥ ⋱ ⋮ ⎥ ⎥ ⋯ x Np ⎥ ⎦
bt
§6.1 回归分析法
一、曲线拟合
Yt = f (t ,θ ) + ε t L Yt = −bt 1 + µe
−θt
几类典型的趋势模型: 7 Logistic模型
8 Gompertz模型
Yt = L exp[− βe ]
§6.1 回归分析法
二、多元线性回归分析
实际中， 变形值与变形因素之间的关系并 非都是线性的， 常呈现曲线关系， 另外，影响 变形值的因素是多方面的。 为此，需要解决一 个变量与多个因子之间的相关关系，而且，许多 因子对变量的影响还是非线性关系。
§6.1 回归分析法
逐步回归计算过程： 1.选第一个因子。由分析结果，对每一影响因 子x与因变量y建立一元线性回归方程。由显著性 检验来接纳因子进入回归方程。 2. 选第二个因子。对一元回归方程中已选入的 因子，加入另外一个因子，建立二元线性回归方 程进行检验。
§6.1 回归分析法
逐步回归计算过程： 3.选第三个因子。根据已选入的二个因子，依 次与未选入每一因子，用多元回归模型建立三元 线性回归方程，进行检验来接纳因子。 在选入第三个因子后，应对原先已选入回归 方程的因子重新进行显著性检验。 4.继续选因子。
H0 :β
F=
j
b2 j / C jj S 剩 /( N − p − 1)
§6.1 回归分析法
三、逐步回归计算
由于多元回归本身不能判断各个自变量对因 变量是否都是显著的，由它所求得的回归方程不 是最佳的。 最佳回归方程：满足选进回归方程的因子都 是显著的，而未选进回归方程的其它因子的影响 不显著。
为自回归过程,记作AR(p)。现用线性推移算子Bk 表示,即 代入得
B xt = xt −2 , ⋯ B p xt = xt − p
22Biblioteka (1 − ϕ1 B − ϕ 2 B − ⋯ − ϕ p B ) xt = at
p
§6.2 时间序列分析模型
令
(1 − ϕ 1 B − ϕ 2 B 2 − ⋯ − ϕ p B p ) −1 = 1 − θ 1' B − θ 2' B 2 − ⋯ − θ q' B q