实验一 离散模型的参数辨识
一、实验目的
1． 掌握随机序列的产生方法。

2． 掌握最小二乘估计算法的基本原理。

3． 掌握最小二乘递推算法。

二、实验内容
1． 基于Box--Jinkins 模型模拟一个动态过程，动态过程取为各种不同的情况，输入信号采用M 序列，实验者可尝试不同周期的M 序列。

信噪比、观测数据长度也由实验者取为各种不同情况。

2． 模拟生成输入输出数据。

3． 根据仿真过程的噪声特性，选择一种模型参数估计算法，如RLS 、RIV 、RELS 、RGLS 、COR-LS 、STAA 、RML 或MLS 等，估计出模型的参数。

三、实验器材
计算机 1台
四、实验原理
最小二乘法是一种经典的有效的数据处理方法。

它是1795年高斯（K.F.Guass ）在预测行星和彗星运动的轨道时提出并实际使用的。

最小二乘法也是一种根据实验数据进行参数估计的主要方法。

这种方法容易被理解，而且由于存在唯一解，所以也比较容易实现。

它在统计学文献中还被称为线性回归法，在某些辨识文献中还被称为方程误差法。

正如各个学科都用到系统辨识技术建立模型一样，最小二乘法也用于很多场合进行参数估计，虽然不一定是直接运用，但很多算法是以最小二乘为基础的。

在系统辨识和参数估计领域中，最小二乘法是一种最基本的估计方法。

它可用于动态系统，也可用于静态系统；可用于线性系统，也可用于非线性系统；可用于离线估计，也可用于在线估计。

在随机的环境下利用最小二乘法时，并不要求知道观测数据的概率统计信息，而用这种方法所获得的估计结果，却有相当好的统计性质。

在系统辨识和参数估计领域中，应用最广泛的估计方法是最小二乘法和极大似然法，而其他的大多数算法都与最小二乘法有关。

最小二乘法采用的模型为
11()()()()()A z y k B z u k e k --=+
最小二乘估计是在残差二乘方准则函数极小意义下的最优估计，即按照准则函数
ˆˆˆˆ()()min T T J e
e Y Y ΦθΦθ==--= 来确定估计值ˆθ。

求J 对ˆθ的偏导数并令其等于0，可得 ˆˆˆˆ()()()()0ˆˆT T T J Y Y Y Y ΦθΦθΦΦθΦΦθθ
θ∂∂=--=----=∂∂ 即ˆT T Y ΦΦθΦ=。

当T ΦΦ为非奇异，即Φ列满秩时，有1ˆ()T T LS
Y θΦΦΦ-=，此即参数的最小二乘估计值。

具体使用时不仅占用内存量大，而且不能用于在线辨识。

一次完成算法还有如下的缺陷：
（1）数据量越多，系统参数估计的精度就越高。

为了获得满意的辨识结果，矩阵T ΦΦ的阶数常常取得相当大。

这样，矩阵求逆的计算量很大，存储量也很大。

（2）每增加一次观测量，都必须重新计算1,()T ΦΦΦ-。

（3）如果出现Φ列相关，即不满秩的情况，T ΦΦ为病态矩阵，则不能得到最小二乘估计值。

解决这个问题的办法是把它化成递推算法。

依观测次序的递推算法就是每获得一次新的观测数据就修正一次参数估计值，随着时间的推移，便能获得满意的辨识结果。

递推辨识算法具有无矩阵求逆，以及跟踪时变系统等特点，这样不仅可以减少计算量和储存量，而且能实现在线辨识。

最小二乘估计递推算法（RLS ）如下
1111ˆˆˆ[]T N N N N N N G y θθϕθ++++=+-
11111N N N T N N N P G P ϕϕϕ++++=+ 111T N N N N N P P G P ϕ+++=-
递推过程如下：
得到 11
ˆ,,,N N N N P u y θ++ 计算 111
ˆN N N P ϕθ+++→→→下一步递推 五、实验步骤
1．熟悉各种辨识方法的基本原理。

2．设计实验方案，编制实验程序，上机调试，记录结果。

3．分析实验结果，完成书面实验报告，提供程序框图及其说明，并总结各种辨识算法的优缺点。

六、实验思考题
1． 认真阅读教材中的相关内容，总结最小二乘估计算法和最小二乘递推算法的基本原理。

八、实验报告要求
1． 分析最小二乘估计算法和最小二乘递推算法的基本原理。

2． 记录产生的输入输出数据，根据最小二乘估计算法和最小二乘递推算法估计系统模型参数。

3． 完成相应的思考题
实验二 离散模型的阶次辨识
一、实验目的
掌握极大似然估计算法。

二、实验原理
极大似然法需要构造一个以数据和未知参数为自变量的似然函数，并通过极大化这个似然函数，获得模型的参数估计值。

已知参数θ的条件下，观测量的概率密度为(|)P Y θ，在N 次测量12{,,
,}N y y y 后（独立测量），考虑
似然函数
1211(,,, |) (, ,|)(|) N N N i i L y y y P y y P y θθθ===∏
如果不要求θ的分布密度，只要问θ的值为多少（最可能的值），那么，就只要求θ使12(,,,|)max N L y y y θ=。

对于确定了的观测值Y 而言，似然函数仅仅是参数θ的函数。

由极大似然原理
可知，ˆML
θ满足以下方程 ˆˆ0ˆML
L
θθθ=∂=∂
考虑到似然函数一般为指数函数，而指数函数和对数函数都是单调的，为方便求解，上式等价于如下方程
ˆˆln 0ˆML
L θθθ=∂=∂
三、实验内容及步骤
1．熟悉各种辨识方法的基本原理。

2．设计实验方案，编制实验程序，上机调试，记录结果。

3．分析实验结果，完成书面实验报告，提供程序框图及其说明，并总结各种辨识算法的优缺点。

四、实验报告
1．分析极大似然估计算法的基本原理。

2．记录产生的输入输出数据，根据极大似然估计算法估计系统模型参数。

3．完成相应的思考题。