4.3 蚁群算法
蚁群算法是受自然界中真实蚁群的集体觅食行为的启 发而发展起来的一种基于群集智能的进化算法，属于随机
搜索算法，它是由意大利学者Dorigo等人在二十世纪九十 年代初首先提出来的。虽然蚂蚁本身的行为极其简单，但 由这些简单个体所组成的蚁群却表现出极其复杂的行为特 征。如蚁群除了能够找到蚁巢与食物源之间的最短路径外， 还能适应环境的变化，即在蚁群运动的路线上突然出现障 碍物时，蚂蚁能够很快地重新找到最短路径。
⒌交换操作
使用交换算子来生成新的染色体，并希望这些新的染色体保 留上一代中优良的特征。根据一定概率选择交换的个体对，这一 概率等于给定的交换率。单点交换是最基本的交换算子，其中基 因码的交换点的位置随机而定，两个父代染色体在交换点处进行 互换。在双点交换中，将选定两个交换点，在这两点之间的染色 体串部分进行交换生成两个子体。类似地，可以定义 n 点交换。 交换的作用类似于自然进化过程中的交配，在这一过程中个体将 自身染色体中的某些段遗传给它们的子辈。因此，如果子辈从双 亲中得到了“优良”的基因或基因品质，则它们将优于它们双亲。 A：100│11110 B：101│10010 A：1│0011│110 B：1│0110│010 A1：100│10010 B1：101│11110 A1：1│0110│110 B1：1│0011│010
4.3 蚁群算法
蚁群算法是一种基于群体的、用于求解复杂优化问
题的通用搜索技术。与真实蚂蚁的间接通讯相类似，蚁 群算法中一群简单的蚂蚁 ( 主体 ) 通过信息素 ( 一种分布式 的数字信息，与真实蚂蚁的外激素相对应 )进行间接通讯， 并利用该信息和与问题相关的启发式信息逐步构造问题 的解。
所谓基本蚁群算法，指的是经典的ACS(Ant Colony
基于神经网络的系统辨识原理
选择适当的神经网络作为被辨识系统P的模型、及 逆模型（P可是线性系统，也可是非线性系统）。
辨识过程
所选的网络结构确定后，在给定的被辨识系统输 入输出观测数据下，网络通过学习（训练），不断的 调整权系值，使得准则函数为最优。
系统模型及逆模型的辨识⑴
的辨识原理结构，可进行离线、也可作在线辨识。 图为被辨识系统 P 的模型P (k ) ：系统扰动，作用于系统上的干扰与量测噪声。
⒍变异操作
交换利用了当前基因的潜能，但如果种群中并未包含 求解特定问题所需的所有编码信息，那么任意次数的基因 混合都不能产生满意的结果。基于此，引入了具有自发生 成新染色体功能的变异算子。实现变异的最常用方式是以 一定的概率对某一位进行突变，这个概率等于一个给定的 很小值变异率。变异算子能够防止整个种群中的任一位收 敛到一个值，并且更为重要的是，它能防止种群收敛并滞 留在任何局部最优点。变异率通常取得很小。因此，由交 换操作中得到的好染色体不会丢失。
P ( NN ) ˆ 1 P
(k )
z (k )
-
ˆ 1 ( NN ) P
学习算法
学习算法
e( k )
-
e( k )
逆模型的一般辨识结构
逆模型的特殊辨识结构
系统模型及逆模型的辨识⑶
在线辨识 系统运行中完成，辨识过程应具有实时性，即必须在一个采样周期内，产生一 次模型参数估计的调整值。 离线辨识 取得系统输入输出数据，存储后再辨识，辨识与系统分离，无实时性要求。 离线辨识 使网络在系统工作前，先完成训练，因输入输出训练集很难覆盖系统工作范围 ，难以适应系统工作中参数变化。 克服离线辨识不足 先进行离线训练，得到网络的权系作为在线学习初始权，再进行在线学习，以 加快后者学习过程。
4.4 粒子群优化算法
开始 初始化粒子群 计算每个粒子的适应度 根据适应度更新pbest、gbest，更新粒子位置速度
no
达到最大迭代次数或 全局最优位置满足最小界限？
yes
结束
.5 模糊逻辑
模糊系统辨识的问题分类 1、静态系统的辨识，它包括： 1）参数辨识 2）结构辨识 2、动态系统的辨识 1）结构辨识 2）系统行为的辨识
群体搜索策略和群体中个体之间的信息交换 是进化算法的两大特点。
⒈遗传算法的基本概念
G A 的主要组成部分包括编码方案、适应度计算、 父代选择、交换算子和变异算子。
可以选择这样的策略，在每一次生成新种群时，始终保 留一定数量的最优个体，这一原理通常称作为精英原则。
⒉编码方案
使用二进制编码把参数空间的点转换成位串来表示。 将每个坐标值编码为一个由二进制位组成的基因。也可以 使用其它编码方法。可对负数、浮点数和离散值进行编码， 编码方案提供了将问题领域知识直接转化为GA框架的一种 方式。因此，对GA的性能起到决定性的作用。此外，诸如 交换和变异等遗传算子可以也应该与特定应用领域的编码 一起设计。 例 如， 三 维 参 数 空间中的 一点 (11,6,9) 可表示为一个 级联的二进制串: 1011 11 0110 6 1001 9
4.1
模拟退火算法
4.2
4.3 4.4 4.5 4.6
遗传算法
蚁群算法 粒子群优化算法 模糊逻辑 神经网络
4.1 模拟退火算法SAA
模拟退火算法(Simulated Annealing Algorithms)
基于热处理中固体物质退火时由高能态向低能态转变 的过程与组合优化问题中寻找目标函数最优值过程的相似 性而提出的模拟退火算法，是一种通用的 Monte Carlo随机 搜索算法，已用于求解制造领域中的组合优化问题。 典型的组合优化问题有旅行商问题（Traveling Salesman Problem－TSP）、加工调度问题（Scheduling Problem，如Flow-Shop，Job-Shop）、0-1背包问题 （Knapsack Problem）、装箱问题（Bin Packing Problem）、图着色问题（Graph Coloring Problem）、聚 类问题（Clustering Problem）等。
⒊适应度计算
建立一代之后的第一步就是计算种群中每个个 体的适应度值。对于最大化的问题，第i个个体的适 应度值 fi 通常就是在此个体（或点）处求得的目标 函数值。我们往往需要适应度值是正的。因此，如 果目标函数不严格为正，就有必要使用某种单调的 尺度和/或变换。另一种方法是采用种群中个体的序 别作为它们的适应度值。这样做的好处是不需精确 计算目标函数，只要能提供正确的序别信息即可。
⒋随机选择(复制)
求值之后，我们要从当前一代生成一组新的种群。选择 操作决定哪些个体参与生成下一代的个体。这类似于自然 选择中的适者生存。通常使用与个体适应度值成正比的选 择概率来选择参与交换的个体。实现这一任务最常用的方 法是令选择概率等于 ：
fi / f k
k 1
k n
其中n为种群规模。这种选择方法的效果是允许具有高于平 均适应度值的个体进行复制，取代具有低于平均适应度值 的个体。具有高于平均适应度值的个体可以复制多次。
第4章 系统辨识的人工智能方法
系统辨识与优化问题
传统辨识方法 通过观测输入、输出数据对， 确定系统的数学模型。
给定模型的参数估计 系统辨识问题实际上 是一个优化问题
估计是针对函数的，系统的 输入输出是函数关系。
估计准则最后体现为目标函数 的形式。
因为系统辨识技术涉及最优估计和优化计算， 所以了解和掌握其基本内容和最新发展是重要的。
System)算法，它具有当前很多种类的蚁群算法最基本的 共同特征，后来一系列的改进蚁群算法都以此为基础。
4.4 粒子群优化算法
粒子群优化（Particle Swarm Optimization, PSO）算 法是由Kennedy和 Eberhart 于 1995年提出的一种优化算法。 PSO算法的运行机理不是依靠个体的自然进化规律，而是
对生物群体的社会行为进行模拟，它最早源于对鸟群觅食
行为的研究。在生物群体中存在着个体与个体、个体与群 体间的相互作用、相互影响的行为，这种行为体现的是一 种存在于生物群体中的信息共享的机制。
4.4 粒子群优化算法
初始化一群随机粒子（随机解） 每次迭代中，粒子通过跟踪两个极值更新自己： －粒子本身找到的历史最后解（个体极值点pbest） －整个种群目前找到的最好解（全局极值点gbest） 需要计算粒子的适应值，以判断粒子位置距最优点的距离。 每次迭代中，根据适应度值更新pbest和gbest。 迭代中止条件：设置最大迭代次数或全局最优位置满足预 定最小适应阈值。
退火过程算法步骤
4.2 遗传算法(进化计算)
遗传算法(GA)是模拟自然进化的一类随机搜索技术， 它模拟由个体组成的群体的集体学习过程。其中每个个体 表示给定问题搜索空间中的一点。遗传算法从初始的群体 出发，通过随机选择、变异和重组过程，使群体进化到搜 索空间中越来越好的区域。选择过程使群体中适应性好的 个体比适应性差的个体有更多的复制机会，重组操作将父 辈信息结合在一起并将他们传到子代个体，变异在群体中 引人新的个体。如果视种群为超空间的一组点，选择、杂 交和变异的过程即是在超空间中进行点集之间的某种变换， 通过信息交换使种群不断进化。
●
一般情况下的静态模糊辨识问题
在一般情况下，规则具有以下的形式：
R: If f(x1是A1,…, xk是Ak), Then y = g(x1,x2…,xk)
4.5 模糊逻辑
模糊辨识的基本要求:
辨识对象
期望数据
输入数据
模糊规则
与传统的辨识方法相比，模糊辨识的特点在于：
1）可以用较少的规则来逼近函数； 2）可以用语言变量来表达。
10011110 10011010
遗传算法的优越性
(1) 在搜索过程中不容易陷入局部最优。即使在所定义 的适应度函数是不连续的、非规则的或有噪声的情况下， 遗传算法仍能以很大的概率找到最优解; (2) 具有并行计算能力及很高的计算效率; (3) 采用自然进化机制来表现高度复杂、强非线性现象， 能快速可靠地解决问题; (4) 能介入到已有的模型中，并且具有可扩展性，易于 同其它技术混合。