人工神经网络的发展与应用
神经网络发展
启蒙时期
启蒙时期开始于1980年美国著名心理学家W．James关于人脑结构与功能的研究，结束于1969年Minsky和Pape~发表的《感知器》(Perceptron)一书。
早在1943年，心理学家McCulloch和数学家Pitts合作提出了形式神经元的数学模型(即M—P模型)，该模型把神经细胞的动作描述为：1神经元的活动表现为兴奋或抑制的二值变化；2任何兴奋性突触有输入激励后，使神经元兴奋与神经元先前的动作状态无关；3任何抑制性突触有输入激励后，使神经元抑制；4突触的值不随时间改变；5突触从感知输入到传送出一个输出脉冲的延迟时问是0．5ms。
可见，M—P模型是用逻辑的数学工具研究客观世界的事件在形式神经网络中的表述。
现在来看M—P 模型尽管过于简单，而且其观点也并非完全正确，但是其理论有一定的贡献。
因此，M—P模型被认为开创了神经科学理论研究的新时代。
1949年，心理学家D．0．Hebb 提出了神经元之间突触联系强度可变的假设，并据此提出神经元的学习规则——Hebb规则，为神经网络的学习算法奠定了基础。
1957年，计算机学家FrankRosenblatt提出了一种具有三层网络特性的神经网络结构，称为“感知器”(Perceptron)，它是由阈值性神经元组成，试图模拟动物和人脑的感知学习能力，Rosenblatt认为信息被包含在相互连接或联合之中，而不是反映在拓扑结构的表示法中；另外，对于如何存储影响认知和行为的信息问题，他认为，存储的信息在神经网络系统内开始形成新的连接或传递链路后，新
的刺激将会通过这些新建立的链路自动地激活适当的响应部分，而不是要求任何识别或坚定他们的过程。
1962年Widrow提出了自适应线性元件(Ada—line)，它是连续取值的线性网络，主要用于自适应信号处理和自适应控制。
低潮期
人工智能的创始人之一Minkey和pape~经过数年研究，对以感知器为代表的网络系统的功能及其局限性从数学上做了深入的研究，于1969年出版了很有影响的《Perceptron)一书，该书提出了感知器不可能实现复杂的逻辑函数，这对当时的人工神经网络研究产生了极大的负面影响，从而使神经网络研究处于低潮时期。
引起低潮的更重要的原因是：20世纪7O年代以来集成电路和微电子技术的迅猛发展，使传统的冯·诺伊曼型计算机进入发展的全盛时期，因此暂时掩盖了发展新型计算机和寻求新的神经网络的必要性和迫切性。
但是在此时期，波士顿大学的S．Grossberg教授和赫尔辛基大学的Koho—nen教授，仍致力于神经网络的研究，分别提出了自适应共振理论(Adaptive Resonance Theory)和自组织特征映射模型(SOM)。
以上开创性的研究成果和工作虽然未能引起当时人们的普遍重视，但其科学价值却不可磨灭，它们为神经网络的进一步发展奠定了基础。
复兴时期
20世纪80年代以来，由于以逻辑推理为基础的人工智能理论和冯·诺伊曼型计算机在处理诸如视觉、听觉、联想记忆等智能信息处理问题上受到挫折，促使人们
怀疑当前的冯·诺伊曼型计算机是否能解决智能问题，同时也促使人们探索更接近人脑的计算模型，于是又形成了对神经网络研究的热潮。
1982年，美国加州理工学院的物理学家JohnJ．Hopfield博士发表了一篇对神经网络研究的复苏起了重要作用的文章，他总结与吸取前人对神经网络研究的成果与经验，把网络的各种结构和各种算法概括起来，塑造出一种新颖的强有力的网络模型，称为Hopfield网络。
他引入了“计算能量函数”的概念，给出了网络稳定性依据。
从而有力地推动了神经网络的研究与发展。
1986年，Rumelhart及．Cun等学者提出了多层感知器的反向传插算法，克服了当初阻碍感知器模型继续发展的重要障碍。
这一时期，大量而深入的开拓性工作大大发展了神经网络的模型和学习算法，增强了对神经网络特性的进一步认识，使人们对模仿脑信息处理的智能计算机的研究重新充满了希望。
新时期
1987年6月，首届国际神经网络学术会议在美国加州圣地亚哥召开，这标志着世界范围内掀起了神经网络开发研究的热潮。
在这次会上成立了国际神经网络学会(INNS)，并于1988年在美国波士顿召开了年会，会议讨论的议题涉及到生物、电子、计算机、物理、控制、信号处理及人工智能等各个领域。
自1988年起，国际神经网络学会和国际电气工程师与电子工程师学会(IEEE)联合召开了每年一次的国际学术会议。
这次会议后不久，美国波士顿大学的StephenGrossberg教授、芬兰赫尔辛基技术大学的Teuvo Kohonen教授及日本东京大学的甘利俊一教授，主持创办了世界第一份神经网络杂志《Neural Network)。
随后，IEEE也成立了神经网络协会并于1990年3月开始出版神经网络会刊，各种学术期刊的神经网络特刊也层出不穷。
从1987年以来，神经网络的理论、应用、实现及开发工具均以令人振奋的速度快速发展。
神经网络理论已成为涉及神经生理科学、认知科学、数理科学、心理学、信息科学、计算机科学、微电子学、光学、生物电子学等多学科交叉、综合的前沿学科。
神经网络的应用已渗透到模式识别、图像处理、非线性优化、语音处理、自然语言理解、自动目标识别、机器人专家系统等各个领域，并取得了令人瞩目的成果。
人工神经网络的应用
信息领域
信息领域神经网络作为一种新型智能信息处理系统，其应用贯穿信息的获取、传输、接收与加工利用等各个环节。
1)信号处理神经网络广泛应用于自适应信号处理和非线性信号处理。
前者如信号的自适应滤波、时间序列预测、谱估计、噪声消除等；后者如非线性滤波、非线性预测、非线性编码、调制解调等。
2)模式识别模式识别涉及模式的预处理变换和将一种模式映射为其他类型的操作。
神经网络不仅可以处理静态模式如固定图像、固定能谱等，还可以处理动态模式如视频图像、连续语音等。
3)数据压缩在数据传送存储时，数据压缩至关重要。
神经网络可对待传送的数据提取模式特征，只将该特征传出，接收后再将其恢复成原始模式。
自动化领域
神经网络和控制理论与控制技术相结合，发展为神经网络控制。
为解决复杂的非线性不确定、不确知系统的控制问题开辟了一条新的途径。
1)系统辨识在自动控制问题中，系统辨识的目的是为了建立被控对象的数学模型。
多年来控制领域对于复杂的非线性对象的辨识，一直未能很好的解决。
神经网络所具有的非线性特性和学习能力，使其在系统辨识方面有很大的潜力，为解决具有复杂的非线性、不确定性和确知对象的辨识问题开辟了一条有效途径。
2)神经控制器控制器在实时控制系统中起着“大脑”的作用，神经网络具有自学习和自适应等智能特点，因而非常适合于做控制器。
对于复杂非线性系统神经控制器所达到的控制效果往往明显好于常规控制器。
3)智能检测所谓智能检测一般包括干扰量的处理，传感器输入特性的非线性补偿，零点和量程的自动校正以及自动诊断等。
这些智能检测功能可以通过传感元件和信号处理元件的功能集成来实现。
在综合指标的检测(例如对环境舒适度这类综合指标的检测)中，以神经网络作为智能检测中的信息处理元件便于对多个传感器的相关信息(如温度、湿度、风向和风速等)进行复合、集成、融合、联想等数据融合处理，从而实现单一传感器所不具备的功能。
工程领域
1)汽车工程汽车在不同状态参数下运行时，能获得最佳动力性与经济性的档位称为最佳档位。
利用神经网络的非线性映射能力，通过学习优秀驾驶员的换档经验数据，可自动提取蕴含在其中的最佳换档规律。
另外，神经网络在汽车刹车自动控制系统中也有成功的应用，该系统能在给定刹车距离、车速和最大减速度的情况下一人体感受到最小冲击实现平稳刹车而不受路面坡度和车重的影响。
神经网络在载重车柴油机燃烧系统方案优化中也得到了应用，有效的降低了油耗和排烟度，获得了良好的社会经济效益。
2)军事工程神经网络同红外搜索与跟踪系统配合后，可发现和跟踪飞行器。
例如借助于神经网络可以检测空间卫星的动作状态是稳定、倾斜、旋转还是摇摆，一般正确率可达95％。
3)化学工程神经网络在制药、生物化学、化学工程等领域的研究与应用蓬勃开展，取得了不少成果。
例如在谱分析方面，应用神经网络在红外谱、紫外谱、折射光谱和质谱与化合物的化学结构问建立某种确定的对应关系方面的成功应用。