前言:一篇好文章的诞生,需要你不断地搜集资料、整理思路,本站小编为你收集了丰富的人工神经网络的不足主题范文,仅供参考,欢迎阅读并收藏。
关键词:人工神经网络;信息处理;风险评估
中图分类号:TP18 文献标识码:A 文章编号:1009-3044(2014)06-1285-02
Research on the Application of Artificial Neural Network
LI Hong-chao
(China University of Petroleum (East China), Qingdao 266580,China)
Abstract: Artificial neural networks are part of an integrated artificial intelligence, it is proposed is based on research of modern neuroscience. With the continuous development of artificial neural networks, and their use more widely. This article first analyzes the basic concepts and features of artificial neural networks, from six aspects of information, medicine, psychology and other details of the application of artificial neural networks.
Key words: artificial neural network; information processing; risk assessment
1 人工神经网络
人工神经网络,英文名为“Artificial Neural Network”,简称ANN,它充分分析大脑神经突触联接的结构特点,对其进行模拟,然后进行信息处理。简单来说,人工神经网络就是对人脑结构、人脑功能的模仿。它的特点有很多,比如非线性、非局限性、非常定性、非凸性等。这些特点铸就了人工神经网络的各种功能,促进了它的应用。
2 人工神经网络的应用
随着人们对人工神经网络的不断研究,人工神经网络的作用越来越大,给人们提供了更好的服务,下面就以人工神经网络在信息领域、医学、经济领域、控制领域、交通运输、心理学六个方面分别介绍其应用。
2.1 信息领域
人工神经网络在信息领域的应用分为两个方面,一个是信息处理,一个是信息识别。
1)信息处理
由于现代信息的多样化和多变性的特点,信息处理就变得复杂起来,人工神经网络可以对人的一部分思维能力进行模仿甚至代替,解决传统信息处理的困难。在通常情况下,人工神经网络可以自动诊断问题,开启问题求解模式。另外,人工神经网络系统的容错性能高,当其连接线遭到破坏,自身的组织功能还是可以保持它的优化工作状态。因此,军事系统充分利用这一优势,在其电子设备广泛应用人工网络信息系统。
2)模式识别
这项功能的理论基础有两个,一个是贝叶斯的概率论,另一个是申农提出的信息论。模式识别主要是分析和处理存在于目标体上的各种形式的信息,然后在处理和分析的基础上对目标体进行描述、辨认等过程。随着人工神经网络在模式识别中的应用,传统的模式识别逐渐被取代。随着模式识别的发展,已经逐渐应用到语音识别、人脸识别、文字识别等各个方面。
2.2 医学领域
人体是非常复杂的,在医学中,想要弄清楚疾病的类型、疾病的严重情况等,仅仅依靠传统的望闻问切诊断方法是远远不够的,医学的发展需要运用新技术。人工神经网络应用于医学中,可以分析生物信号,观察信息的表现形式以及研究信息的变化规律,将这三者的结果进行分析和比较,从而掌握病人的病情。
1)生物信号的检测与分析
在医学诊断中,医生基本上都是通过对医学设备中呈现出来的连续波形进行分析。人工神经网络中有一套自适应的动力学系统,该系统由一些数量庞大的简单处理单元互相连接。因此,它具有多种功能,比如Massively Parallelism,即所谓的巨量并行,分布式存贮功能以及强大的自组织自学习功能等。用常规处理法处理生物医学信号分析非常困难,而人工神经网络的功能可以有效解决难题,其在生物医学人脑检测与处理中的应用非常广泛,比如分析电脑信号,对心电信号进行压缩处理,医学图像的识别等,在很大程度上促进了医学的发展。
2)医学专家系统
对于传统的专家系统而言,其工作原理基本上就是先由专家根据自己多年的医学经历,总结自己的经验和所掌握的知识,以某种规则的形式将这些经验和知识存储在电脑中,建立一个专家的知识库,然后借助逻辑推理等方式开展医疗诊断工作。但是,随着专家知识的不断增长和经验的日益丰富化,数据库的规模会越来越大,极有可能产生知识“爆炸”的现象。同时,专家在获取知识的过程中也会遇到困难,导致工作效率低下。人工神经网络中的非线性并行处理方式解决了传统专家系统中的困难,在知识推理、自组织等方面都有了很大的提高,医学专家系统也开始逐渐采用人工神经网络系统。
在医学领域中,麻醉和危重医学的研究过程中,存在很多的生理方面的分析与检测工作,人工神经网络系统有良好的信号处理能力,排除干扰信号,准确检测临床状况的相关情况,有力促进了医学的发展。
2.3 经济领域
经济的快速有效增长是基于人们对市场规律良好的掌握和运用以及对经济活动中的风险评估,及时应对和解决,这样才能保障经济活动的快速发展。人工神经网络应用于经济领域,主要有预测市场价格和评估经济风险两个方面。
1)预测市场价格的波动情况
商品的价格主要是由市场的供求关系和国家宏观调控来变化的。国家的宏观调控是客观存在的,我们可以在遵循国家宏观调控的前提之下分析市场的供求关系,从而预测商品的市场价格。在传统的统计学方法中,在预测价格波动时因其自身的局限性,难以做出科学的判断。人工神经网络可以有效处理不完整数据和规律性不强的数据,它是传统统计方法所不能达到的。人工神经网络系统基于市场价格的确定机制,综合分析影响商品价格的因素,比如城市化水平、人均工资水平、贷款情况等,将这些复杂的因素综合起来,建立一个模型,通过模型中的数据显示,科学预测商品的市场价格波动情况,有效利用商品的价格优势。
2)评估经济风险
经济风险,即Economic Exposure,它指的是由于经济前景的一些不确定因素,导致经济实体出现重大的经济损失。在处理经济风险的时候,做好的措施就是防患于未然,做好评估和预测,将经济风险扼杀在萌芽时期。人为的主观判断经济风险具有一定的可靠性,但是也存在很多的不足。将人工神经网络系统应用于评估经济风险,可以有效弥补人为判断风险的不足。人工神经网络先提取具体风险来源,然后在此基础上构建出一个模型,这个模型一般要符合实际情况,通过对模型的研究,得出风险评价系数,最终确定有效的解决方案。
2.4 控制领域
随着人工神经网络的不断发展,人们开始研究其在控制领域的应用。比如现在的机器人的摄像机控制、飞机控制等。它主要是通过控制图像传感器,再结合图像表面的非线性关系,进行计算和分析,另外,它还可以将图像传感器瞄准到处于运动状态中的目标物上。
2.5 交通运输
交通问题具有高度的非线性特点,它的数据处理是非常庞大和复杂的,这与人工神经网络有很大的吻合性。就目前来讲,人工神经网络应用到交通领域有模拟驾驶员的行为、分析交通的模式等等。
2.6 心理学
人工神经网络是对人脑神经元的信息处理能力的模拟,本身就带有一定的抽象性,它可以训练很多的认知过程,比如感觉、记忆、情绪等。人们通过对人工神经系统的不断研究,多个角度分析了其认知功能。就目前来看,人工神经网络可以分析人的认知,同时对认知方面有缺陷的病人进行模拟,取得了很大的进步。当然,人工神经网络应用于心理学领域也存在很多的问题,比如结果精确度不高、模拟算法的速度不够等,这些都需要人们持之以恒的研究。突破这些难题,促使人工神经网络有效应用于心理学领域。
3 结束语
综上所述,随着人工神经网络的不断发展,它特有的非线性适应能力和自身的模拟结构都有效推动了其应用范围。我们应该不断运用新技术,不断完善人工神经网络的功能,拓宽其应用范围,促进其智能化、功能化方向发展。
参考文献:
[1] 毛健,赵红东,姚婧婧.人工神经网络的发展及应用[J].电子设计工程,2011(12).
[2] 林和平,张秉正,乔幸娟.回归分析人工神经网络[J].吉林大学学报:信息科学版,2010(3).
[3] 李雷雷.人工神经网络在建筑工程估算中的应用研究[D].华北电力大学,2012.
关键词:神经网络;边坡;稳定性
引言
边坡的稳定性是目前岩土工程界研究的重大课题,在矿山工程、水利工程以及建筑工程等诸多领域都涉及到边坡的稳定性问题。边坡工程是一个动态开放的、复杂的、非线性的系统问题,影响边坡稳定性的因素不但有地质和工程因素,而且还具有不确定性。目前,评价边坡稳定性的方法有层次分析法、灰色理论法、极限平衡法、有限元法等方法,但是这些方法难以摆脱人为因素的影响,计算复杂,具有一定的局限性。本文将人工神经网络的知识应用到边坡稳定性的预测中,结合人工神经网络在结构上的分布式存储和并行处理的特点,使人工神经网络具有较好的容错性、高度非线性映射、以及自适应、自组织学习的能力,从而能够捕捉边坡稳定性与影响边坡稳定因素之间的相关规律,弥补传统方法在预测边坡稳定性上面的不足,实现对边坡稳定性的可靠预测。
1 神经网络原理
人工神经网络ANN(artificial neural network)是属于人工智能(artificial intelligence)范畴的一种计算技术,它根据人们对生物神经网络的研究成果设计出来,具有良好的数学描述,可以方便地用计算机程序加以模拟。
目前,最常用的人工神经网络模型有线性神经网络、RBF神经网络、BP神经网络等,本文采用误差信号反向传播的BP神经网络对边坡的稳定性进行研究。BP神经网络在训练时,由信号的正向传播和信号的反向传播共同构成神经网络的学习过程,其训练流程示意图如图 1 所示。
图1 基于 BP 算法的神经元网络结构训练流程图
2 神经网络模型建立及训练
2.1 输入样本和输出样本的选择
基于BP人工神经网络的边坡稳定性预测模型的建立,首先是确定神经网络模型各层的节点个数。本文采用某矿山的边坡工程实例进行 BP 神经网络模型的有效检验,选取影响边坡稳定性的6个主控因素为输入样本,即:确定输入变量为 D1—边坡高度指标,D2—重度指标,D3—内聚力指标,D4—摩擦角指标,D5—边坡角指标,D6—孔隙压力比指标。
输出向量是边坡稳定性状态代码,将边坡稳定性状态代码分为两种类型:即1代表边坡稳定性状态为破坏,0代表边坡稳定性状态为稳定。
2.2 模型的训练和预测
本文通过编写程序语言,结合Matlab7.0来实现边坡稳定性的预测,应用人工神经网络工具箱中的newff函数来建立一个前馈型的边坡稳定性预测网络模型,在进行网络样本训练时,其中各参数的设定情况为:学习效率设为0.5,网络训练的最大迭代次数为15000次,其收敛精度设置为0.001,采用随机赋值的方法设定网络训练中权值和阈值的初始值。网络的输入层和隐含层均采用对数型S型函数作为传递函数。通过BP神经网络信号误差反向传播算法所建立的边坡稳定性预测网络模型,在样本训练的过程中,当网络训练达到所设置的目标精度或者满足最大迭代次数时,自动停止训练。
本文收集整理了国内外各类矿山及岩土工程中潜在或滑动破坏模式为圆弧形滑落的稳定边坡和失稳破坏边坡实例共10个(破坏4,稳定6)。根据提供信息包括边坡结构参数,岩土体的物理力学性质参数,边坡稳定状态及极限平衡法计算安全系数(表1)。输入层的6个神经元分别对应参数:重度、粘聚力、摩擦角、边坡角、边坡高度、孔隙压力比。将10个样本提供网络学习,经922次迭代后网络收敛。训练样本的神经网络的计算结果见表2。网络训练误差曲线图如图2所示。
根据以上预测结果可知,预测精度达到了预定的要求0.001,预测结果与边坡稳定性的实际情况相符,本文建立的BP神经网络边坡稳定性预测模型预测效果较好,预测精度较高,能够满足实际工作的需要,输出结果与现场情况吻合。
3 结论
人工神经网络将制约和影响边坡稳定的可直接取实测数据的定性因素包括边坡结构参数(高度、角度等)以及岩土体的物理力学性质(粘聚力、摩擦角、干容重等)纳入模型参与稳定性评价,借助计算软件MATLAB编制计算程序加以实现。
实际应用表明,神经网络模型由于具有很强的自学习、自组织的能力和高度非线形动态处理能力,用来评价边坡的稳定性有较好的适用性,可以加以推广应用。
参考文献
[1] 飞思科技产品研发中心. 神经网络理论与MATLAB7实现[M]. 北京: 电子工业出版社, 2005: 97-116.
[2] 李春辉. 基于BP神经网络的煤与瓦斯突出危险性预测的研究[D]. 昆明:昆明理工大学, 2010: 40-58.
[3] 刘勇, 江成玉. 基于BP神经网络的煤与瓦斯突出危险性的预测研究[J]. 洁净煤技术,2011(1): 97-100.
[4] 冯夏庭, 王泳嘉, 卢世宗. 边坡稳定性的神经网络估计[J].工程地质学报,1995(4): 54-61
[5] 侯殿昆, 宋秀琴, 刘景凡. 基于神经网络的多参数露天边坡稳定性分析[J]. 辽宁工程技术大学学报, 2007, 26(5): 649-651.
[6] 邹义怀, 江成玉, 李春辉. 人工神经网络在边坡稳定性预测中的应用[J]. 矿 冶, 2011, 20(4): 38-41.
关键词:人工神经网络 反向传播算法 故障诊断
1 引言
随着经济的发展,空调系统得到了越来越广泛的应用,空调设备已成为重要的生活必备品之一。这就要求空调系统可靠性高且功能齐全,而且在故障诊断维修服务方面达到一定的水平。国内目前的大部分空调系统中无故障诊断系统,当空调系统出现故障后,维保人员往往不能及时、准确地了解系统出现故障的原因及相关信息,空调系统无法得到及时修复,这种情况急需得到改善。
2 关于故障诊断技术
故障诊断FD(fault diagnosis)是一种了解和掌握设备在使用过程中的技术,确定其整体或局部是否正常,早期发现故障及其原因并能预报故障发展趋势的技术。在诊断过程中,必须利用被诊断对象表现出来的各种有用信息,经过适当地处理和分析,做出正确的诊断结论。在制冷暖通空调领域,1987年在彦启森教授的建议下,才开始了故障诊断专家系统在制冷暖通空调领域的研究应用[1]。
3 人工神经网络用于空调系统故障诊断的基本原理
人工神经网络(Artificial Neural Network.简称ANN)正是在人类对其大脑神经网络认识理解的基础上人工构造的能够实现某种功能的神经网络。它是理论化的人脑神经网络的数学模型,是基于模仿大脑神经网络结构和功能而建立的一种信息处理系统。它实际上是由大量简单元件相互连接而成的复杂网络,具有高度的非线性,能够进行复杂的逻辑操作和非线性关系实现的系统。
典型的神经网络结构如图1所示。
在众多的人工神经网络模型中,最常用的是BP(Back Propagation)模型,即利用误差反向传播算法求解的多层前向神经网络模型[2]。BP网络在故障诊断、模式识别、图像识别、管理系统等方面都得到了广泛的应用。本文讨论利用神经网络中的BP模型进行空调系统的故障诊断。
首先需要进行知识的获取。由专家提供关于各种空调系统故障现象(征兆集)及相应的故障原因(故障集)实例作为学习样本。将数据分为两部分,一部分用于训练网络,另一部分用于测试。将训练网络的数据按一定顺序编码,分别赋给网络输入、输出节点,通过神经网络学习算法对样本进行学习,经过网络内部自适应算法不断修正权值,直到达到所要求的学习精度为止。此时在大量神经元之间联结权值上就分布着专家知识和经验。训练完毕后,再将测试网络的数据从初始状态出发,向前推理,将显示出的故障结果与实际的测试数据结果相比较,如果误差很小,说明网络的权值建立正确;如果误差较大,说明网络的权值建立有误,需要重新进行网络的训练。
将训练样本训练完毕后,即可进行空调系统的故障诊断。只要实际输入模式接近于某一个训练时的学习样本的输入模式,则可产生出接近学习样本的输出结果,也就是所谓的自联想功能。同时,由于网络计算上的大量并行性,当机器运行状况改变,出现网络学习未考虑的情况时,系统亦能给出正确分类结果。同时将新数据并入网络,实现系统的自适应。一般来说,学习的故障实例样本越多,诊断结果的准确率越高。
4 BP学习算法
BP算法因其简单、易行、计算量小、并行性强等优点,是目前神经网络训练采用最多也是最成熟的训练算法之一。BP算法的实质是求解误差函数的最小值问题,由于它采用非线性规划中的梯度下降法(Gradient Descent),按误差函数的负梯度方向修正权值 [3]。其主要思路是如果求出训练网络的指标函数误差:
一般的BP算法称为标准误差逆传播算法,也就是对应每一次输入都校正一次权值。这种算法不是全局误差意义上的梯度下降计算。对各个神经元的输出求偏导数,那么就可以算出误差对所有连接权值的偏导数,从而可以利用梯度下降法来修改各个连接权值。真正的全局误差意义上的梯度下降算法是在全部训练模式都学习完后才校正连接权和阈值。其计算流程如图2所示:
5 故障诊断实例 5.1 空调系统故障诊断的BP网络建立
空调系统故障模式及故障机制分析[4]如表1所示
表1 空调系统故障模式及故障机制分析 表示
符号
表示
符号
房间温度均偏高
1.冷冻机产冷量不足
2.喷水堵塞
3.通过空气处理设备的风量过大,热交换不良
4.回风量大于送风量
5.送风量不足(可能空气过滤气堵塞)
6.表冷器结霜,造成堵塞
相对湿度均偏低
7.室外空气未经加湿处理
系统实测风量大于设计风量
8.系统的实际阻力小于设计阻力
9.设计时选用风机容量偏大
房间气流速度超过允许流速
10.送风口速度过大
关键词:专家系统 神经网络 故障诊断 旋转机械
引 言
针对旋转机械故障的复杂性、多样性和诊断时对领域专家知识的依赖性,对旋转机械的故障诊断提出了采用人工神经网络(ANN)和传统专家系统(ES)融合的新途径,充分利用人工神经网络和专家系统各自特点,使其功能互为补充。解决了传统的专家系统在旋转机械故障诊断中遇到的知识获取的“瓶颈”等问题。同时也解决了单一神经网络系统在旋转机械故障诊断中遇到的不足。这种人工神经网络和专家系统集成的故障诊断方法,能提高旋转机械故障诊断的能力,更大限度地发挥人工智能技术在诊断领域的威力。
1、基于神经网络与专家系统集成的旋转机械故障诊断模型
基于神经网络与专家系统集成的旋转机械故障诊断模型如图1所示。
图1 神经网络与专家系统集成的诊断系统模型
各部分的主要功能是:
1)编译器。主要是将符号知识转换成神经网络所必须的数据知识。
2)神经网络。主要完成专家系统的推理工作。其实质是神经网络的计算,即由已知的征兆向量经过神经网络计算获得故障向量。
3)行为解释。利用网络中的各项数据(包括征兆输入数据、故障输出数据和隐含神经元输出数据)及输入神经元,输出神经元的物理含义并结合知识库中的连接权值来形成规则,其过程相当于神经网络训练的一个逆过程。
4)知识库管理。存储和管理知识库的知识,丰富知识库,以便系统不断完善。
5)人机接口。以友好的人机界面同用户交互。
6) 数据库。用于存储在线监测和诊断时所需的实时检测到的工作数据、推理过程中所需要和产生的各种诊断信息;静态数据库用于存储故障时检测到的数据或人为检测到的一些特征数据。
7) 知识获取。知识获取过程就是网络的学习过程,主要有两种途径实现,一是直接从数据化的实例中学习,二是从传统的专家系统已获取的知识中学习。
2基于神经网络和专家系统的旋转机械故障诊断方法
1) 诊断参数的选取
根据故障机理,若某一故障发生,则其特征参数将发生较大变化。因受各种因索影响,尽量不以绝对值作为异常诊断的依据,而要与初始值或正常值进行比较,用其比值作为检测参数来进行诊断。为此,诊断的监测参数定义为:
(1)
式中: ——相对于 的待检状态参数值;
——相对于 的正常状态参数值。
两者的比值与—门限值进行比较若大于门限值.故障征兆输入取为“1”即故障征兆存在,否则取为“0”,即故障征兆不存在。
2)知识库的建立
它包括知识获取和知识存储两个过程。知识获取表现为训练样本的获得与选择,训练样本来源于同类型诊断对象在正常运转时和带故障运行时的各种特征参数。知识存储是将由训练样本对神经网络进行训练获得的连续权值和阈值进行存储,从而形成知识库。
3)神经网络模块结构图
为了进一步提高系统的推理和学习能力,建立了故障诊断神经网络模型,其结构如图2所示。神经网络采用N层结构的BP网络。抽取出故障若干信息作为网络的输入;并从工程实例中选取有代表性的样本对网络进行训练;训练完毕后即可利用神经网络进行推理。当出现网络拒识样本时,通过专家进行判断推理,然后将此样本输入到训练样本集中,使网络继续学习,对权值进行调整,直至做出正确推理为止。
图2故障诊断神经网络模型
4)知识处理
在旋转机械故障诊断神经网络专家系统中,只需将观测到的故障现象通过编译器转化为数值知识,送入神经网络,然后计算网络输出,最后将网络的数值输出经反编译器转化为符号知识,即得到了故障原因,这种专家系统的知识处理是与神经网络的结构紧密相关的统一体,不需增加相应的推理机构,将数值知识转换为符号知识的反编译器是编译的逆过程,有与编译器类似的结构。
4、算例
以某一旋转机械为例,用MATLAB工具,通过神经网络与专家系统集成的方法实现故障诊断。
选用旋转机械常见的不平衡、不对中、油膜涡动等常见的10种故障作为网络的输出。取9个频段的谱峰能量归一化值,作为输入[6]。因此,该网络的输入神经元应为9个,输出神经元为10个。
训练BP网络。将上述数据作为样本训练BP网络。首先确定BP网络的结构,BP网络输入神经元数为9,输出神经元数为10,而隐含层数及每层的神经元数目经过MATLAB程序多次仿真实验,结果表明当采用双隐含层网络时,第一隐含层的神经元数为9,第二隐含层神经元数为11,网络训练10步时误差就可下降到0。故选择的双隐含层BP神经网络结构为9-9-11-10为最佳网络结构。
测试BP网络。利用训练好的神经网络进行故障诊断,故障诊断运行的部分结果见表2。诊断结果表明,对于已经学习过的样本知识,网络输出与期望结果充分相符,表明该网络能够正确地实现故障诊断;当输入数据在一定范围内偏离样本知识时,网络的输出具有接近样本的倾向,因而表明了该网络在故障诊断方面的使用可靠性。
表2故障测试结果
续表2
5、结论
在旋转机械故障诊断中,将神经网络和专家系统结合,弥补了旋转机械故障诊断专家系统存在的不足。实例证明,该方法诊断效率和精度较高,是一种有效的故障诊断途径。
参考文献
[1]徐敏.基于神经网络集成的专家系统模型[J].计算机工程与设计,2006,(4).
在进行经济管理工作的时候,需要从工作中出现的庞大的信息进行分析和处理,这些数据是重要的资源公司和机构需要这些资源做了分析、决策。然而,经济管理人员如何处理这些信息,从而使这些资源能够得到更好的决策服务,是经济管理人员需要不断探索的问题,在很多的研究过程中相关的许多研究人员已经取得了较为合适的方法去处理数据,但这些方法往往并不适用于人们获得大量正确的感官使自己不足以判定自己的决定或感觉。不过由于计算机技术的发展,让人们在处理这些数据的过程中,获得了很大的方便,因为电脑可以有效地对大量的数据进行处理,分析,因此,计算机科学与技术,经济管理提供了在工作过程中带来极大的方便。
2、计算机科学与技术在经济管理过程中的应用形式
2.1运用人工神经网络的形式来对信息进行分析
在动物界的神经传递过程,以及两者之间的神经元有突触,发挥信息的一对神经元之间传递的作用。在传送过程中会被用来传播若干神经递质,这些不同类型的神经递质的那些神经元接收时的轴突,会有许多分支。神经递质中的信息传送的神经元再传递到受体细胞,然后。这种形式的信息传递有很多好处,研究人员受到这些启示后,他们发明了一种自组织特征映射算法,以实现有效的传递信息。因此对计算机技术,其在外界的时间表达的发展以及当前正在使用的方式为数值向量,并且对于神经系统,这也是在该信号中的信息的传播的移位。因此,使用计算机技术进行的信息的神经之间的信息发送处理,具有非常相似的地方。
2.2这种人工神经网络的信息处理方式具备的功能
有关信息处理这个人工神经网络,它是基于神经网络的生物的形式来学习了,那里的人工神经网络的这个系统,也就是现在的一些智能计算机功能与神经系统的生物学特性有很大一部分是类似的,。第一,它具有如下特性反映在存储器中,因为它是基于生物神经模型来设计,因此,其在信息存储和分析,将在第一保留该信息,并且还具有关联存储器的功能。其次,它具有的功能,可以是非线性映射。因为在许多实现该操作,不能够建立的输入信息与输出的数量之间的线性关系,因此设计了许多熟悉的模型不能在其他信息处理系统来执行。然而,使用人工神经网络的设计方法,使得它可以满足非线性映射信息处理的过程中,也可以设置在设计过程中大量的非线性数学模型,并且每个字段可以是得到了应用。另外,该人工神经网络的信息处理模式中,还可以输入的信息来确定和实现有效的分类,原本存在于该信息的信息处理是不容易的分离和鉴定的问题,以便有效的解决方案。最后一个是,它可以具有的信息和输入,并输出将是一种有效的处理数据知识的内容的功能,因为该人工神经网络模型具有神经传递在生物学的特性,所以它可以在信息到达时,它的分析和信息处理为那些谁满足要利用的条件,并存储。这使信息的处理时,数据可根据它们的特性进行分类和分析。
3、人工神经网络的信息处理技术在经济管理中的应用
计算机科学与技术带来的这个神经网络的信息处理模式的发展过程中,因为它的一些特性和功能,已有效地用于许多领域,解决了传统的信息处理那些不能够解决谁的问题,并取得了良好的效果。因此,目前的做法是,不仅能够使用在经济管理过程信息,还是在医药,工程和其他经济领域已被广泛使用。由于计算机模拟人类思维与人类思考有着极大的相似度,因此在经济管理和其他需要人类思维仔细工作的领域中计算机就可以代替人类进行大量的思考,从而减少人脑处理数据的时间提升效率的同时也降低了人们的劳动脑力,提升了工作品质。
3.1在信贷分析过程中需要对这种信息处理技术加以利用
对于信贷分析,信贷评估机构是有自己的特点,所以在信息化的过程,因为这些公司带来不同形式的信息,制作过程,以判断其可信度,大的问题,这是很难判断出来,使很多时候会带来大量的经济损失。然而,采用这种判断方法的人工神经网络的信息技术,将上有效地解决这些问题完成的。在这些贷款时,信用评级公司,只需要输入信息编码到它,你可以分析数据,由于数额较大的信息输入,使评价过程更加准确地完成更多的工作。利用这种技术,不仅可以做到的准确度,而且还避免了主观的思维操作者的形式。这是这些优点的存在,使得其被非常广泛地应用于在企业风险分析的过程。
3.2使用这种方法可以对市场做到更准确的预测
在经济管理过程中,需要对一些看起来似乎是有效的市场进行分析,并做相关的未来发展趋势的预测,在决策过程,这些预测结果能够起到参考作用,使得投资的风险可以减小。利用人工神经网络预测市场上的信息处理技术,使得市场价格走势和走势进行了考虑和分析,让一个可靠的市场模型可以被创建。例如,在期货市场上使用这种技术,可以预测其未来的价格。而这项技术也已经在股市应用。随着科学技术和计算机技术的发展日趋成熟,使得在其工作过程中已经能够针对非常复杂的工作得到了良好的解决方案。在经济管理过程,从而产生大量的数据,使用传统方法是难以解决的,但是利用计算机科学和技术,我们可以模仿人在神经传递中的处理信息的方式来进行处理,利用它们工作为人类提供了极大的方便。
4、结束语
【关键词】小波神经网络;建筑承发包价格;预测
0.引言
建筑市场的健康发展对于拉动经济增长,调整产业结构,改善人民生活水平起着重要的作用。建筑市场又是一个复杂的系统,因为建筑市场设计到建筑材料市场、金融市场、劳动力市场等各方面的发展,所以对于建筑市场进行研究是必要的。建筑工程承发包模式在我国建筑市场中扮演的角色越来越重要,其中,建筑工程承发包价格管理尤为重要,直接关系到国家建设资金的合理利用,关系到维护建筑市场的秩序以及承发包双方的合法权益,是国家有关部门和建筑各方都非常关心的问题。目前,可用于承发包价格预测的方法很多,比如回归分析法、因果分析法、灰色系统以及BP神经网络等各种预测方法。但是,由于建筑承发包价格具有非线性趋势,因此,就必须利用模拟非线性的模型,前面几种方法在这方面都存在不足。本文依据小波的时频域特征,将小波分析理论与神经网络预测模型结合在一起,提出了一种新的预测模型―小波神经网络模型,并将其应用于房地产价格指数的预测,解决了预测非线性时间序列的不足[1]。
1.小波神经网络模型
小波神经网络(Wavelet Neural Networks,缩写WNN), 是近几年国际上新兴的一种数学建模分析方法,是结合最近发展的小波变换良好的时频局域化性质与传统人工神经网络的自学习功能力而形成的。最早是由法国著名的信息科学研究机构IR ISA 的Q inghua Zhang 等[2]于1992 年提出的, Y C Pat i 等[5]对离散仿射小波神经网络进行了研究.小波神经网络是通过小波分解进行平移和伸缩变化后而得到的级数,具有小波分解的一般逼近函数的性质与分类特征。并且由于它引入了两个新的参变量,即伸缩因子和平移因子,所以小波神经网络具有比小波分解更多自由度,从而使其具有更灵活有效的函数逼近能力,更强的模式识别能力和容错能力。由于其建模算法不同于普通神经网络的BP算法,故可有效地克服普通人工神经网络模型所固有的缺陷[3]。
小波神经网络是基于小波分析而构成的一类新型前馈网络,也可以看作是以小波函数为基底的一种新型函数连接神经网络,其信号的表达式通过将所选取得小波基叠加来实现的等[4]。在信号分类中,子波空间可作为模式识别的特征空间,通过将小波基与信号向量的内积进行加权和来实现信号的特征提取,然后将这些特征输入到分类器中,它结合了小波变换良好的时频局域化性质及神经网络的自学习功能,因而具有良好的逼近与容错能力[5]。
小波神经网络学习的具体算法如下:
3.基于小波神经网络的建筑承发包价格预测
3.1数据的选取与预处理
以绍兴市市砖混结构住宅为例,对建筑工程承发包价格进行预测研究。根据绍兴市统计年鉴,2005 年~2009 年浙江建设工程材料信息价以及调研得到影响建设工程承发包价格因素的相关数据,为了更方便的进行预测,首先要进行归一化处理,采用公式:
表1 经过归一化处理后的建筑承发包价格
Table1 Normalized real estate price index
3.2小波神经网络预测模型预测结果
在设计网络时采用三层网络模型,这样比采用四层网络不易陷入局部极小值。采用此结构对上面归一化的中房指数数据进行预测。并将整个过程运用Matlab进行编程实现将数据分为两组,前一组用于训练网络,后一组用作检验。用小波神经网络预测模型进行预测,结果如表2所示。
表2 小波神经网络预测结果
Table 2 Forecast result of WNN
4.小结
小波神经网络是结合最近发展的小波变换良好的时频局域化性质与传统人工神经网络的自学习功能而形成的,具有深厚的数学基底,被广泛应用于各个领域。本位在介绍小波神经网络的同时,建立起了一种小波神经网络预测模型,并将其应用于建筑承发包价格的预测当中。
【参考文献】
[1]诸静.智能预测控制及其应用[M].杭州:浙江大学出版社,2000.
[2]刘明才.小波分析及其应用[M].北京:清华大学出版社,2005.
[3]王洪元等.人工神经网络技术及其应用[M].北京:中国石化出版社,2002.
随着我国城市化、工业化规模的日益扩大和人口的不断增长,生活污水和工业废水量也随之大幅增涨,大量未经处理污水或者处理后不达标的尾水直接排入水体,导致水环境污染问题日益突出。在众多污染物中,氨氮是其中主要污染物之一。根据 2013 年中国环境统计年报,全国废水排放总量为 695.4 亿吨,其中氨氮排放量达 245.7 万吨。氨氮超标排放,容易引发水体富营养化,造成地下水硝酸盐超标等问题。据报告[1]全国湖泊和水库富营养化比例达 27.8%;地下水中“三氮”(亚硝酸盐、硝酸盐和氨氮)超标严重,其中较差和极差监测点分别占总监测点数的 43.9%和 15.7%。水体富营养化,会破坏水体生态平衡,造成水体功能下降、水生生物死亡等灾难性后果,不仅制约了水资源的利用价值,而且会直接影响人类的健康与社会经济的可持续发展。 加强污染源治理,提高污水处理水平,是控制水体富营养化,防止水体污染有效途径。《国家环境保护“十二五”归划》中新增了氨氮和氮氧化物排放量作为经济社会发展的约束性指标,要求 2015 年氨氮和氮氧化物排放量须比 2010 年减少 10%以上。然而,目前我国众多新建和已建污水处理厂大多使用传统脱氮技术,其自动控制水平低下,运行管理费用高,导致出水水质不能稳定达标。由此研发以防止水体富营养化为目的新型脱氮技术及其自动控制研究已成为国内学术界的主要研究目标之一。 污水脱氮处理过程涉及多种微生物,受环境影响大,操作复杂,采用人工控制方式,出水水质稳定性差,因此加强污水脱氮处理自动控制研究是实现高效稳定脱氮的必然途径。由于经典控制理论多以污水生物脱氮模型为基础,对于控制对象具有非线性、大时变、大滞后性的系统,难以建立精确数学模型,因此很难获得良好的控制品质。智能控制是自动控制发展的高级阶段,具有自学习、自适应和自组织能力,可以解决经典控制难以解决的复杂控制系统问题。在污水脱氮处理中引入智能控制,不仅可以减小系统干扰对运行的影响,而且能够提高处理效率和降低运行成本。由于目前国内污水处理智能控制研究与应用尚处于起步和发展阶段,因此,加强污水处理智能控制技术研究具有十分重要的现实意义。
.........
1.2 国内外研究现状
传统生物脱氮过程一般可分为三步:第一步是氨化作用,即水中的有机氮在氨化细菌的作用下转化成氨氮。第二步是硝化作用,即在供氧充足的条件下,水中的 NH+ 4 -N 首先在亚硝化菌(ammonia oxidizing bacteria,AOB)的作用下被氧化成NO- 2 -N,然后再在硝化菌(nitrite oxidizing bacteria,NOB)的作用下进一步氧化成NO- 3 -N。第三步是反硝化作用,即硝化产生的 NO- 2 -N 和 NO- 3 -N 在反硝化细菌的作用下被还原成 N2。 传统生物脱氮工艺硝化和反硝化两个过程需要在两个或以上互相隔离的反应器中进行,或者在同一个在时间或者空间上交替缺氧和好氧的反应器进行,因此存在诸多不足: 生物脱氮技术的新发展突破了传统理论的认识,主要开发了短程硝化反硝化工艺、同步硝化反硝化工艺、厌氧氨氧化以及单级自养脱氮等新工艺。其中单级自养脱氮技术因同时具备短程硝化反硝化工艺和厌氧氨氧化工艺优点,得到国内外学者们广泛关注。 单级自养脱氮工艺反应器内微生物种类多,而且相互间关系较复杂,因此对反应器环境条件的控制要求更高。影响单级自养脱氮工艺的主要因素有 DO、pH、温度等。研究表明,限制性供氧方式是单级自养脱氮的一个重要特点,DO 的高低是实现单级自养脱氮工艺最重要的控制条件,它不仅关系着 NOB 能否被淘汰,而且决定了系统中活性污泥絮体或生物膜内好氧和厌氧共存的微环境能否形成,使短程硝化和厌氧氨氧化的联合反应能够顺利进行[2]。1995 年 Muller 等[3]发现自养硝化污泥在低氧条件下可以产生 N2。1997 年 Hippen 等[4]在德国 Mechernich 地区的垃圾渗滤液处理厂也发现,在不外加有机碳源以及 DO 限制条件下,反应器中的 DO 值始终维持在 1.0mg/L 左右,生物转盘中超过 60%的 NH+ 4 –N 转化为 N2。试验中进水 TOC 小于 20mg/L,而且出水中 TOC 也没有明显减少.
...........
2 SBBR 单级自养脱氮工艺
2.1 单级自养脱氮工艺概述
单级自养脱氮工艺是指在同一个反应器内由自养微生物完成 NH+ 4 -N 至 N2的全部转化过程的一类工艺。单级自养脱氮现象先后被国内外众多研究者们发现并冠以不同的工艺名称,这些工艺包括 CANON(completely autotrophicnitrogen removal over nitrite) 工 艺[31]、 OLAND(oxygen-limited autotrophic nitrification-denitrification)工艺[5]、DEMON(aerobic/anoxic deammonification)工艺[4]等。 CANON 工艺是由荷兰 DELFT 技术大学的学者在 SHARON(Single reactor for high activity ammonia removal over nitrite))工艺和厌氧氨氧化工艺的基础上研发出来的,该工艺 NH+ 4 -N 的转化途径分两步进行:第一步,系统中一部分 NH+ 4 -N 通过亚硝化转化为 NO- 2 –N;第二步,系统中另一部分 NH+ 4 –N 和第一步产生的 NO- 2 –N 反应生成 N2。CANON 工艺生物膜内化学反应模型如图 2.1 所示[32]。OLAND 工艺是由比利时 Gent 微生物实验室的 Kuai 和 Verstraete 研发命名的,该工艺是利用普通硝化污泥在限制 DO 的条件下,使硝化过程仅进行到 NO- 2 -N 阶段,然后在无外加碳源情况下,利用厌氧氨氧化细菌(Anaerobic ammonia oxidation bacteria,AAOB)的一步生化去除高氨氮废水中氮的过程。从机理上看 OLAND 工艺与 CANON 工艺十分相似,均可认为是 SHARON 和厌氧氨氧化工艺的耦合。
.........
2.2 单级自养脱氮工艺的影响因素
单级自养脱氮工艺反应器内微生物种类繁多,种间关系复杂,因此对环境条件的控制要求
十分苛刻,其中 DO、pH、温度是其主要影响因素。单级自养脱氮工艺一般可看作是短程硝化和厌氧氨氧化两个途径联合实现的。该工艺的功能菌包括 AOB、NOB 和 AAOB,其中 AOB 和 NOB 是好氧菌,AAOB 是严格厌氧菌,因此 DO 是单级自养脱氮工艺最重要的控制条件,通过调控反应器 DO 值,可以使系统中活性污泥絮体或生物膜内形成良好的好氧和厌氧共存的微环境,从而使得短程硝化和厌氧氨氧化的联合反应能够顺利进行。在单级自养脱氮系统内,温度的高低不仅会影响亚硝化反应和厌氧氨氧化反应的速率以及系统的脱氮性能,而且会影响出水中 N 元素的形态。单级自养脱氮适宜温度范围在 22~35℃,在这个温度范围内,AOB 和 AAOB 的最佳温度相近,AOB 比 NOB 生长迅速,并且能刺激 AAOB 的生长。pH 可通过两个途径影响单级自养脱氮工艺,其一是通过影响微生物活性直接影响脱氮效果,其二是通过影响反应器中游离氨的浓度间接影响脱氮效果。单级自养脱氮工艺是由不同微生物协同完成的,而微生物各有不同的最佳pH 值,因此可以通过调节反应器 pH,培养 AOB 和 AAOB 细菌,抑制 NOB 和其他细菌实现单级自养脱氮。水中氨氮可以以游离态和离子态存在,当 pH 高时,在同样氨氮浓度下,游离态的氨氮浓度更高,而游离态氨氮对 NOB 细菌产生明显的抑制作用。 ...........
3 人工神经网络智能控制系统设计 ..... 10
3.1 人工神经网络........... 10
3.2 PID 控制基本原理.... 18
3.3 基于人工神经网络的单级自养脱氮智能控制系统设计 ....... 22
3.4 本章小结.......... 30
4 SBBR 单级自养脱氮智能控制试验研究........ 31
4.1 SBBR 单级自养脱氮启动试验 .......... 31
4.2 SBBR 单级自养脱氮启动控制 .......... 38
4.2.1 硬件配置 ....... 38
4.2.2 BP 神经网络 PID 反馈控制实现...... 39
4.3 SBBR 单级自养脱氮工艺运行控制 ........... 44
4.3.1 硬件配置 ....... 44
4.3.2 RBF 神经网络前馈控制实现........... 44
4.3.3 人工神经网络智能控制实现 ........... 47
4.4 本章小结.......... 49
5 总结与展望 ....... 51
5.1 总结 .......... 51
5.2 展望 .......... 52
4 SBBR 单级自养脱氮智能控制试验研究
本章通过试验研究确定启动阶段不同进水 NH+ 4 –N 和 COD 浓度下总氮去除率最大时的 DO 值,构建基于 RBF 神经网络前馈和基于 BP 神经网络 PID 反馈的复合控制系统,以实现 SBBR 单级自养脱氮工艺启动和高效稳定运行。
4.1 SBBR 单级自养脱氮启动试验
试验用反应器为如图 4.1 所示的 PVC 材质的圆柱形,该反应器直径 180mm、高 470mm、总容积约 12L,有效容积为 10L,内置纤维填料,填充比为 60%。控制反应器温度在 30±0.2℃,采用额定功率 0.12kW、额定流量 15m3/h的鼓风机曝气。试验装置配有工控机、变频器、PLC 及在线溶解氧仪。 试验采用初期进水为高浓度 NH+ 4 –N 和 COD,通过调节反应器内 DO 值,使得出水水质稳定达标后,再逐级降低进水 NH+ 4 –N 和 COD 浓度方法实现 SBBR 单级自养脱氮工艺的启动。课题组前期试验完成了进水 NH+ 4 –N 浓度分别为2000mg/L、1500mg/L、1000mg/L、500mg/L,对应 COD 浓度分别为 350mg/L、350mg/L、120mg/L、100mg/L 的 SBBR 单级自养脱氮工艺的驯化,本研究在此基础上继续降低进水 NH+ 4 –N 和 COD 浓度,直至进水 NH+ 4 –N 和 COD 浓度处于城市污水一般水平,根据进水 NH+ 4 –N、COD 浓度不同,本试验可分为三个阶段,各阶段时间、进水 NH+ 4 –N 和 COD 浓度、反应器排水比例、排水周期及曝停比如表4.1 所示。
..........
总结
针对 SBBR 单级自养脱氮启动困难和运行难以稳定,对自动控制精度要求高的问题,试验启动阶段,采用进水 NH+ 4 –N 和 COD 浓度由高到低进行驯化,确定不同浓度下,总氮去除率最大时的 DO 值,并构建基于该 DO 值的 BP 神经网络 PID控制,实现 SBBR 单级自养脱氮工艺启动;试验运行阶段,构建了人工神经网络智能控制系统,以实现 SBBR 单级自养脱氮工艺高效稳定运行。 主要研究内容方法及结果结论如下:
关键词: 金融风险;预警;模糊聚类;神经网络
一、引言
2014年中央经济工作会议明确提出要“高度重视财政金融领域存在的风险隐患,坚决守住不发生系统性和区域性金融风险的底线”。2008年国际金融危机爆发以来,世界各国应对金融危机的经验表明,构建金融体系风险预警机制是必要且可行的。相对于整体金融风险而言,区域性金融风险具有更强的外部传导性和可控性,且一般早于整体金融风险爆发,在某种程度上可被视为整体金融风险的预警信号,因此,作为金融监管的有效补充,研究区域性金融风险早期预警体系并进行预警分析将对金融风险管控具有重要意义。
国外学者对于早期风险预警体系的研究较为系统和成熟,且已有一些金融监管部门建立了早期预警模型,如美联储的SEER评级模型、美国联邦存款保险公司的SCOR模型、法国银行业委员会的预期损失模型、国际货币基金组织的宏观审慎评估模型等。受国际金融危机的影响,近年来国内学者在早期金融风险预警和管理方面的研究也越来越多,但由于预警指标选择、风险状态划分及临界值选择等均不尽相同,因此建立的预警模型也有所差异。本文通过借鉴国内外对金融风险预警指标体系的既有研究成果,综合运用模糊聚类分析、BP神经网络建模等计量分析方法,构建区域金融风险预警体系,以期对区域性金融风险的评估和防范提供客观性依据。
二、总体分析框架及模型构建
本文构建的区域金融风险早期预警体系由三部分组成:首先结合安徽区域特点,构建包括经济因素、财政因素、金融因素、房地产发展、企业经营状况等的区域性金融风险指标体系;其次利用模糊聚类分析对研究样本进行分类,确定BP神经网络预警模型的分割点,为区域性金融风险水平的划分提供一种新思路;最后采用人工神经网络来预测未来金融危机发生的可能性。
(一)区域性金融风险指标体系
区域性金融风险指标选择既要考虑金融风险因素的普遍性,更要体现区域经济金融发展特点。指标选取原则:一是全面性,所选指标尽可能全面反映区域金融风险;二是可得性,所选数据要容易获得,且期间口径未作调整;三是匹配性,数据收集成本与模型预测的经济实用性相匹配。
(二)风险评估的模糊聚类分析
在分析一个时间序列的区域金融风险时,我们可以把指标相似程度高的样本聚集在一起,作为一个整体进行分析,以达到简化的效果。传统的聚类分析是一种“硬划分”,即把每个待识别的对象严格划分到某类中,具有“非此即彼”的性质,这种分类的类别界限也是分明的。然而,在大多数情况下,风险类别可能并没有严格的界定,其类属性方面存在中介性,适合进行“软划分”。模糊集理论为这种划分提供了强有力且有效的分析工具,采用相应的模糊聚类模型,可以取得较好的分类效果。“模糊聚类”概念最早由Ruspini提出,之后人们利用这一概念提出了多种模糊聚类算法。本文运用神经网络来进行模糊聚类,其优势在于神经网络的并行处理结构。
(三)基于人工神经网络的早期预警体系
人工神经网络ANN)是一种在生物神经网络启示下建立的数据处理模型,其具有强大的模式识别和数据拟合能力,最为可贵的是神经网络还有自学习和自适应性。自适应性是指一个系统能够改变自身的性能以适应环境变化的能力,当环境发生变化时,相当于给神经网络输入新的训练样本,网络能够自动调整结构参数,改变映射关系,从而对特定的输入产生相应的期望输出。人工神经网络包括很多种,不同类型的神经网络适用于解决不同的问题,其中最为常用的一种就是BP神经网络,它是一种多层前向神经网络,其权值调整采用反向传播学习算法。而自组织竞争神经网络则使用了与前向神经网络完全不同的思路,采取竞争学习的思想,网络的输出神经元之间相互竞争,同一时刻只有一个输出神经元获胜,因此自组织神经网络主要用于解决分类、聚类问题。鉴于此,本文在进行区域金融风险评估时,运用自组织竞争神经网络进行模糊聚类分析,得出各样本的风险类别;而在构建区域风险早期预警体系时,采用BP神经网络进行分析和预测。
三、区域性金融风险早期预警的实证分析
(一)区域性金融风险监测指标的选取与标准化
金融风险是一个综合性、系统性的概念,单纯选用个别指标不足以反映其真实水平。因此,根据客观性、完备性、科学性、实用性、重要性原则,同时借鉴国内外研究成果,本文选取了经济、财政、金融、房地产、企业经营等方面的17个金融风险评价指标,样本区间为2009年至2014年一季度的安徽省季度数据,并根据指标与金融风险的正负相关性对其进行标准化。
关键词:BP神经网络;学习率;改进算法
反向传播BP(back propagation)神经网络是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一[1]。BP算法的思想是,学习过程由信号的正向传播与误差的反向传播两个过程组成。正向传播时,输入样本从输入层传入,经各隐层逐层处理后,传向输出层。若输出层的实际输出与期望的输出不符合,则转入误差的反向传播阶段。误差反传是将输出误差以某种形式通过隐层向输入层反传,并将误差分摊给各层的所有单元,从而获得各层单元的误差信号,此误差信号即作为修正各单元权值的依据。这种信号正向传播与误差反向传播的各层权值调整过程,是周而复始地进行的。权值不断调整的过程,也就是网络的学习训练过程。此过程一直进行到网络输出的误差减少到可以接受的程度或进行到预先设定的学习次数为止[2]。
1 BP标准神经网络算法分析
1.1 BP算法存在的不足及原因分析
标准的BP算法因其简单、易行、计算量小、并行性强等优点,是目前神经网络训练采用最多也是最为成熟的训练算法之一。与早期的人工神经网络模型相比,BP反向传播神经网络无论是在网络理论还是网络性能方面都更加成熟,起最突出的优点就是具有很强的非线性映射能力。但人们在使用过程中发现BP算法也存在着训练时间长、收敛速度慢、易陷入局部最小点等缺陷。
1.1.1 学习算法的收敛速度慢
BP神经网络学习训练次数过多,导致学习训练过程过长,学习收敛速度太慢,即使一个比较简单的问题,也需要几百次甚至上千次的学习才收敛。
1.1.2 隐含层层数及节点数的选取缺乏理论指导。
BP神经网络隐含层的层数以及节点数的选取,目前尚无理论上的指导,大多根据经验确定。因此网络往往具有很大的冗余性,无形中增加了学习的时间。
1.1.3 训练时学习新样本有遗忘旧样本的趋势
BP神经网络的学习与记忆具有不稳定性。当给一个训练结束的BP神经网络提供新的记忆模式时,会破坏已经调整完毕的网络连接权值,导致已经记忆的学习模式信息消失。
2 改进的BP神经网络学习算法
2.1 学习方法的改进
对于标准的BP算法,由于其自身存在的缺点,BP算法的研究提出了一些的改进算法,如自适应调节学习率[3],引入兜度因子[4],使用双曲正切函数[5],但是都没有取得非常理想的效果,对此我们可以采用以下的算法来解决问题。
2.1.1 加入动量项
反向传播算法提供使用最速下降方法在权空间计算得到的轨迹的一种近似。我们使用的学习率参数η越小,从一次迭代到下一次迭代的网络突触权值的变化量越小,轨迹在权值空间越光滑。我们可以设想使用一下的方法来解决这个问题。
ΔWji(n)=αΔWji(n-1)+ηδj(n)yi(n) (1)
α是动量常数,通常是整数。
为了看出动量常数在一系列模式呈现上对突触权值的影响,我们将(1)式重新写成带下标t的一个时间系列。索引t从初始时间0到当前时间n,式(1)可被视为权值修正量ΔWji(n)的一阶差分方程。解这个关于ΔWji(n)的方程得到
这代表一个长度为n+1的时间序列,并且我们可以知道δj(n)yi(n)等于- 因此我们可以把公式(2)重写等等价形式
当前修正值ΔWji(n)代表指数加权的时间序列的和。欲使时间序列收敛,动量常数α必须限制在0和1之间。当α等于0,反向传播算法运行起来没有动量。虽然在实际中动量常数α不大可能是负的,但是还有可正可负。
当偏导数 在连续迭代中有相同的代数符号,指数加权和ΔWji(n)在数量上增加,所以权值ΔWji(n)被大幅度调整。在反向传播算法中包含动量趋于在稳定的下降方向上加速下降。
当偏导数 在连续迭代中有相反的代数符号,指数加权和ΔWji(n)在数量上减少,所以权值ΔWji(n)调整不大。在反向传播算法中包含动量具有稳定符号正负摆动方向的效果。
3 仿真实验
根据以上的算法,我们对标准的BP算法和改进的BP算法进行仿真计算,仿真计算的结果如表1所示。
可以看出改进后得算法能减少迭代次数,减少实际误差。
4 结论
从大量的实际应用来看,收敛速率慢,学习时间长,产生振荡,甚至达不到收敛精度是常规BP算法的主要缺陷,通过对BP算法的改进,增加动量项,可以减少BP算法的迭代次数,减少误差,提高BP算法的工作效率。
[参考文献]
[1]Adaboost算法改进BP神经网络预测研究[J].计算机工程与科学,2013年8月.
[2]韩立群.人工神经网络教程[M].北京:人民邮电出版社,2007年7月.
[3]马锐.人工神经网络原理[M].北京:机械工业出版社,2010年9月.