反向传播神经网络基本原理精选(九篇)

前言：一篇好文章的诞生，需要你不断地搜集资料、整理思路，本站小编为你收集了丰富的反向传播神经网络基本原理主题范文，仅供参考，欢迎阅读并收藏。

第1篇：反向传播神经网络基本原理范文

【关键词】BP神经网络；预测；误差

1.引言

许多金融学家和计量学家对发达国家成熟市场的波动性进行了广泛的研究，但是在对股市的预测上，由于人们在知识、能力、经验上存在着较大的差异，加之问题本身又具有很大的随机性和高度的非线性，即使是一些金融专家、炒股高手对出现的同一复杂行情进行分析，往往也会得出不同的结论。此外，传统方法还要事先知道各种参数，以及这些参数在什么情况下应作怎样的修正。这都给预测股市带来一定的困难。

基于以上股市预测的困难性，本文提出了人工神经网络的预测方法。随着计算机、人工智能尤其是专家系统的发展，人工神经网络技术逐渐成熟并开始应用于各个领域。人工神经网络（ANN，简称神经网络）作为一种由大量简单神经元广泛相互联接而成的非线性映射或自适应动力系统，恰好能有效解决股市预测处理中常见的困难，因此它很快在股市预测分析与处理领域得到了广泛的应用。

2.BP神经网络介绍

2.1 BP 网络算法的基本原理

2.1.1 标准的BP 网络算法的基本原理

BP(Back Propagation)网络是反向传播的多层前馈式网络，是目前使用最为广泛的一种人工神经网络。它的核心是BP算法，一种对于多基本子系统构成的大系统进行微商计算的严格而有效的方法，采用最小均方差学习方式。BP 神经网络的原理说到底就是给它一些输入变量，然后就有一个输出，输出值的情况与实际的情况进行比较，差多少，然后再进行网络的内部调整，属于有导师的学习规则，使得网络输出与实际逼近。

神经网络能学习和存贮大量的输入―输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。人工神经网络由非线性函数组成，而由一系列不同权重的线性过滤器组合而成：

2.1.2 BP网络算法的优化

由于常用的BP算法主要缺点为收敛速度慢，局部极值，难以确定隐含层和隐含层的个数，使得在实际应用中BP算法很难应用，因此，出现了许多改进算法。BP算法的改进主要有两种途径，一种是采用启发式学习方法；另一种则是采用更有效的优化算法，本文采用了动量法和学习率自适应调整的策略，从而提高了学习速度并增加了算法的可靠性。动量法降低了网络对于误差曲面局部极值的敏感性，有效地抑制了网络陷于局部极小。

2.2 BP神经网络的模型识别及步骤

模式通常指对事物的一种定量描述或结构描述，“识别”是指对客观事物按其物理特征进行分类。模式识别的基本原理就是从待识别对象和理想标本之间若干特征的相似性推断它们之间总体的相似性。BP神经网络模式识别过程分为训练阶段和模式分类阶段，分为初始化、数据与处理、网络训练以及模式分类四个步骤。以下利用实证分析来进行着四个步骤。

3.实例分析

下面以上证的某股600个交易日的股票价格收盘指数作为原始样本数据，对上述神经网络模型进行求解，预测20天的收盘价，与实际收盘价进行比较，并求出其误差：

式中，表示第日的实际收盘指数，表示第日的预测值，表示误差。主要按照如下几部分来处理：（1）准备600个数据的时间序列，进行归一化。BP神经网络中每个神经元的输出值由传递函数Sigmoid函数来计算，其输出值的范围是（0，1）；（2）留出最后20个数据，作为预测检验使用；（3）绘制图像，包括实际值和预测值，能量函数；（4）分析实际和预测两曲线的趋势。

采用I-J-K学习模型，该模型是输入层I个神经元，隐层J 个神经元，输出层K个神经元。利用BP神经网络模型训练500次、800次、1000次的输出值和期望值以及能量函数（或者叫误差函数）E，结果见图1到图3。

通过上面的图示，可以看到用BP神经网络预测的效果比较明显，这说明该模型适用于短期预测吗，股市的波动在很多地区都是非常剧烈的，各种因素的综合作用也使得长期股指的变动具有极大的不确定性，使得预测变得很困难。而BP网络的算法原理和自学习的特点使其能够充分挖掘出隐含在样本数据中的规律性，实现从输入空间到输出空间的非线性映射，对样本数据进行精确的拟合。从而BP神经网络的方法对于股市上的一些很难看出规律的数据列的预测而言，无疑是一个比较精确的预测方法。

4.结论

本文介绍了股市的特点以及股市预测的困难性，提出了利用BP神经网络的方法来解决股市预测问题。文章介绍了BP神经网络算法的基本原理，BP神经网络算法的优化，BP神经网络模型识别及步骤，最后后以上海证券交易所每日股票价格收盘指数为分析对象，把原理应用于实际，利用BP神经网络对股票价格收盘指数进行了短期预测，并计算出预测值和实际值的误差。通过实验发现该模型收敛速度快，预测精度非常高，对预测短周期内股指波动具有较强的适用性。

参考文献

[1]高琴.人工神经网络在股市预测模型中的应用[J].微电子学与计算机,2007年第24卷第11期.

[2]周翠红,路迈西.线性回归与人工神经网络预测煤炭发热量[J].煤炭科学技术,第37卷第12期.

[3]尹庆双,奉莹.人工神经网络在第三产业就业分析中的应用[J].人口与经济,2009年第6期.

[4]邹文安,刘宝,姜波,杨春生.基于Excel 技术平台人工神经网络BP模型及应用[J].水文,第30卷第1期.

[5]康进,刘敬伟.非参数回归估计与人工神经网络方法的预测效果比较[J].统计与决策,2009年第23 期.

[6]杨本昭,田耕.基于人工神经网络的客户价值分类研究[J].科技管理研究,2007年第12期.

第2篇：反向传播神经网络基本原理范文

关键词：智能车；电磁循迹；路径识别；神经网络；偏差量

中图分类号：TP391.41 文献标识码：A 文章编号：1007-9599 （2012） 17-0000-02

1 引言

人工神经网络是模拟生物神经系统建立起来的非线性动力学系统具有自我学习、联想存储以及高速寻求最优解的强大功能，它的分类能力和非线性映射能力使得它在系统辨识、模式识别、图像处理、智能控制等领域有着广泛而吸引人的前景，并且越来越多地被人们所运用。

“飞思卡尔”杯全国大学生智能车竞赛中的电磁组是依据电磁感应原理，实现智能车的自动循迹。以飞思卡尔公司生产的MC9S12XS128芯片作为微控制器，以通有固定频率和电流值的导线作为目标路径，用电磁传感器检测智能车偏离导线的偏差量，配合舵机和电机的动作在50cm宽的赛道上实现自动循迹。其中偏差量的检测与计算是智能车能否准确快速跟踪引导线的关键。当前偏差量的计算算法主要有两种，一种是取感应电动势最大的传感器位置作为线径所在位置，这种方法本质上以点来检测，测量精度低，需要的传感器数量大。另外一种是根据感应电动势的特点，将两个传感器的感应电动势作差值计算，得到电动势与偏差量之间的一个二次函数，这种方式计算是关于二次函数来进行的，计算量大，对检测的实时性会有所影响。本文提出的方案，是以电感线圈作为传感器来检测路径，基于人工神经网络算法来计算车身相对引导线的偏移量，把样本数据放在matlab环境下训练，得到满足误差要求的参数，然后将参

2 BP神经网络模型基本原理

BP神经网络由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息，并传递给中间层各神经元；中间层是内部信息处理层，负责信息变换，中间层传递到输出层各神经元的信息，经进一步处理后，完成一次学习的正向传播处理过程，由输出层向外界输出信息处理结果。当实际输出与期望输出不符时，进入误差的反向传播阶段。误差通过输出层，按误差梯度下降的方式修正各层权值，向隐层、输入层逐层反向传播。BP神经网络的拓扑结构如所示：

BP神经网络主要由输入层、隐含层和输出层构成。输入信号先向前传播到隐含层节点，经作用函数后，把隐节点的输出信号传播到输出节点，最后得出输出结果。本文中隐层节点的激励函数选取双曲正切S型函数，

（1）

在正向传播过程中，输入信息从输入层经隐含层逐层处理，并传向输出层。每一层神经元的状态只影响下一层神经元的状态。如果输出层得不到期望的输出，则转入反向传播，将误差信号沿原来的连接通道返回，通过修改各层神经元的权值，使得误差信号最小。

前向传播过程：

（1）隐层神经元的输入为输入神经元的加权和加上输入层到隐层的阈值。

（2）

（2）隐层神经元的输出为：

（3）

（3）输出层神经元输出为隐层神经元的输出加权和加上隐层到输出层阈值。

（4）

网络输出y1与理想输出y01的误差e1为：

e1=y10-y1 （5）

反向传播采用L-M优化算法，调整各层间的权值。L-M算法是一种利用标准的数值优化技术的快速算法，它是梯度下降法与高斯-牛顿法的结合。设W（k）表示第 k 次迭代的权值和阈值所组成的向量新的权值和阈值组成的向量W（k+1）可根据下面的规则求得：

（6）

对于L-M算法则有：

（7）

其中，J为雅克比矩阵。比例系数μ>0为常数，I为单位矩阵。当 μ=0即为高斯-牛顿法；当μ取值很大则接近梯度下降法。实践证明，采用L-M算法可以较原来的梯度下降法提高速度几十甚至上百倍。本文采用L-M算法进行训练。

3 Matlab中神经网络算法的实现

3.1 获取样本数据

根据麦克斯韦电磁场理论，通有交变电流的导线会在其周围产生交变的电磁场，如果在里面放置一个电感线圈，电磁感应作用会使线圈中产生交变的感应电压。智能车使用电感线圈作为传感器检测导线周围磁场信息，由电磁学可知，水平放置的电感线圈在导线磁场内的感应电动势E=h/（h2+x2），h表示传感器离导线的垂直距离，x代表传感器距离导线的水平距离。假设h=5cm，x在±15cm内电动势和水平距离的关系曲线如2所示：

经过实际测试，使用四路传感器比较合适。传感器分布以车轴为中心，间隔为12cm 呈“一”字均匀排列构成前瞻，传感器距离水平面15cm，距离车身50cm。布局示意图如图3所示：

图2电动势和水平距离的曲线图 3前瞻分布示意图

将传感器的感应电动势进行检波放大 ，把处理后的信号经AD转换得到传感器信号值。转换过程如图4所示。

本系统的BP神经网络的输入为四路传感器的感应电压信号，输出为小车车身偏移引导线的水平偏移量，综合考虑训练误差和速度，设置隐含层得神经元个数为10。训练目标误差平方和取为0.000005 ，训练次数为5000次。

3.2 智能车算法实现：

最终算法的实现需要将神经网络的训练好的权重和阈值移植到智能车的微控制器中去。通过BP神经网络对智能车采集到的输入信号进行处理运算，计算得到的输出层的神经元输出值就是当前车轴中心线偏离引导线的偏差量，根据此值进行相应的打舵与调速操作，以实现智能车的快速稳定循迹。

4 实验结果与分析

记录并分析实验数据，matlab训练得到的实际输出与理想输出之间的关系如图5所示：

由上图可知，基于BP神经网络算法计算出的偏差量与理想偏差量之间的误差在±1cm以内。在“飞思卡尔”杯智能汽车竞赛中，由于神经网络的非线性映射能力和高速寻求最优解能力，把它应用到智能车的循迹上来效果是很明显的，它不需要计算感应电动势和偏差量之间的非线性关系，把计算量很大的训练过程放在matlab环境下进行，微控制器直接使用matlab下训练得到的参数就可以了。

5 结论

本文在当前主流循迹算法的基础上，提出了基于BP神经网络的路径识别算法，并详细叙述了基本原理和具体的实现方法。实验结果证明：使用BP神经网络计算得到的结果误差在±1cm以内，它可以大幅度地提高智能小车对环境的适应性，从而降低系统对智能小车硬件的要求。但其激励函数和学习算法仍需要深入研究，并且在实际运用中还有待提高，以达到更好的应用效果。

参考文献：

[1]卓晴，黄开胜，邵贝贝.学做智能车[M].北京：北京航天航空出版社，2007.

[2]马锐.人工神经网络原理[M].机械工业出版社，2010.

[3]张雨浓，杨逸文，李巍.神经网络权值直接确定法[M].中山大学出版社，2010.

[4]陈杰，黄鸿.传感器与检测技术[M].北京：高等教育出版社，2002.

[5]飞思卡尔竞赛管理秘书处，电磁组竞赛车模路径检测设计参考方案，2010.

[6]童诗白，华成英.模拟电子技术基础[M].高等教育出版社，2000.

[7]傅荟璇，赵红等.MATLAB神经网络应用设计[M].机械工业出版社，2010.

[8]CS12微控器原理及应用[M].北京航天航空大学出版社，2007.

第3篇：反向传播神经网络基本原理范文

Abstract: This paper proposed financial crisis early-warning model of China's real estate listed companies based on BP neural network, through the domestic and foreign companies' financial crisis esrly-warning literature and combining the characteristics of China's real estate industry.

关键词: 财务危机;BP神经网络;房地产上市公司

Key words: financial crisis;BP neural network;real estate listed companies

中图分类号:F275 文献标识码:A文章编号:1006-4311(2010)08-0051-01

0引言

对于中国房地产公司,构建一套完善先进的预警系统十分重要,构建一套基于科学预警理论研究成果指导下的专门针对房地产行业的财务危机预警系统迫在眉睫,它是房地产健康发展的客观要求,也是政府和房地产管理部门的规划、决策和调控走向理性的需要。

1文献回顾

几十年来,理论界围绕着如何更加准确地预测企业的财务危机展开了多种多样的研究,研究的重点集中在如下两个方面:

1.1 企业财务危机的界定国外对财务危机的界定因研究目的不同而不同,主要有以下几种观点:①已经破产的企业;②进入破产程序的企业;③无力还本付息的企业;④资不抵债的企业。因此我们认为,由于有研究结果表明我国的资本市场目前仍处于弱式有效市场,信息的不对称导致尚无一种客观的评判标准,故对我国上市公司财务危机的界定主要是依据证监会定义ST企业的前两条标准,即出现下列情况之一的企业:①最近一个会计年度的审计结果中显示的净利润均为负值;②最近一个会计年度的审计结果中显示的其股东权益低于注册资本。即每股净资产低于股票面值。

1.2 财务危机预测方法的研究从研究方法看,预测企业是否发生财务危机的方法一直在不断地改进和创新之中。从传统的预测方法来看,统计判定分析一直是研究预测企业是否会发生财务危机的一个好方法。

近年来,有关企业财务预测分析日益已经引起国内理论界和实业界的高度重视。我们认为,在我国目前上市公司财务数据并不很完善的情况下,应用多种研究方法建立我国上市公司的财务危机预测模型,通过比较分析有利于提高模型的适人工神经网络是由大量称为神经元的简单信息单元广泛连接组成的复杂网络用范围和预测的准确性。

2BP神经网络基本原理

人工神经网络是由大量称为神经元的简单信息单元的广泛连接所组成的复杂网络系统,用于模拟人类的大脑神经网络的结构和行为,使它具有学习、记忆、联想、归纳、概括和抽取、容错以及自学自适应等能力。本文采用典型的3层前馈型BP网络模型,它具有网络训练信息的正向传播过程和误差的反向传播过程。

设ai是网络样本输入值,bi是网络隐含层的输出值,cj为对应的实际输出值。输入神经元到隐层神经元的权值为vhi,隐层神经元到输出神经元的权值为wij,另外分别用θi和xj表示隐含层和输出层的阈值。三层BP网络的数学模型表示为:①利用样本输入层的信息以及输入神经元到隐层神经元的权值得到隐含层节点的输出:bi=fahvhi+θi,(i=1,2,…,p);②输出层节点的输出:cj=fwijbi+xj,(i=1,2,…,q)最初的wij是设定的随机值;③输出层节点实际输出值cj与期望输出值c之间的误差:dj=cj(1-cj)(c-c);④向隐含层节点反向分配误差,令:ei=bi(1-bi)wijdj(i=1,2,…,p);⑤隐含层到输出层的权值通过下式调整:Δwij=abidj(i=1,2,…,p;a是学习系数,0

3神经网络的建立及模拟训练

3.1神经网络模型的建立

通过广泛考察以往国内外相关研究对最终模型有显着贡献的预测变量,主要采用的基本财务指标可以分为5个一级指标,盈利能力、偿债能力、成长能力、扩张能力和营运能力相关指标,又包含12个二级指标。

Bp神经网络把用来描述企业财务状况特征的12个指标做为神经网络的输入向量X=|X1,X2,…,X12|,将代表相应综合评价结果的值作为网络的输出Y,用学习样本训练这个网络,使不同的输入向量得到不同的输出量值,这样神经网络所持有的那组权系数值和阈值,便是网络经过自适应学习所得到的正确内部表示,经过反复学习训练,确定与最小误差相对应的网络参数(权值和阈值),训练即告停止。

3.2指标数据的归一化由于不同的指标数据量纲均不相同,不进行归一化就会将神经网络模型带入较大的系统误差,因此,考虑到神经网络训练的收敛问题,也为了便于最终评价值的确定,在网络学习训练前将学习样本和检验样本的原始指标数据同时进行归一化,以便消除指标量纲不同和系统误差所带来的影响本文采用正向和反向传播公式,将原始指标数据归一化到[0,1]之间。归一化公式为:①正向指标归一化公式:xij=(xij-minxi)(maxxi-minxi);②反向指标归一化公式:xij=(maxxi-xij)(maxxi-minxi)。其中xij是xi中的第j个数据,maxxi是xi中数值最大的数据,minxi是xi中数值最小的数据。

3.3 网络训练过程本文利用DPS软件的Bp神经网络工具箱进行了数据分析,采用12个指标进行上市公司财务预警,这样,网络输入层节点数i定为11,隐含层(中间层)的节点数1,输出层为1,允许误差为0.01,最小转换速度为0.01,最大训练次数为1000次。

将10年的样本数据作为神经网络辨识模型的训练样本,预测2009年企业的财务状况,继续用DPS软件的Bp神经网络工具箱对09年企业的财务数据进行分析,得出2009年的拟合结果为23.440,即2009年企业的财务数据将处于健康状态。

第4篇：反向传播神经网络基本原理范文

【关键词】故障诊断;基本原理;神经网络;实际应用

引言

电梯在实际生活中出现不正常运行、停运等故障是在所难免的，而作为高层建筑中主要的垂直交通工具如果不能及时准确的查明故障原因并维修往往会给乘客带来巨大的生命威胁。只有保证电梯的安全运行，及时的发现故障并解决故障，才能够为乘坐电梯的乘客提供合格的安全保证。目前，国内在用的电梯缺乏完善的故障诊断系统，仅仅依靠维修技术人员的经验以及简单的诊断仪器已经不能够及时的解决复杂的电梯故障问题。神经网络技术可以应用于复杂多模式的故障诊断并且既可以用于实时监测也可以进行离线诊断，在系统模式非常复杂或者根本不知道系统模式的情况都可以应用，这些特点恰恰解决了传统方法中最最难以解决的问题。因此必须加快神经网络技术应用于诊断电梯故障的步伐，形成完善的故障诊断系统，才能更及时准确的查明故障原因进一步及时的解决问题，保证乘客的人身安全。

一、电梯的运行原理和电梯故障的特点

只有清楚地了解电梯控制系统的运行原理才能够及时准确的诊断出电梯故障原因，因此清楚的了解电梯运行原理，每一个电梯维修人员必须要做到。电梯运行过程总体上可分为以下几个阶段：第一、登记层外召唤信号和登记内选指令阶段;第二、电梯门关闭或者电梯按照系统指令停运阶段;第三、启动阶段;第四、在到达信号记录的楼层前进行减速制动;第五、平层开门阶段。在整个过程中电梯需要从外界接收信号并处理，然后完成相应的指令或者输出信号，由此可以将电梯看作是一个完整的独立的系统，只需要外界给予相应的信号就可以自动的做出动作。电梯系统内部复杂的构件紧密的结合在一起，正是如此才使得电梯系统故障具有了复杂性、层次性、相关性以及不确定性的特点。

二、神经网络技术基本原理

生物学上的神经是由一个个简单的神经元相互连接进而形成了复杂的庞大的神经系统，同理，神经网络就是由大量简单的处理单元相互连接形成的复杂的智能系统。单独的处理单元类似于一个神经元，是一个可以接受不同信息但是只输出一种信息的结构单位。神经网络系统与生物学神经系统相似的是具有自我修改能力，它可以同时接收大量的数据并进行统一的分析处理，进而输出相应的处理结果。这就使得神经网络系统具有了高度容错性、高度并行性、自我修改性、学习性以及高度复杂性，也正是由于这些特性才使的利用神经网络技术能够及时准确的查明电梯故障原因并得出故障解决方案。电梯故障诊断中应用的神经网络模型分为三个层次：输入层、接收外部信号或者是电梯自我检测信息（如载重信息）;隐含层、对接收到了大量数据进行相应的分析处理;输出层、将记录着动作命令的数据传送出来。在电梯出现故障时，首先可以通过神经网络模型快速确定故障发生在哪一层达到节约时间的目的。但是神经网络也会因为收敛速度过于慢、训练强度太大或者是选择的网络模型不好等问题导致诊断结果受到影响。

三、神经网络模型在电梯故障诊断中的应用分类

神经网络模型已经成为了如今电梯故障诊断中应用最广泛的技术模型，相比于传统方式它具有诊断速度快、故障原因命中率高的优点，因此引起了各方面专业人士的强烈关注，并在他们的不懈努力下得到了发展与创新。它跨越多个专业领域、通过对各种复杂的高难度工作的不断的发展与改进出现了越来越多的应用模型，下面主要介绍了当前应用最普遍的BP网络模型，并且简单的引入并介绍了近年来新兴的模糊神经网络模型和遗传小波神经网络模型。

（一）BP网络模型

BP神经网络作为神经网络应用最广泛的一种，它多应用的误差反向传播算法使其在模式识别、诊断故障、图像识别以及管理系统方面具有相对先进性。基于BP网络的电梯故障诊断技术就是通过学习故障信息、诊断经验并不断训练，并将所学到的知识利用各层次之间节点上的权值从而表达出来。BP网络系统的主要诊断步骤主要可以分为三步。第一步：对输入输出的数据进行归一化处理，将数据映射到特定的区间。第二步：建立BP网络模型，训练BP网络模型。第三：通过已经训练好的网络模型对原来的样本进行全面的检测。算法步骤：a、在一定的取值范围内对数据进行初始化;b、确定输入值数值大小，计算出预期输出量;c、用实际输出的值减去上一步得到的数值;d、将上一步得到的误差分配到隐含层，从而计算出隐含层的误差;e、修正输出层的权值和阈值，修正隐含层的权值;f、修正隐含层的阈值，修正隐含层和输入层的权值。

（二）遗传小波神经网络模型

遗传算法运用了生物界的优胜劣汰、适者生存的思想对复杂问题进行优化，适用于复杂的故障，起到了优化简化问题的作用。对局部数据进行详细的分析是小波法最大的特点，所以它被誉为“数字显微镜”。遗传算法小波神经网络就是运用小波进行分解的方法分解模拟故障信号，将得到的数据进行归一化，将归一化后的数值输入到神经网络模型中。它融合了神经网络、小波分析和遗传算法三者所有的优点。基于遗传小波神经网络的电梯故障诊断的一般步骤为：测试节点信号采样、小波分解、故障特征量提取、归一化得到训练样本集、遗传算法优化、得到故障类型。遗传小波神经网络模型在故障原因复杂、数据信息量巨大的电梯系统的应用中能够发挥更大的作用。

（三）模糊神经网络模型

模糊神经网络模型就是创新性的将神经网络与模糊理论结合到一起。它采用了广义的方向推理和广义的前向推理两种推理方式。与其它两种模型不同的是，它的语言逻辑、判断依据和结论都是模糊的。但是它的数据处理能力还有自我学习能力并没有因此而变差，反而更加丰富了它的定性知识的内容。在处理实际问题的过程中，首先要建立所有可能发生的故障的完整集合，其次将所有的故障发生原因归入到同一个集合中去，最后就是建立故障和原因的关系矩阵。分别叫做模糊故障集、模糊原因集、模糊关系矩阵。相较于BP网络模型，这种模型更加的简单易行，充分发挥了神经网络和模糊逻辑的优点，不会因为故障原因过于复杂而失去诊断的准确性，在原本丰富定性知识和强大数据处理能力的基础上具有了很大的自我训练能力。

结语

综上所述，神经网络技术可以应用于复杂多模式的故障诊断并且既可以用于实时监测也可以进行离线诊断，在系统模式非常复杂或者根本不知道系统模式的情况都可以应用，这些特点恰恰解决了传统方法中最最难以解决的问题，它的应用提高了电梯故障的诊断速度和准确度，保证了电梯运行的安全性。虽然神经网络技术的优点很多，但是在实际生活中的应用还很少，因此还需要不断的进行改进完善。同时还要注意将集中诊断方法融合到一起，例如稳重提到的模糊神经网络模型和遗传小波神经网络模型都是集成应用的典型代表。

第5篇：反向传播神经网络基本原理范文

关键词：高速公路；隧道施工系统；安全评价；模糊理论；神经网络

0引言

近年来，随着国家高速公路迅猛发展，隧道建设数量也越来越多，规模也越来越大。在隧道施工过程中，由于围岩地质条件的多样性和复杂性，其施工事故发生率比其他岩土工程高且严重，给隧道工程施工人员身心带来严重的危害，社会影响恶劣，有悖于国家建设和谐社会的宗旨。这就要求用科学的方法对隧道施工生产系统进行安全分析与评估，预测事故发生的可能性[1]。

在传统的公路隧道施工生产系统安全评价中，经常使用的安全评价方法主要以定性安全评价方法为主，如专家论证法、安全检查表法及作业条件危险性评价法等[2,3]。近年来，在公路隧道施工生产系统安全评价中，引人了模糊综合评价的方法，取得了较好的决策效果[4]。但是，该方法缺乏对环境变化的自学习能力，对权值不能进行动态调整[5],而神经网络具有非线性逼近能力,具有自学习、自适应和并行分布处理能力，但其对不确定性知识的表达能力较差，因此，模糊控制与神经网络结合就可以优势互补，各取所长[6]，在这方面已经出现了一些研究成果[7～11]。为此，本文把人工神经网络理论与模糊综合评价理论相融合，研究建立了一种模糊神经网络评价模型，对公路隧道施工的安全管理水平进行评价。

1模糊神经网络

1.1基本结构原理

模糊神经网络是由与人脑神经细胞相似的基本计算单元即神经元通过大规模并行、相互连接而成的网络系统，训练完的网络系统具有处理评估不确定性的能力，也具有记忆联想的能力，可以成为解决评估问题的有效工具，对未知对象作出较为客观正确的评估。

根据评估问题的要求，本文采用具有多输人单元和五输出单元的三层前馈神经网络，其中包括神经网络和模糊集合两方面的内容。

1.2神经网络

为了模拟人脑结构和功能的基本特性，前馈神经网络由许多非线性神经元组成，并行分布，多层连接。Robert Hecht一Nielson于1989年证明了对于任何在闭区间内的一个连续函数都可以用一个隐层的BP网络来逼近[12]，因而一个三层的BP网络完全可以完成任意的输人层到输出层的变换。因此，本文研究的公路隧道施工系统安全评价模糊神经网络采用三层BP神经网络结构。输人层有 个神经元，输人向量 ， ，输人层神经元 的输出是输人向量的各分分量 。隐层有个神经元 ， ，若输人层神经元 与隐层神经元 之间的连接权值为 ，且隐层神经元 的阈值为 ，则隐层神经元 的输出为

(l)

式中 是神经元的激励函数，一般选取单调递增的有界非线性函数，这里选用Sigmoid函数：

(2)

由此，隐层神经元的输出为：

(3)

同理可得输出层神经元的输出为：

(4)

1.3学习算法

本网络采用BP学习算法，它是一种有教师的学习算法，其学习过程由信号的正向传播和误差的反向传播组成。基本原理是：设输人学习样本为 个，即输人矢量 ，已知其对应的期望输出矢量(教师信号)为 ，正向传播过程将学习样本输人模式 从输人层经隐含单元层逐层处理，并传向输出层，得到实际的输出矢量 ，如果在输出层不能得到期望输出 ，则转人反向传播，将 与 的误差信号通过隐层向输入层逐层反传，并将误差分摊给各层的所有单元，从而调整各神经元之间的连接权值，这种信号正向传播与误差反向传播得各层权值调整过程是周而复始地进行的，直到网络输出的误差减少到可接受的程度，或进行到预先设定的学习次数为止。

网络的具体学习算法的计算模型如下：

对某一学习样本 ，误差函数为

（5）

式中： 、 分别为该样本的输出期望值和实际值。

对于所有学习样本 ，网络的总误差为

（6）

网络学习算法实际上就是求误差函数的极小值。利用非线性规划中的梯度下降法(最速下降法)，使权值沿着误差函数的负梯度方向改变。

隐层与输出层之间的权值(及阈值) 的更新量 可表示为

（7）

式中： 为学习率，可取 。

将式（6）和（4）代入式（7），并利用复合函数求导的连锁规则，得

（8）

式中： 为迭代次数， 为误差信号

（9）

类似的，输入层与隐层之间的权值（及阈值）修正为

（10）

同理可得

式中 为误差信号

（11）

为了改善收敛性，提高网络的训练速度，避免训练过程发生振荡，对BP算法进行改进，在权值调整公式中增加一动量项，即从前一次权值调整量中取出一部分迭加到本次权值调整量中，即：

（12）

（13）

式中 为动量因子，一般有 。

1.4模糊集合

评估指标集由表征一类评估决策问题的若干性能指标组成。由于指标的量化含有不确定性，故用模糊方法加以处理[13]。评估指标的模糊集合 可表示为

（14）

式中： 是评估指标， 是相应指标的评价满意度， 。

评估指标集用其满意度表示，取值在[0，1]之间，作为模糊神经网络系统中神经网络的输人向量，这正好符合神经网络对输人向量特征化的要求。实践表明，经过对输人向量的特征化处理，可大大减少网络的学习时间，加速网络训练的收敛。

2隧道施工系统安全评价模糊神经网络

2.1指标体系与神经网络划分

实践证明，一个好的隧道施工系统安全评价方法应满足以下要求：评价指标能全面准确地反映出隧道施工系统的状况与技术质量特征；评价模式简单明了，可操作性强，易掌握；评价结论能反映隧道施工系统的合理性、经济性及安全可靠性；评价中所采用的数据易于获取，数据处理工作量小；顶层输出即为系统的专家评估，而每层各评估项目的子系统都可以用子结构表示。

每个子结构具有输人输出关系可表达为

（15）

其中 是子系统的输出， 是子系统的输人矢量， 为相应的专家(加权)知识。

评估专家系统中各子系统的评估由各自的模糊神经网络来完成。

这种对评估系统的结构分解和组合具有如下特点：

（1）每个子系统可以采用较少的神经元来实现神经网络的自学习和知识推理，这样既减少了学习样本数、提高了样本训练速度，又能够独立完成某一推理任务。

（2）分解的各子系统具有相对独立性，便于系统的修改、扩展和子系统的删除，从而具有良好的维护性。

（3）子系统的评估项目即为节点，在系统进行评估推理时产生的评估表示式可以很好地解释评估系统的推理过程，避免了神经网络权值难以理解所致的推理过程难以理解的弱点。

2.2网络的设计

评估问题是前向处理问题，所以选用如前所述的前向型模糊神经网络来实现。

（1）输人层

输人层是对模糊信息进行预处理的网层，主要用于对来自输人单元的输人值进行规范化处理，输出由系统模糊变量基本状态的隶属函数所确定的标准化的值，以便使其适应后面的处理。根据评价指标体系，对应20个指标构建BP网络的输入层为20个节点，将指标转换为相应指数后作为样本进入网络进行计算。

（2）隐层(模糊推理层)

该层是前向型模糊神经网络的核心，用以执行模糊关系的映射，将指标状态输入与评估结果输出联系起来。采用试探法选取模型的隐含层神经元数，即首先给定一个较小的隐含层神经元数，代入模型观察其收敛情况，然后逐渐增大，直至网络稳定收敛。通过计算该模型的隐含层神经元数为28个。

（3）输出层

输出层是求解模糊神经网络的结果，也是最后的评估结果。我们把评价因素论域中的每一因素分成5个评价等级，即

={安全（ ），较安全（ ），安全性一般（ ），较不安全（ ），不安全（ ）}

对应这5个等级，确定输出层为5个节点。这样就构建了一个“20―28―5”的3层BP网络作为评价体系的网络模型。

2.3模糊神经网络训练

网络设计好后,须对其进行训练，使网络具有再现专家评估的知识和经验的能力。样本数据来自我省已经建成的高速公路隧道施工的现场数据库，从中选取30组，其中20组数据作为训练样本，余下的10组作为测试样本。实际网络训练表明，当训练步数为12875时，达到了目标要求的允差，获得模糊神经网络各节点的权值和阈值，网络训练学习成功。根据最大隶属度原则进行比较，与期望结果相符，其准确率为100%。这说明所建立的隧道施工系统安全评价模糊神经网络模型及训练结果可靠。

3 工程应用实例

利用所训练好的模糊神经网络模型，对江西省正在施工的某高速公路A3合同段3座隧道（北晨亭隧道、洪家坂隧道和窑坑隧道）施工系统进行安全评价测定，评价出系统的安全状况与3座隧道施工实际情况完全相符。同时，实际系统的评价结果又可作为新的学习样本输入网络模型，实现历史经验和新知识相结合,在发展过程中动态地评价系统的安全状态。

4 结论

（1）本文对模糊理论与神经网络融合技术进行了研究，建立了一种公路隧道施工系统安全模糊神经网络评价模型，利用历史样本数据进行学习训练和测试，并对工程实例进行了评价。结果显示，该评价方法可行，评价精度满足工程应用要求,为公路隧道施工安全评价探索了一种新的评价方法。

（2）运用模糊神经网络知识存储和自适应性特征，通过适当补充学习样本，可以实现历史经验与新知识完美结合，在发展过程中动态地评价公路隧道施工系统的安全状态，可及时评估出施工系统的安全状况，尽早发现安全隐患。

参考文献：

[1]徐德蜀.安全科学与工程导论[M].北京:化学工业出版社,2005.

[2]刘铁民,张兴凯,刘功智.安全评价方法应用指南[M].北京:化学工业出版社,2005.

[3]田建,李志强,张斌.交通建设工程安全评价技术现状及趋势研究[J].中国安全科学学报,2008,18(6):171-176.

[4]张鸿,刘优平,黎剑华等.基于模糊理论的隧道施工安全预警模型研究及应用[J].中国安全科学学报,2009.19(4):5-10.

[5]刘辉,王海宁,吕志飞.模糊神经网络技术在矿山安全评价中的适应性研究[J].中国安全生产科学技术,2005,1(3):54-59.

[6]张吉礼.模糊-神经网络控制原理与工程应用[M].哈尔滨:哈尔滨工业大学出版社,2004.

[7]葛淑杰,李彦峰,姜天文等.基于模糊神经网络的煤矿安全评价综合评判[J].黑龙江科技学院学报,2007,17(4):321-325.

[8]郑恒,汪佩兰.模糊神经网络在火工品生产系统安全评价中的应用[J].安全与环境学报,2004,4:159-162.

[9田军.基于模糊神经网络的隧道围岩分级系统[J].湖南交通科技,2007,34(4):104-107.

[10]郭宇航,王保国.两类新型神经网络及其在安全评价中的应用[J].中国安全科学学报,2008,18(7):28-33.

[11]宋瑞,邓宝.神经元网络在安全评价中的应用[J].中国安全科学学报,2005,15(3):78-81.

[12]韩力群.人工神经网络理论、设计及应用[M].北京:化学工业出版社,2007.

[13]杨纶标,高英仪.模糊数学原理及应用[M].广州:华南理工大学,2005.

第6篇：反向传播神经网络基本原理范文

只有清楚地了解电梯控制系统的运行原理才能够及时准确的诊断出电梯故障原因，因此清楚的了解电梯运行原理,每一个电梯维修人员必须要做到。电梯运行过程总体上可分为以下几个阶段：第一、登记层外召唤信号和登记内选指令阶段；第二、电梯门关闭或者电梯按照系统指令停运阶段；第三、启动阶段；第四、在到达信号记录的楼层前进行减速制动；第五、平层开门阶段。在整个过程中电梯需要从外界接收信号并处理，然后完成相应的指令或者输出信号，由此可以将电梯看作是一个完整的独立的系统，只需要外界给予相应的信号就可以自动的做出动作。电梯系统内部复杂的构件紧密的结合在一起，正是如此才使得电梯系统故障具有了复杂性、层次性、相关性以及不确定性的特点。

二、神经网络技术基本原理

生物学上的神经是由一个个简单的神经元相互连接进而形成了复杂的庞大的神经系统，同理，神经网络就是由大量简单的处理单元相互连接形成的复杂的智能系统。单独的处理单元类似于一个神经元，是一个可以接受不同信息但是只输出一种信息的结构单位。神经网络系统与生物学神经系统相似的是具有自我修改能力，它可以同时接收大量的数据并进行统一的分析处理，进而输出相应的处理结果。这就使得神经网络系统具有了高度容错性、高度并行性、自我修改性、学习性以及高度复杂性，也正是由于这些特性才使的利用神经网络技术能够及时准确的查明电梯故障原因并得出故障解决方案。电梯故障诊断中应用的神经网络模型分为三个层次：输入层、接收外部信号或者是电梯自我检测信息（如载重信息）；隐含层、对接收到了大量数据进行相应的分析处理；输出层、将记录着动作命令的数据传送出来。在电梯出现故障时，首先可以通过神经网络模型快速确定故障发生在哪一层达到节约时间的目的。但是神经网络也会因为收敛速度过于慢、训练强度太大或者是选择的网络模型不好等问题导致诊断结果受到影响。

三、神经网络模型在电梯故障诊断中的应用分类

神经网络模型已经成为了如今电梯故障诊断中应用最广泛的技术模型，相比于传统方式它具有诊断速度快、故障原因命中率高的优点，因此引起了各方面专业人士的强烈关注，并在他们的不懈努力下得到了发展与创新。它跨越多个专业领域、通过对各种复杂的高难度工作的不断的发展与改进出现了越来越多的应用模型，下面主要介绍了当前应用最普遍的BP网络模型，并且简单的引入并介绍了近年来新兴的模糊神经网络模型和遗传小波神经网络模型。

（一）BP网络模型

BP神经网络作为神经网络应用最广泛的一种，它多应用的误差反向传播算法使其在模式识别、诊断故障、图像识别以及管理系统方面具有相对先进性。基于BP网络的电梯故障诊断技术就是通过学习故障信息、诊断经验并不断训练，并将所学到的知识利用各层次之间节点上的权值从而表达出来。BP网络系统的主要诊断步骤主要可以分为三步。第一步：对输入输出的数据进行归一化处理，将数据映射到特定的区间。第二步：建立BP网络模型，训练BP网络模型。第三：通过已经训练好的网络模型对原来的样本进行全面的检测。算法步骤：a、在一定的取值范围内对数据进行初始化；b、确定输入值数值大小，计算出预期输出量；c、用实际输出的值减去上一步得到的数值；d、将上一步得到的误差分配到隐含层，从而计算出隐含层的误差；e、修正输出层的权值和阈值，修正隐含层的权值；f、修正隐含层的阈值，修正隐含层和输入层的权值。

（二）遗传小波神经网络模型

遗传算法运用了生物界的优胜劣汰、适者生存的思想对复杂问题进行优化，适用于复杂的故障，起到了优化简化问题的作用。对局部数据进行详细的分析是小波法最大的特点，所以它被誉为“数字显微镜”。遗传算法小波神经网络就是运用小波进行分解的方法分解模拟故障信号，将得到的数据进行归一化，将归一化后的数值输入到神经网络模型中。它融合了神经网络、小波分析和遗传算法三者所有的优点。基于遗传小波神经网络的电梯故障诊断的一般步骤为：测试节点信号采样、小波分解、故障特征量提取、归一化得到训练样本集、遗传算法优化、得到故障类型。遗传小波神经网络模型在故障原因复杂、数据信息量巨大的电梯系统的应用中能够发挥更大的作用。

（三）模糊神经网络模型

模糊神经网络模型就是创新性的将神经网络与模糊理论结合到一起。它采用了广义的方向推理和广义的前向推理两种推理方式。与其它两种模型不同的是，它的语言逻辑、判断依据和结论都是模糊的。但是它的数据处理能力还有自我学习能力并没有因此而变差，反而更加丰富了它的定性知识的内容。在处理实际问题的过程中，首先要建立所有可能发生的故障的完整集合，其次将所有的故障发生原因归入到同一个集合中去，最后就是建立故障和原因的关系矩阵。分别叫做模糊故障集、模糊原因集、模糊关系矩阵。相较于BP网络模型，这种模型更加的简单易行，充分发挥了神经网络和模糊逻辑的优点，不会因为故障原因过于复杂而失去诊断的准确性，在原本丰富定性知识和强大数据处理能力的基础上具有了很大的自我训练能力。

四、结语

第7篇：反向传播神经网络基本原理范文

Abstract： This article discusses the green construction theory and builds a construction project green construction assessment index system. The construction project green construction assessment model is built based on BP artificial neural network， and the model is used to simulate the green construction of a practical project.

关键词： BP人工神经网络；绿色施工；评价方法

Key words： BP artificial neural network；green construction；assessment method

中图分类号：TU71 文献标识码：A 文章编号：1006-4311（2015）12-0005-04

0 引言

随着我国建筑业的快速发展，建筑工程建设消耗自然资源和破坏生态环境的问题，已经引起了社会各界的广泛关注，建筑生产活动中的施工阶段是大规模地改变自然生态环境、消耗自然资源的阶段。针对该阶段进行控制和管理，实施绿色施工，可以有效改善建筑工程能耗大、破坏生态环境等的问题。近年来，绿色施工已经成为建筑工程的施工的主要趋势，我国已经在绿色建筑的评价体系研究方面取得了很多富有价值的研究成果，如建设部住宅产业化促进中心制定的《绿色生态住宅小区建设要点与技术导则》、《现代房地产绿色开发与评价》、《绿色奥运建筑评估体系》等，建设部的《绿色施工导则》中给出了绿色施工的定义，指工程施工过程中，在保证质量、安全等基本要求的前提下，通过科学管理和先进技术，最大限度地节约资源与减少对环境负面影响的施工活动，实现节能、节地、节水、节材和环境保护[1]。以这些理论背景为基础，构建绿色施工评价指标体系，研究适用于绿色施工的评价方法对于推动绿色施工实践具有十分重要的意义。

人工神经网络，是利用计算机来模拟生物神经网络系统，通过模拟生物神经系统的工作机理，来抽取其活动过程中的可利用部分通过物理器件进行实现，也就是将生物细胞进行了数学化[2]。目前比较常用的是BP（Back Propagation）神经网络算法。是一种基于逆传播原理的算法，由于它优秀的自学习、自联想功能，使得BP人工神经网络广泛的应用于非线性建模、函数逼近等方面。本文选择BP神经网络模型研究建筑工程绿色施工评价问题，能够模拟出专家对绿色施工评价的思维过程，大大提高工作效率，减少评价周期，避免评价过程中人为因素及模糊随机性的影响。

1 建筑工程绿色施工评价指标

建筑工程绿色施工是一个多种因素相互影响作用的综合系统，建筑工程绿色施工评价工作的进行依赖于绿色施工评价指标的选取的有效性和准确性。本文参考了各位专家学者对绿色施工定义、框架划分及相关文献的研究，并听取了他们的意见建议，从建筑工程绿色施工的本质要求出发，将建筑工程绿色施工评价的总体目标分为施工技术、施工综合管理、各类资源及能源的使用、环境控制这4个指标。并结合对各类资源、能源的节约理念，环境保护目标，可持续发展原则，以人为本的价值观等将这4个一级指标细分为26个二级指标，从而建立了建筑工程评价指标体系，见表1。

2 基于BP人工神经网络的建筑工程绿色施工评价模型

2.1 BP人工神经网络的基本原理

BP神经网络的学习过程是由正向传播和反向传播两个阶段构成的，若给定一组样本的输入值和期望输出值，通过正向传播过程计算各节点之间的权值和阈值，然后通过将误差通过反向传播计算，实现对权值和阈值的调节，反复以上过程直到使输出值落到最终满意的误差范围内，达到网络训练的目的。其具体的计算过程这里以一个分别包含一个输入层、隐含层和输出层的三层的人工神经网络结构加以说明，如图1所示。

令wir表示输入层节点xi到隐含层节点yr间的连接权值，wrj表示隐含层节点yr到输出层节点zj间的连接权值，θr表示为隐含层节点的阈值，θj为输出层节点的阈值：

①给wir、θr、wrj、θj随机赋一个较小的值，其值一般在0到1之间。

②输入样本，设样本个数为P，样本模式为（A（k）C（k））（K=1，2，…，P），即由给定样本的输入值和期望输出值组成的矩阵。将A（k）的值x■■作为输入层节点的值，逐层按公式（1）、（2）所示依次进行正向的计算：

此处的EAV表示的是网络训练的目标误差函数（j=l，2，…，n；k=1，2，…，p）。

基于上述计算，就能把拟解决问题的特征值反应在权值和阈值上，然后就可以利用这组特定的值来求解实际问题的结果。

2.2 面向MATLAB的BP网络评价模型设计

利用计算机软件―MATLAB神经网络工具箱中所具有的函数功能，可以将上诉神经网络的计算过程，通过调用函数来进行实现。

2.2.1 样本数据的选取

以表1所示的建筑工程绿色施工评价指标体系为基础，对各定性指标采用专家评判法进行量化，将绿色施工水平从低到高依次划分为五个等级：低（0，0.2）；较低（0.2，0.4）；一般（0.4，0.6）；较高（0.6，0.8）；高（0.8，1）。通过组织专家对国内的15个项目的绿色施工水平进行评定，得到了这15个项目的绿色施工评价指标值，见表2。

对表2中的数据进行归纳整理，征求各位专家的意见，得到建筑工程项目的绿色施工评价综合评分表，见表3。

2.2.2 模型算法的实现

①确定BP网络结构各层神经元节点数。采用图1所示3层BP网络结构，输入层为各评价指标的评价值，共26个神经元节点，输出层表示对一个建筑工程绿色施工评价的综合结果，即只有一个神经元数值，根据经验公式和反复的迭代试验缺点隐含层神经元节点数目为19个。即本文研究问题的BP神经网络评价模型结构为28×12×1。

②对网络模型进行训练。将表2中前12组数据的专家打分值作为网络的输入节点值输入网络，将表3中的综合评定值作为这12组数据的期望输出值，使用MATLAB软件编程，MATLAB中的语言为：

MATLAB程序语言具体如下：

P=[]'；

T=[]；

（ 输入向量P和目标向量T的矩阵值）

threshold=[]；

（设定网络输入向量的取值范围矩阵，一般单个输入向量的取值范围为[0，1]）

net=newff（threshold，[15，1]，{‘tansig’，‘logsig’}，‘traingdx’）；

（此语句创建BP神经网络，训练函数为traingdx函数；权值调节规则函数为learngdm函数；，各层激励函数类型为{‘tansig’，‘logsig’}）

net.trainParam.epochs=1000；

（设置网络的最大训练次数）

net.trainParam.goal=0.00001；

（设置网络的期望误差）

net=train（net，P，T）；

（对创建的BP神经网络进行训练）

经学习训练后的网络输出结果见表4，它们与期望输出非常接近，绿色评价等级一致。网络训练结果如图2。

③对网络模型进行检测。将表2中后3组数据作为校验数据输入训练好的神经网络，MATLAB中的程序语言为：

P_test=[]'；

（输入测试样本的矩阵值）

Y=sim（net，P_test）.

（对网络模型进行仿真）

得到的综合评价结果见表5。

由表5可见由训练好的神经网络得到的检测样本的实际输出值与期望值误差很小，且综合评价结果与专家评价结果一致。说明得到的神经网络所反映的输入与输出之间的关系是正确的，可以有效地应用于其他建筑工程项目的绿色施工评价。

3 案例分析

某地区税务局的办公楼工程，规划用地约4300m2，地上九层、地下一层，建筑总高度34.5m，框架结构，建筑面积约为8989.44m2。由于该工程建设初期，建设单位、设计单位、监理单位对工程提出了一部分绿色施工要求，施工单位在建设过程中采用了大量的绿色施工新技术、新机械、新工艺。并针对保护环境采取了一定的技术措施，但由于施工工期安排较紧，人员培训不到位等因素的影响，在工程绿色施工方面还存在个别的问题，在对工程项目资料做了仔细研究和对工程项目相关人员进行了了解的基础上，给出了此工程项目绿色施工评价指标的的分值，见表6。

将表6中的数据输入已经训练成功的神经网络模型中，经网络计算，得到该项目绿色施工的综合评价得分为0.6084，属于绿色评价等级中的较高级别，此类工程项目可以在对施工人员进行培训，控制噪声和废水、废料，节约资源与能源方面做进一步的优化从而提高绿色施工水平。

4 结论

本文构建了建筑工程绿色施工评价指标体系，并通过BP人工神经网络法，对建筑工程绿色施工进行了定量化的评价，通过样本的训练和检测验证了模型的有效性，训练好的网络可用于一般建筑工程项目的绿色评价中，可大大提高评价工作的效率，及其准确性、针对性。

参考文献：

[1]熊燕.高等级公路绿色施工评价研究[D].长沙理工大学硕士学位论文.长沙：长沙理工大学，2013.

[2]施彦，韩力群，廉小亲.神经网络设计方法与实例分析[M].北京：北京邮电大学出版社，2009.

[3]陈建国，闵洲源.基于BP人工神经网络的绿色施工评价方法研究[J].基建优化，2007，10（28）：169-172.

第8篇：反向传播神经网络基本原理范文

关键词：图像标注；BP神经网络；Normalized Cuts；图像低层特征

中图分类号：TP391文献标识码：A文章编号：1009-3044(2011)14-3399-02

Image Semantic Annotation Based on BP Neural Network Algorithm

WU Yu-hua

(Department of information Technology, Hengyang Technician College, Hengyang 421008, China)

Abstract: Because of the "Semantic gab" problem in the traditional CBIR(content-based image retrieval ) systems, they are not fit in some special areas. The appearance of Image-Semantic-Annotation can effectively resolve this problem. This paper represents a method that first uses the Normalized Cuts to cut the image into several areas and then extract the low-level features, last use BP neural network algorithm to learn the relations between the areas and the annotation words. The experiment's results proved this method is valid and efficient.

Key words: image annotation; BP neural network; normalized cuts; low-level feature

基于内容的图像检索近10年来得到了研究者的关注,一系列的基于内容的图像检索方法和检索系统被提出来。然而由于计算机对图像信息的理解和人对图像信息的理解存在着客观区别, 检索系统中就难免存在计算机认为的“视觉相似”和人们所理解的“语义相似”之间的“语义鸿沟( Semantic gap )”。如何解决“语义鸿沟”问题是目前CBIR系统亟待解决的技术难题。图像标注这个直观的想法能有效地弥补语义的缺失,它可以利用已标注的图像集自动学习语义概念空间与视觉特征空间的关系模型,并用此模型标注未知语义的图像,即它试图在高层语义特征和底层视觉特征之间建立一座桥梁。因此,它可以一定程度解决大多基于内容图像检索方法存在的语义鸿沟问题。如果能实现自动图像标注,那么现有的图像检索问题实际上就可以转化成技术已经相当成熟的文本检索问题。它的潜在应用领域包括生物医学、商业、军事、教育、数字图书馆和互联网检索等。

1 相关研究工作

图像自动标注技术可以利用已标注的图像集自动学习语义概念空间与视觉特征空间的关系模型,并用此模型标注未知语义的图像,即它试图在高层语义特征和底层视觉特征之间建立一座桥梁。近年来图像自动标注技术正成为国际上图像检索领域的一个研究热点。许多机器学习方法由于能很好地获取图像特征和文本描述之间的对应关系,因而被引入这一领域，并且已经出了一些成果，例如同现模型(Co-occurrence Model)[1],基于机器翻译的对象识别模型[2]，跨媒体相关模型(Cross-Media Relevance, CMR)[3]等等。

本文中我们提出了先使用Normalized Cuts[4]方法对图像进行分割并提取出每个区域的低层特征，再利用BP神经网络算法来学习图像区域特征和标注字的对应关系模型并用此模型来对未知语义图像进行自动标注的方法，实验证明该方法能够取得很好的效果。

2 Normalized Cuts及图像区域特征选择

因为Normalized Cuts在图像分割这块有强的优势，所以本文中我们选择其作为图像的分割方法。先对图像进行Normalized Cuts区域分割，然后提取图像的各个区域特征，在这里我们采用的图像低层视觉特征是颜色、纹理特征的结合。

2.1 Normalized Cuts区域分割

我们使用Timothee Cour等人开发的Multiscale Normalized Cuts Segmentation Toolbox对每个图像（160*160）进行区域分割（nsegs = 8），分割的效果如图1所示。

2.2 低层特征提取

由于图像的颜色分布信息主要集中在低阶矩中，因此我们采用颜色的一阶矩、二阶矩和三阶矩来表示图像的颜色分布。一阶中心矩、二阶中心矩和三阶中心矩分别表示图像或子区域图像的平均颜色、标准方差和三次根非对称性，公式分别为以下式1、2和3：

(1)

(2)

(3)

对于每幅图像每一个分割区域我们可以得到3个颜色分布特征。

我们采用的纹理特征是Gabor纹理特征（Gabor滤波变换后求取图像区域的均值和方差）。Gabor滤波后的部份图像效果图如图2所示。

我们对每幅图像从4个尺度(0,1,2,3)和8个角度（0℃，45℃，90℃,135℃,180℃,225℃,270℃,315℃）组合进行滤波后再提取每个区域的均值和方差作为纹理特征,这样每个区域就可得到32个纹理特征。

通过上面的低层特征提取，每幅图像的每个区域我们可以得到共有35个低层特征，即颜色特征3个，纹理特征32个。

3 BP(Back Propagation)神经网络

3.1 BP神经网络典型结构

图3为BP网络结构图。

3.2 BP学习算法[5]

BP(Back Propagation)算法为误差反向传播算法，主要分为两个阶段：一个前向传播阶段（计算误差），另一个误差反向传播阶段（修改权值）。

BP具体算法：

①创建nin个输入单元，nhidden个隐藏单元，nout个输出单元的网络；

② 初始化所有的网络权值为小的随机值（-0.05~0.05）；

③ 在遇到终止条件前（达到迭代次数或者训练精度），对于每个训练样例做以下计算：

1）输入沿网络前向传播：把实例输入网络,并计算网络中每个单元u的输出ou。

2）误差沿网络反向传播：

对于网络的每个输出单元k,计算它的误差项dk， ；

对于网络的每个隐藏单元h,计算它的误差项δh: 。

3）更新每个网络权值wji，

3.3 图像标注基本原理

图像标注基本原理如图4所示，主要分为两个阶段：模型训练阶段和标注阶段，我们采用BP神经网络模型来学习图像区域特征和标注字之间的对应关系。

训练阶段主要是对已标注的图像集进行处理，包括：1、图像的区域分割，2、区域特征的提取，3、区域对应的标注字的提取（也即对应的标记，例如在程序中，我们使用1代表森林，2代表草地，3代表动物，4代表天空等），4、BP神经网络模型训练几个步骤，训练后得到的权值，我们保存在weight.txt文件中。

标注阶段是对待标注的图像集进行处理，包括：1、图像的区域分割，2、区域特征的提取，3、从weight.txt文件中读取各层的权值到BP模型中，使用训练好的BP模型来对待标注的图像进行标注。

4 实验结果

我们使用的实验数据为微软亚洲研究院视觉计算组的图像集。我们从中挑选了300幅包含动物、草地、森林和天空等对象的图像作为训练集，先使用NormalizedCuts方法进行区域分割，得到8个区域并抽取其36维特征向量，在程序中我们采用三层BP模型，36个输入单元（对应36个低层特征），15个隐藏单元和4个输出单元（对应4个对象，动物、草地、森林和天空），学习因子为0.3，训练后得到权值保存在weight.txt文件中。另外我们选取了50幅图像作为测试集，在PIV 2.0G 256M 硬件环境和XP系统，vs2005 + OpenCV_1.0的软件环境下进行实验，使用本文提出的方法来进行图像语义的标注，准确率达到78.23%，初期实验结果样例如图5所示。

5 结束语

使用BP神经网络算法能够很好学习区域特征和标注字的对应关系，因此图像的区域分割和低层视觉特征选择很重要，搞好了就能很好地进行图像语义自动标注，对稍微简单点的图像标注准确率比较高，对复杂图像的标注准确率下降很多，也就是BP神经网络存在无法学习图像的上下文信息的缺点。因此如果能够融合图像的上下文信息的话，标注的效果会更好。而CRF（条件概率随机场）[6]在融合上下文信息这方面功能很强大，因此，未来的工作重点主是结合BP和CRF对图像进行语义的自动标注。

参考文献：

[1] Mori Y, Takahashi H, Oka R.Image-to-word transformation based on dividing and vector quantizing images with words[J].In Proc. of MISRM,1999.

[2] Duygulu P, Barnard K, de Freitas J F G, et al, Object Recognition as Machine Translation: Learning a Lexicon for a Fixed Image Vocabulary[J].Proceedings of the 7th European Conference on Computer Vision-Part IV,2002:97-112.

[3] Jeon J, Lavrenko V , Manmatha R. Automatic image annotation and retrieval using cross - media relevance models[C].New York: ACM Press, 2003:119 - 126.

[4] Shi J, Malik J.Normalized cuts and image segmentation[J].In Proc. IEEE Conf. Computer Vision and Pattern Recognition,731-737,1997.

第9篇：反向传播神经网络基本原理范文

关键词：估算模型、工程造价、思考

中图分类号：TU723.3文献标识码： A 文章编号：

建筑工程造价，在通常情况下指的就是工程建设过程中需要花费的所有费用，换言之，就是依据工程计划此工程建设项目因开展固定资产再生产而衍生出与之相对应铺底流动资金与无形资金之和。事实上，工程造价既与建设地区的经济发展状况、建设者的技术水准、当地政府的政策扶持等因素息息相关，又紧密联系着工程本身的内容。

事实上，工程项目在施行过程中，不仅要耗费大量时间，还需投入很多资金。且每一阶段均会出现很多不确定因素，因此，在工程项目施工早期很难确定出一个合理、正确、科学的造价。然而，工程造价的合理性将会给施工单位和建设单位的共同经济利益带来直接的影响。这就要求我们在如今竞争日益激烈化的社会能熟练地应用科学手段，精、稳、准地把工程造价估算出来。但是，工程造价会随着项目开展的深度的逐渐加深而愈渐合理化。工程项目富有计价特性，这就决定了在控制工程项目的过程中各个阶段的手段与重点也许会存在一些差异。因此，在工程项目建设的全过程中，要确保工程造价能将工程的实际造价合理、科学地体现出来，与工程项目管理的需求与市场经济体制相适应，积极采用合理、可行性高的、可操作性强的手段，管控好建设工程造价。

一、工程造价估算模型的类别

当前，世界上存在的投资估算方法多种多样，但每一样方法的优劣势及其所适用的范畴均存在一定的差异。在这当中，尽管最小二乘回归模型法能够弥补单位面积法的不足指出，精确度很好，但是由于隶属系数、模糊关系系数等诸多数据的大小均取决于经验，且其处在不断地变化发展过程中，这无疑会加大模型建立的难度系数。

伴随着模糊数学理论在工程造价测算当中的广泛运用与发展，其所展现出来的优越性愈来愈独特。为此，笔者针对已建工程与待建工程当中的类似程序加以探索与比较，能在较短时间内运用已建工程的造价资料与信息，从而对待建工程的造价进行估算。此类手段能飞快而又精准地估测出工程造价，待构建起信息管理系统、信息数据库、拓展大量的信息渠道后，可以确保估算工程数据的精准性与合理性。

二、神经网络的工程造价估算模型的基本原理

神经网络凭借着生物神经系统作用原理发展的信息处理系统能够极为精确地解决好繁杂的非线性问题。但是，其与众不同的是，神经网络极具自组织、自学习、容错性等特征。基于对数据的建立模型，可将函数的最佳参数较快地求算出来，使设计成功后的系统可更好地模拟输入输出关系。

1、神经网络的基本模式

神经网络包括了反馈型网络、自组织型网络、随机型网络以及前馈型网络这四大类型，这四大类型的神经网络所具有的网络模型各不相同。Hopfield网络主要出现在反馈网络当中，BP网络、Adaiine、RBF网络则是前馈网络的关键网络模式，Boltzman网络为随机网络的关键网络模式，ARI网络俄日自组织网络的关键网络模式。然而，在此类神经网络当中，前馈型网络内的RBF网络和BP网络能较好地满足市政工程造价的需要。因为BP神经网络结构精简、预算精度高、可行性高、收敛迅速、泛化能力强大，所以到目前为止，BP算法的多层前馈网变成了运用范围最大的神经网络。从统计上来看，BP算法是依靠学习过程的误差反向传播和信号正向传播所构成的。当前运用BP算法的神经网络所占的百分比近达百分之九十。

2、神经网络的基本模型

实际上，神经网络的输入层是由各个极具代表性的工程建筑特性组合而成的，其输入向量是阐释工程特性的基本信息，神经网络输出向量则为工程所需的工程造价。然而，如果输入向量不同，那么想获取到不一样的输出量值的话就需充分利用已建成的极具代表性的工程特性与造价，以它为训练样本，从而训练神经网络，进而达到从输入至输出进行映射的目的。

3、神经网络的运作手段

一般而言，神经网络的运作方式有两类，即演化式与前馈式。演化式模型的复杂度更高，其在网络当中与耗散的动力学系统差不多，在演化时状态空间会慢慢收缩，最后变成了小体积的吸引子集，其输出就相当于终态，而输入则为初始态；前馈式之所以能达到自输入至输出的非线性映射，主要依赖于神经元非线性输出输入的关系。

三、神经网络估算法的广泛运用

若要估算项目工程造价，神经网络需具备一定数量的样本以进行训练。一般来讲，我们可以将估算建设工程造价这一问题视成从输入工程造价估算体系至输出项目的单位造价的非线性映射，把指标体系的指标值输入，然后再神经网络中加以估算，从而就能把此项目的单位造价输出来。

但是，由于建设项目不同，其使用要求与功能也会有所不同，这直接会给工程造价的因素造成影响。因此，要严格依照建设项目的种类，分门别类地构建出估算对象的指标体系。本篇文章将重点阐述市政排水工程建设问题，针对神经网络估算模型的运用进行剖析。

（1）工程特征的解剖

不论是道路的总长度、雨水管道的平均管径与长度、雨水管道平均埋深，还是污水管道平均管径与长度、污水管道平均埋深等因素均会给市政排水工程造价带来极大的影响。但是，此类影响市政排水工程造价的因素均存在一个共性，即：神经网络估算模型的输入向量。

（2）构建工程造价模型

工程造价估算法BP网络程序主要是由样本数据库模块构成的，它是由newff函数生成的。当生成的BP神经网络初始化之后，应充分运用当前存在的“输入―目标”的训练样本数据，选取网络内的train函数加以训练。同时，还要应用BP神经网络的数据处理模块及仿真模块去测试训练完毕的网络，依照函数的反函数战队神经网络的输出值实施数据后续处理，从而将预测单位的工程造价求算出来，然后对比实际值，验证出预测的精确度。

（3）建设指标体系的基准单位

在建设市政排水工程的过程中，存在着大量对项目工程造成影响的因素。要想得出模型的输出向量，就必须把道路的延长米视成排水工程的基准单位，然后将排水工程的整体造价均匀地派遣到道路的延长米上，最终即可得到排水工程的道路延长米的工程造价，也就是模型的输出向量。

（4）估算出工程造价

运用神经网络估算法与Matlab神经网络的工具箱函数编制出与其相对应的计算程序，依照数据库开展训练测试工作，以便得出工程的实际造价。同时，要采取科学、易算、简洁、精确的工程造价估算手段，从而有利于工程建设的迅速、安全地完成、工程造价控制以及工程投资管理工作的开展。因BP神经网络极具较强的容错性与自组织适应能力等特性，再加上其拥有精确、简洁、迅速等优势，因此其在建设项目的工程造价估算的运用中能顺利地摆脱传统项目估算的限制，同时在现代经济领域中有着巨大的运用市场。

参考文献：

[1] 胡伟勋. 工程造价估算模型研究与应用[J]. 中南林业科技大学学报, 2011,(08)

[2] 卢梅,韩小康,孔祥坤,蔡静. 基于BP神经网络和TOC的工程造价预控研究[J]. 西安建筑科技大学学报(自然科学版), 2011,(01) .

[3] 王兴鹏,桂莉. 基于粗糙集―神经网络的工程造价估算模型研究[J]. 石家庄铁道学院学报(社会科学版), 2008,(01) .

[4] 胡伟勋. 基于GST的工程造价预测模型理论研究[J]. 中南林业科技大学学报, 2011,(04) .