神经网络反向传播公式精选(九篇)

前言：一篇好文章的诞生，需要你不断地搜集资料、整理思路，本站小编为你收集了丰富的神经网络反向传播公式主题范文，仅供参考，欢迎阅读并收藏。

第1篇：神经网络反向传播公式范文

关键词:BP神经网络 MATLAB仿真

中图分类号:TP39文献标识码:A 文章编号:1007-3973(2010)06-061-02

1 BP神经网络概述

BP(Back Propagation)网络是1986年由Rumelhart和McCelland为首的科学家小组提出,是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。它的学习规则是使用最速下降法,通过反向传播来不断调整网络的权值和阈值,使网络的误差平方和最小。BP一般为多层神经网络,其模型拓扑结构一般包括输入层(input)、隐层(hide layer)和输出层(output layer)。如图1所示:

2BP网络的学习算法

(1)最速下降BP算法(steepest descent backpropagation,SDBP)

如图2所示的BP神经网络,设k为迭代次数,则每一次权值和阈值的修正案下式进行:

式中:w(t)为第k次迭代各层之间的连接权向量或阈值向量。x(k)= 为第k次迭代的神经网络输出误差对个权值或阈值的梯度向量。负号代表梯度的反方向,即梯度的最速下降方向。 为学习速率,在训练时事一常数。在MATLAB神经网络工具箱中,其默认值为0.01,可以通过改变训练参数进行设置。为第k次迭代的网络输出的总误差性能函数,在MATLAB神经网络工具箱中,BP网络误差性能函数的默认值为均误差MSE(mean square error):

根据(2.2)式,可以求出第k次迭代的总误差曲面的梯度x(k)= ,分别代入式(2.1)中,就可以逐次修正其权值和阈值,并使总的误差向减小的方向变化,最终求出所要求的误差性能。

(2)冲量BP算法(momentum backpropagation,MOBP)

因为反向传播算法的应用广泛,所以已经开发出了很多反向传播算法的变体。其中最常见得事在梯度下降算法的基础上修改公式(2.1)的权值更新法则,即引入冲量因子,并且0≤

标准BP算法实质上是一种简单的最速下降静态寻优方法,在修正W(K)时,只按照第K步的负梯度方向进行修正,而没有考虑到以前积累的经验,即以前时刻的梯度方向,从而常常使学习过程发生振荡,收敛缓慢。动量法权值调整算法的具体做法是:将上一次权值调整量的一部分迭加到按本次误差计算所得的权值调整量上,作为本次的实际权值调整量,即公式(2.3)所示:是冲量系数,通常0≤

(3)学习率可变的BP算法(variable learnling rate backpropagation,VLBP)

标准BP算法收敛速度缓慢的一个重要原因是学习率选择不当,学习率选得太小,收敛慢;反之,则有可能修正的过头,导致振荡甚至发散。因此可以采用图3所示的自适应方法调整学习率。

自适应调整学习率的梯度下降算法,在训练的过程中,力求使算法稳定,而同时又使学习的不长尽量地大,学习率则是根据局部误差曲面作出相应的调整。学习率则是通过乘上一个相应的增量因子来调整学习率的大小。即公式(2.5)所示:

其中:为使步长增加的增量因子,为使步长减小的增量因子; 为学习率。

3 建立BP神经网络预测模型

BP预测模型的设计主要有输入层、隐含层、输出层及各层的个数和层与层之间的传输函数。

(1)网络层数

BP有一个输入层和一个输出层,但可以包含多个隐含层。但理论的上已证明,在不限制隐含层节点的情况下,只有一个隐含层的BP就可以实现任意非线性映射。

(2)输入层和输出层的节点数

输入层是BP的第一层,它的节点数由输入的信号的维数决定,这里输入层的个数为3;输出层的节点数取决于BP的具体应用有关,这里输出节点为1。

(3)隐含层的节点数

隐含层节点数的选择往往是根据前人设计所得的经验和自己的进行的实验来确定的。根据前人经验,可以参考以下公式设计:

其中:n为隐含层节点数;m为输入节点数;t为输出节点数;a为1~10之间的常数。根据本文要预测的数据及输入和输出节点的个数,则取隐含层个数为10。

(4)传输函数

BP神经网络中的传输函数通常采用S(sigmoid)型函数:

如果BP神经网络的最后一层是Sigmoid函数,那么整个网络的输出就会限制在0~1之间的连续;而如果选的是Pureline函数,那么整个网络输出可以取任意值。因此函数选取分别为sigmoid和pureline函数。

4 BP神经网络预测的MATLAB仿真实验

(1)样本数据的预处理

本文的样本数据来源于中国历年国内生产总值统计表,为了让样本数据在同一数量级上,首先对BP输入和输出数据进行预处理:将原样本数据乘上,同时将样本数据分为训练样本集和测试样本集,1991~1999年我国的三大产业的各总值的处理结果作为训练样本集,即1991~1998年训练样本作为训练输入;1999年训练样本数据作为输出训练输出;1992~2000年我国的三大产业的各总值的处理结果作为测试样本集,即1992~1999年的测试样本作为测试输入,2000年测试样本数据作为测试输出。

(2)确定传输函数

根据本文的数据,如第3节所述,本文选取S函数(tansig)和线性函数(purelin)。

(3)设定BP的最大学习迭代次数为5000次。

(4)设定BP的学习精度为0.001;BP的学习率为0.1。

(5)创建BP结构如图4所示;训练BP的结果图5所示:

正如图5所示的数据与本文所示设计的网络模型相符,且如图5所示当BP神经网络学习迭代到99次时,就打到了学习精度0.000997788,其学习速度比较快。

(6)测试BP神经网络

通过MATLAB对测试样本数据进行仿真,与实际的2000年我国三大产业的各生产总值比较(见表1),说明BP神经网络预测模型是可行的。、

5总结

总之,在人工神经网络的实际应用中,BP神经网络广泛应用于函数逼近、模式识别/分类、数据压缩等。通过本文可以体现出MATLAB语言在编程的高效、简洁和灵活。虽然BP在预测方面有很多的优点,但其还有一定的局限性,还需要进一步的改进。

参考文献:

[1]周开利,康耀红.神经网络模型及其MATLAB仿真程序设计[M].北京:清华大学出版社,2005.7.

[2]张德丰等.MATLAB神经网络应用设计[M].北京:机械工业出版社,2009.1.

[3][美]米歇尔(Mitchell,T.M.)著;曾华军等译[M].北京:机械工业出版社,2003.1.

第2篇：神经网络反向传播公式范文

关键词 压力传感器；温度漂移；温度补偿

中图分类号：TP212 文献标识码：A 文章编号：1671-7597（2014）10-0038-02

压力传感器的输出结果精度容易受到多种因素的影响，其中，唯独是影响传感器输出精度的最主要因素。目前，国内经常使用硬件补偿和软件补偿两类方法对压力传感器进行温度补偿。硬件补偿方法调试难度较高、精度低、通用性也较差，在实际工程中应用时，难以去得较好的效果；而软件补偿方法有效弥补了硬件补偿的缺点，其中BP神经网络补偿在实际工程中运用十分广泛，但是典型BP神经网络补偿法虽然精确度高，但是整个流程过于复杂、整个过程耗时较长，因此，本文提出了一种基于主成分分析的BP神经网络补偿方法，希望对提高补偿效率和准确性起到一定的作用。

1 典型BP神经网络补偿原理分析

BP神经网络是目前研究中应用范围最广的神经网络模型之一，BP神经网络术语单向传输网络结构，整个信息传输的过程呈现出高度的非线性特点。典型的BP神经网络结构包括输入层、隐含层和输出层3层结构。通常情况下BP神经网络只有这3层结构，这主要是由于单隐层的BP神经网络既可以完成从任意n维到m维的映射。其典型结构如下图所示。

BP神经网络结构模型

BP算法设计到了信息的正向传播以及误差的反向传播，信息首先从输入层传入，然后经过隐含层的处理传入输出层，最终输出的信息可以用下面的形式进行表示：

其中：、分别代表了隐含层及输出层的权值；

n0、n1分别对应了输入节点数及隐含层节点数。

输出层神经元的激励函数f1通常呈现出线性特点；而隐含层神经元的激励函数f2通常采用如下所示的形式在（0，1）的S型函数中进行输出：

由于BP神经网络隐含层采用的传递函数为对数S型曲线，其输出范围在（0，1）之间。为了避免节点在短时间之内饱和而无法继续进行训练，需要在训练开始之前利用下面公式对样本数据进行预处理：

，

其中：Ui、Pi均为训练数据的标定值；Uimin、Uimax分别表示输出电压的标定极值（最小和最大）；Pimin、Pimax分别表示压力的标定极值（最小和最大）。

当目标矢量为T，信息通过正向传递，可以得到误差函数，具体如下所示：

如果输出结果无法达到要求的误差范围，则返回误差信号并按照一定的权值对公式中的各层权值进行修正，直到输出结果达到期望值。

在利用典型BP神经网络进行压力传感器温度补偿的过程中，算法过于复杂，而且非常耗时，因此，需要对其进行改进，以提高补偿效率。

2 BP神经网络法的改进

2.1 改进原理

基于典型的BP神经网络，利用以下方法进行改进。

1）利用小波神经网络的思想对神经元的激励函数进行改进，从而实现小波特性与BP神经网络自学功能的充分结合，提高激励函数的逼近能力。以Morlet函数作为小波函数的母函数，可以降低不同层面神经元之间的影响，提高网络的收敛速度。以Morlet函数作母函数的小波函数属于幅值小波，其信号中包含了复值和相关信息，改进后的函数具体如下所示：

在本次研究中，我们选取了R个输入样本和N个输出节点，则可以利用下面的公式对第l个样本的第n个节点的输入进行表示：

其中：K表示神经网络隐含层的单元数量；M表示神经网络输入层的单元数量；ωn，k表示神经网络隐含层第k单元与输出层第n单元的连接权值；ak-小波伸缩因子；bk-平移因子；Sl（xm）―输入信号。

2）在计算过程中通过，附加动量法的应用可以有效改实现梯度方向的平滑过渡，使得计算结果更具稳定性。该方法以BP法为基础对权值进行调节，具体公式如下：

其中：t表示样本的训练次数；η表示学习速率；σ表示动量因子；σΔωki（t）表示附加动量项，它能够有效降低不同神经元之间的影响，提高网络的收敛速度。

2.2 主成分BP神经网络算法的实现

步骤1：按照典型BP神经网络数据预处理方法对样本数据进行预处理。

步骤2：利用主成分分析法对预处理后的样本数据进行分析，降低输入向量之间的影响，使各个输入变量的协同方差趋于统一，从而使各权值具有相同的收敛速度，并以此确定神经网络的输入节点。

步骤3：对神经网络进行初始化，并对其中的部分关键变量进行设置。

步骤4：为神经网络选取一组学习样本，以输入节点作为网络的输入向量，并输入期望fn，l，n=1，2，…，N；l=1，2，…，R。

步骤5：利用输入的网络参数计算网络的实时输出能力，当输出误差在允许范围之内时，停止训练；而当输出误差超过允许范围 ，则将误差信息进行反向传播，使权值沿误差函数的负梯度方向发生变化，然后利用梯度下降法计算出变化后的网络参数，然后再重复进行第4步的操作。

步骤6：BP神经网络在训练合格之后，对其进行样本补偿。

步骤7：对补偿后的样本进行反标准化处理，然后与实测数据进行误差比较，判断出网络改进之后的变化。

2.3 压力传感器温度补偿

根据前文提供的BP神经网络算法实现步骤，可以利用Matlab编程语言来实现。在实现该算法之后，我们通过在压力传感器量程范围内确定n个压力标定点，同时确定m个温度标定点。标准值发生器会根据每个标定点的信息产生对应的标定输入值。然后输入样本数据，样本数据按照目标值要求的±20%范围进行选择，然后以误差目标小于10-3进行训练，当达到误差目标之后，网络的收敛速度得到有效的提升。

3 结论

通过研究结果发现，利用主成分分析法对信息进行补偿之后，再利用BP神经网络对这些信息进行训练，其学习速度相对直接利用BP神经网络进行训练更高。同时，通过改进典型的BP神经网络，利用小波函数作为激励函数，并应用动量附加发对网络敏感性进行控制，可以有效避免网络发生局部极小问题。通过基于主成分的BP神经网络温度补偿方法可以使压力传感器受环境温度变化而发生的误差问题得到高效、精确的解决。

参考文献

第3篇：神经网络反向传播公式范文

【关键词】自组织神经网络；智能建筑管理；BP神经网络

1 基于自组织神经网络技术原理

基于大规模自组织神经网络技术[1]是在自组织神经网络技术和专家系统的基础原理运用多层数据融合弥补了单循环数据在智能建筑工程管理分析数据处理的不足和逻辑的缺陷学科.多跳自组织神经网络是智能传感器采集数据训练样本仿真学习模型即自动增速各个自组织神经元连接权阀值与感知识别隐式分布在整个网络结构体系中实现自组织神经网络模式记忆与信息处理应用.

2 基于大规模自组织神经网络在智能建筑管理中研究

2.1 基于多跳自组织神经网络在造价预测研究

基于大规模自组织BP神经模型应用40个高层智能建筑工程样本训练并用工程实例进行验证高精确性;而用大规模自组织神经网络模拟与输入层和隐含层加入了偏置自组织神经元来促进学习训练样本数据中有噪声、干扰等会造成过度学习现象,同时采用遗传优化算法进行建筑结构优化.基于BP神经在智能建筑工程估价中的应用“特征提取器”的运算大量过去的工程资料中自动提取工程特征与预算资料的规律关系数据.

2.2 基于大规模自组织神经网络在工程管理绩效评价中的应用

运用大规模自组织BP神经模型对工程管理绩效评价问题进行研究建立综合考虑工期、质量、费用、安全四大控制指标的工程管理绩效评价模型[2].实践证明,基于BP神经网络在运算工程管理绩效评估模型有利于多跳自组织神经网络预测工程工期、质量、成本、安全与绩效之间复杂的非线性关系来提高管理绩效的评价数据.

2.3 基于遗传算法模型在建设工程评标结构优化应用

基于多层神经网络的工作原理是先将输入信号传输到下一层节点运算函数处理后再将该节点的输出信息向下一层节点传输到信号传输到输出层节点为止.同时运用遗传算法模型构造及算法设计进行方案优劣排序、换位矩阵以及能量函数构造、大规模自组织神经元之间连接和输出,并用实例说明了该方法的优越性和实用性与非线性.

2.4 基于BP神经网络模型在建设工程招投标管理应用研究

基于BP神经网络多层数据融合多跳自组织神经网络技术原理分析自动预测工程招投标的招标价格和风险因素分析以及竞标单位资格审查等方面的应用指出多跳自组织神经网络具有的高度并行处理和可完成复杂输入输出的非线性映射组合结构,不仅可以保证高的中标率,且可避免招标过程中不确定性因素的影响.运用大规模自组织神经网络的工程承包招投标报价的研究,提出了一个多因素确定高层智能建筑投标报价的大规模自组织模型影响报高率的诸多因素,并确定了其权值即确定了用BP神经网络实施黑箱操作的样本输入值和目标值再通过训练样本自主调整修正输入节点和输出节点间的联系得出符合各种情况要求的权值矩阵算法.

2.5 基于智能建筑算法模型研究

基于BP神经网络是以训练样本算法即误差反向传播算法即BP神经算法的学习过程分为信息的正向传播和误差的反向传播[1],其通过训练样本前一次迭代的权值和阈值来应用神经网络技术的第一层向后计算各层大规模自组织神经元的输出和最后层向前计算各层权值和阈值对总误差的梯度进而对前面各层的权值和阈值进行修改运算反复直到神经网络样本收敛 BP神经网络输入向量为

X=( )T;隐含层输出向量为Y=( )T;输出层的输出向量为O= )T;期望输出向量为 ;输入层到隐含层之间的权值矩阵 ,其中列向量 为隐含层第j个大规模自组织神经元对应的权向量;隐含层到输入层之间的权值矩阵 ,其中列向量 为输出层第k个大规模自组织神经元对应的权向量.各层信号之间的算法结构为:

以上式中的 均为S类型函数, 的导数方程为: （5）

神经网络输出与期望输出的均方误差为: （6）

则训练样本输出层和隐含层的权值调整量分别为:

式中: 为比例系数,在模型训练中代表学习速率.如果BP自组织神经网络有 个隐含层,各隐含层节点分别记为 ,各隐含层输出分别记为 ,则各层权值调整计算公式分别如下:

输出层

综合上述预测分析在BP神经学习算法运用各层权值调整公式均由学习速率、本层输出的误差信号和本层输入数字离散信号决定在训练样本学习的过程受决策环境复杂程度和训练样本的收敛性即需要增大样本量来提高网络技术所学知识的代表性应注意在收集某个问题领域的样本时,注意样本的全面性、代表性以及提高样本的精确性,增大抗干扰噪声,还可以采用其他方法收集多层训练样本数据.

3 结束语

自组织神经网络技术应用在智能建筑管理领域是在多层智能传感器等多种信息技术飞速发展的多学科交叉研究领域得到广泛应用.

参考文献:

[1]周小佳.电力系统可靠性神经网络模型及实现研究[D].博士学位论文,1997.

[2]胡保清等.神经网络在土木工程领域的应用[J].低温智能建筑,2004(2).

作者介绍:

第4篇：神经网络反向传播公式范文

关键词：神经网络； 最优化；一种共轭梯度算法

中图分类号：TP183文献标识码：A 文章编号：1009-3044(2008)12-20000-00

Training BP Neural Network using optimization methods

LI Xiang ,SU Cheng

(College of computer science,China University of Mining and Technology, Xuzhou 221000,China)

Abstract：BP neural network can efficiently approximate any nonlinear system, but there is a problem of inefficient learning speed with the conventional steepest descent algorithm. In this paper, we try to convert neural network to an optimization model, and apply conjugate gradient algorithm to it to bring a faster learning speed.

Keywords：Neural network ；Optimization ； Conjugate gradient algorithm

1 BP神经网络模型

BP(前馈式)神经网络结构简单,可操作性强,能模拟任意的非线性输入输出系统，是目前应用广泛的神经网络模型。BP网络由输入层i、隐含层j、输出层k及各层之间的节点连接权组成，神经元拓扑如图1：

网络的学习过程由信息正向传播和误差反向传播构成:

正向传播过程：输入信息从输入层经隐含层逐层处理，传向输出层。若输出层的实际输出与期望的输出不符，则转入误差的反向传播。典型的BP神经网络模型如图2所示：

设网络中各个参数如下：

xi为输入信号，yi为实际输出信号，Yi为期望输出信号wi为对应于各个输入信号的连接权值，θ为阈值，ε为给定的误差。

（1）输入层：输入值一般为样本各分量输入值，输出值一般等于输入值xi 。

（2）隐含层：对于节点j，其输入值hj为其前一层各节点输出值xi的加权和，它的输出值为：

(lixiang03.tif)

（3）输出层：输出层类似于隐含层(lixiang04.tif)

神经元结点的作用函数一般选用Sigmoid函数，即：(lixiang05.tif)

误差函数一般选用(lixiang06.tif)

神经网络的训练过程就是按最小误差准则来不断调整网络结点的权值，直至误差

可以看到，BP神经网络实际可转化为求解一个最优化问题，它的目标函数是(lixiang07.tif)。

2 最速下降法

2.1 基本搜索方法

针对神经网络的最优化问题，传统的搜索方法选用最速下降法，即通过多次迭代，对网络权值进行修正，使误差目标函数沿负梯度方向下降，迭代的公式如下：

(lixiang08.tif)

这种方法在刚开始几步有较好的收敛效果，但当迭代深入后容易陷入振荡，出现锯齿现象，导致结果精度不够，训练过程较长。

2.2 纯梯度方法的改进

针对最速下降法收敛速度慢的问题，很多研究者提出了一些改进方法，主要有以下几种：

（1）确定学习率

在基本网络算法中，Δwi=wi(t+1)-wi(t)引用了固定的学习率η=1，为了更好的控制网络的收敛性和学习速度，可以根据需要选择自适应的变学习率，一般取0

(lixiang10.tif)

学习步长η是网络学习的一个重要参数，在一定程度上也决定了网络的收敛速度。学习步长过小会导致权重值更新量过小,因而使收敛非常缓慢；学习步长过大又会导致在极值点附近振荡的可能性加大，乃至反复振荡而难以收敛。具体数值应根据对误差函数的影响来决定。

（2）加入动量项

这种措施又称为惯性校正法,其权值调整公式可用下式表示：

(lixiang11.tif)

α为动量系数，这种方法在调整权值时，不仅考虑了本次迭代，而且兼顾上次的调整结果，能够在加速收敛的同时一定程度地抑制振荡。

（3）改进误差函数

在基本网络算法中，引用的误差函数是(lixiang12.tif)。可以看到，这是一个误差的绝对量，不能有效地表征样本的相对误差程度。对于某个节点会出现误差的绝对量很大但是比例却很小的情况。为了避免上述问题，引入相对误差函数：

首先，对(lixiang13.tif)变形，(lixiang14.tif)，把不含有实际输出的Y提出，得到相对误差函数(lixiang15.tif)。相对误差函数Jp使用误差量的相对比例来表征样本误差ε ，具有更好的效果。

类似的针对最速下降法的改进方法还有很多，但是它们无法从根本上解决纯梯度方法的局部振荡性，收敛速度慢的问题仍然有待解决。

为了解决收敛速度慢的问题，本文采用共轭梯度法代替沿负梯度方向的最速下降法，它比最速下降法在收敛速度上有很大的改进。

3 共轭梯度法

3.1 共轭梯度法原理Jp

共轭梯度法是求解无约束优化问题 (lixiang16.tif)的一类非常有效的方法，它的迭代格式为

(lixiang17.tif)

其中，(lixiang29.tif),dk为搜索方向，而αk>0是通过某种线搜索获得的步长。纯量βk的选取应满足共轭性，βk的不同取法构成了不同的共轭梯度法。常用的有FR相关法(lixiang18.tif)和PRP相关法(lixiang19.tif)。为保证算法的强收敛性，本文选取一种新的共轭梯度法，它的βk公式如下：

(lixiang20.tif)

选取这种共轭梯度法的理由在于它在Wolfe搜索

(lixiang21.tif)

下具有全局收敛性质并且计算效果好于PRP等算法[1]。

3.2 搜索算法描述

首先采用最速下降法先达到一个初步精度W(0)。实验表明，最速下降法“开局”的收敛速度是较好的。

第二阶段采用共轭梯度法，步骤如下：

（1）把最速下降法得到的初步精度作为初始权值W(0)，并选定误差最终精度值ε。

（2）置迭代次数k=0;

（3）计算目标函数(lixiang22.tif)和(lixiang23.tif);

（4）若k=0，令(lixiang24.tif) ；否则,(lixiang25.tif);其中(lixiang26.tif);

（5）一维搜索求取步长αk，使其满足Wolfe搜索条件

(lixiang27.tif)

可以得到下一个迭代点为wk+1=wk+αkdk;

（6）计算J=f(wk+1);若J

3.3 算法实例

本文利用以上算法对一个函数y=x12+x22+x32实现逼近，以Δx=0.1为步长取得多组训练样本数据对[x1,x2,x3,f(x1,x2,x3)]。构建三层前馈式神经网络，其中输入层为(x1,x2,x3)，隐层结点取4个，它的权值为向量w，初始值取wi=0.5,i=1,2..4,期望输出为Y=f(x1,x2,x3)，取定神经元的作用函数为Sigmoid函数(lixiang05.tif)阈值为θ,ε为给定的误差,取ε=10-4，则共轭搜索的目标函数为:(lixiang12.tif), 原神经网络问题可转化为求最优化问题min(J)，使用上述搜索算法得目标函数J的收敛数据如表1：

4 结论

实验表明共轭梯度法具有较好的收敛特性，并且不会产生振荡，可以有效地解决传统BP网络的收敛速度问题。并且本文选用的 因子在wolfe搜索下可以保证全局收敛性，比一般的 因子有更好的效果。

参考文献：

[1] 戴虹．非线性共轭梯度法研究[D]．中国科学院计算数学与科学工程研究所，博士学位论文,1997.

[2] Dai YH,YUAN Y．A Nonlinear conjugate gradient with a strong global convergence property[J].SIAM Journal of optimization,2000(10):177-182．

[3] 黄兆龙.用启发算法和神经网络法解决二维不规则零件排样问题[J].微计算机信息，2004(10):51-53．

[4] 杜华英,赵跃龙.人工神经网络典型模型的比较研究[J].计算机技术与发展,2006(05):97-99.

[5] 陆琼瑜,童学锋.BP算法改进的研究[J]．计算机工程与设计,2007(03):648-650.

收稿日期：2008-03-27

第5篇：神经网络反向传播公式范文

关键词：羊绒羊毛纤维；贝叶斯分类器；BP神经网络；SVM支持向量机

中图分类号：TS102.3 文献标志码：A

A Research of Classifiers for Testing Cashmere & Wool Fibers

Abstract： This paper mainly studies the classifiers for identifying the image features of wool and cashmere fibers. The image features， which are selected in the same way， are identified by using respectively Bayes classifier， BP neural network and SVM support vector machine. Then， by comparison we conclude that the SVM support vector machine is more suitable for testing of wool and cashmere fiber thanks to its higher recognition rate and speed.

Key words： cashmere and wool fibers； Bayes classifier； BP neural network； SVM support vector machine

羊绒纤维是制作高档面料的重要原料，但其产量极少，仅占动物纤维总产量的很少一部分。由于羊绒的珍稀、高价、优良品质及风格特征，生产商常采用山羊绒与其它纤维进行混纺加工；并且市场上也存在用混纺产品假冒纯羊绒制品进行销售的问题。故准确鉴别羊毛羊绒纤维十分必要。

图像分析技术是纺织纤维形态研究的重要技术之一，使用图像分析技术有助于提高羊绒羊毛检测领域对于天然纤维的识别和分类的效率。本研究通过比较当今鉴别羊绒羊毛纤维时使用的不同分类器，来找到较适合的分类器。

1分类器介绍

1.1贝叶斯分类器

贝叶斯分类器依据研究对象的先验概率，利用贝叶斯公式计算出研究对象的后验概率，即是该对象属于其中某一类的概率，选择属于最大的后验概率的类为其所属的类。因此，贝叶斯分类器是最大正确率意义上的优化。

若已知有M类物体，以及每一类在n维特征空间的统计规律，即是各类别ωi（i=1，2，3，…，M）的先验概率P（ωi）以及类条件概率密度P（X|ωi）。对于待测样本，贝叶斯公式公式（1）可以计算出该样本各类别的概率，即后验概率，根据后验概率的大小决定X属于哪一类。

在羊绒羊毛纤维检测中，统计数据服从正态分布，其相应的均值和方差可以由样本均值以及样本方差求出。

1.2BP神经网络

人工神经网络是通过对人脑思维方式的模仿，以一定的学习准则，通过人工神经元的网络系统进行一定的记忆与学习，并通过不断的学习，调整整个网络的权值和阈值，达到减少错误的发生率的过程。

BP神经网络，即人工神经网络使用误差逆传播算法（BP算法）的学习过程。该算法由信息的正向传播和误差的反向传播两个过程组成，其中正向传播使用最速下降法进行传播，误差反向传播则是利用输出层的误差来估计其直接前导层的误差，即形成了将输出端表现出的误差沿着与输入信号传送的逆方向逐级向网络的输入端传递的过程。利用各层的误差进行神经网络阈值和权值的选取，以达到神经网络误差平方和最小的目的。

1.3SVM支持向量机

支持向量机是以VC维原理和结构风险最小化理论为基础建立的机器学习方法，是一种监督式的学习、分类方法。其优势表现在解决小样本、非线性和高维模式识别问题上，并且解决了模式识别中经常出现的“维数灾难”和“过学习”等问题。SVM支持向量机的原理是通过不同的“核函数”将提取的纤维特征在低维进行计算然后将分类效果映射到高维，从而实现从低维向高维的转化。这避免了在高维上的复杂计算，实现了计算的精简，提高了分类学习的效率。

2羊绒羊毛纤维图像特征提取

本文所用的羊绒羊毛纤维图像为中国纤维检验局提供的辽宁盖县种羊场成年公羊羊绒纤维图像样本100张和国际羊毛局标准羊毛纤维图像100张。通过图像旋转，灰度化，中值滤波，边缘提取等预处理过程。使用中轴线法提取纤维鳞片直径和纤维鳞片高度作为特征参数。

3仿真结果分析

3.1贝叶斯分类器

本次研究选取羊毛纤维特征及羊绒纤维特征各95个作为训练学习对象，其余羊毛羊绒纤维特征作为检测对象，重复进行100次，贝叶斯算法仿真结果（图1）得到的平均识别结果为88.7%。

3.2BP神经网络

本次使用的BP神经网络是最常见的两节点的BP神经网络。选取羊毛纤维特征及羊绒纤维特征各95个作为训练学习对象，其余羊毛羊绒纤维特征作为检测对象，仿真结果如图2所示，得到平均识别率为84.8%，并且仿真时训练时间过长，为138.242s。

3.3SVM支持向量机

本次以纤维鳞片直径和纤维鳞片高度作为特征变量，利用交叉验证，SVM支持向量机仿真结果如图3所示。从图3（a）可看出，通过使用SVM支持向量机，得到的识别率为92.7%；通过图3（b）可以看到，分类效果相较于BP神经网络效果更好。

4结论

通过对不同仿真结果的分析可以得出：首先，BP神经网络针对小样本的识别过程耗时过多，可能会出现过度训练的情况，相比较而言，贝叶斯方法和SVM支持向量机识别过程耗时较少，更有效率；其次，针对识别率，BP神经网络为84.8%，贝叶斯方法为88.7%，SVM支持向量机为92.7%，识别率更高。因此，SVM支持向量机较贝叶斯方法以及BP神经网络更适宜作为羊绒羊毛纤维图像特征识别的分类器。

参考文献

[1] 卫敏.羊绒的鉴别检测方法分析[J].福建轻纺，2011（2）：33-37.

[2] 杨潇，季益平，张毅.图像识别在羊绒羊毛检测中的应用研究[J].广西纺织科技，2010，39（3）：13-16.

[3] 石先军，于伟东，袁子厚.基于贝叶斯方法的山羊绒与细羊毛的鉴别[J].纺织学报，2008，29（1）：27-33.

[4] 刘彩红.BP神经网络学习算法的研究[D].重庆：重庆师范大学，2008.

[5] 丁世飞，齐丙娟，谭红艳.支持向量机理论与算法研究综述[J].电子科技大学学报，2011（1）：2-10.

[6] 王柏华，胡志宇，葛顺顺，等.基于光镜条件下绵羊毛与山羊绒的鉴别[J].毛纺科技，2011，39（4）：42-45.

[7] Rafael C. Gonzalez， Richard E. Woods， Steven L. Eddins.Digital Image Processing Using MATLAB[M].阮秋琦，译.北京：电子工业出版社，2005.

作者简介：侍瑞峰，男，1989年生，硕士在读，研究方向为图像处理与模式识别。

通讯作者：刘亚侠，副教授，E-mail：。

第6篇：神经网络反向传播公式范文

关键词： 模糊神经网络；短期负荷预测；BP算法

algorithm

中图分类号：TN711文献标识码： A 文章编号：

1 引 言

短期负荷预测是电力系统管理现代化的重要内容之一，是对发电、输电和电能分配等合理安排的必要前提，对提高电力系统的经济效益和社会效益，保障电力系统的安全经济运行与国民经济的发展具有非常重要的影响。因此，寻求有效的负荷预报方法，提高预测结果的准确度具有重要意义。

本文针对延边电网短期负荷预测问题，考虑到气象因素对负荷的影响，提出了一种具备模糊数据处理能力的模糊理论与擅长拟合非线性映射的神经网络方法结合起来的短期负荷预测方法，首先根据评价函数选取相似日学习样本，然后利用隶属函数对影响负荷的特征因素向量的分量进行模糊处理，采用反向传播算法，对24点每点建立一个预测模型，提高了学习效能。

2模糊理论与人工神经网络方法简介

2．1模糊集合论的概念

客观事物的差异在中介过渡时所呈现的亦此亦彼的现象称为模糊性，它体现了事物变化的连续过程。模糊集合论使用隶属度来描述中介过渡，是以精确的数学语言对模糊性的一种表述。

设论域u＝｛x｝，u到闭区间〔0，1〕的任一映射uA（x）∶u〔0，1〕，xuA（x）确定了u的一个模糊子集，简称模糊集，记作A，该映射称为A的隶属函数。uA（x）的大小反映了x对模糊集A的隶属程度，简称为隶属度。实数集合上常用的隶属函数为F分布，主要有矩形分布，梯形分布，抛物形分布等，在实际应用中可根据对象特点加以选择。

2．2人工神经网络和反向传播算法的原理

神经网络是由处理单元组成的一种并行、分布式信息处理结构，处理单元之间由单向信道相互连接。人工神经元是神经网络的基本计算单元，模拟了人脑中神经元的基本特征，一般是多输入／单输出的非线性单元，可以有一定的内部状态和阈值。

反向传播（Error Back Propagation－BP）算法是多层感知器的一种有效学习算法，它的模型为前向多层网络，如图1所示。

网络不仅有输入层节点、输出层节点，而且有隐含层节点，经过作用函数后，再把隐节点的输出信息传播到输出节点，最后给出结果。节点的作用函数通常选取s型函数，如 这个算法的学习过程由正向传播和反向传播组成。在正向传播过程中，输入信号从输入层经隐含层逐层处理，并传向输出层，每一层神经元的状态只影响下一层神经元的状态。如果在输出层不能得到期望的输出，则转向反向传播，将误差信号沿原来的连接通道返回，通过修改各层神经元的权值，使得误差信号最小。

BP算法可描述为：

a．权值和阈值初始化：随机地给全部权值和神经元的阈值赋以较小的初始值；

b．给定输入xk和目标输出yk；

其中 为第l层第j个神经元到第l＋1层的第i个神经元的权系数，η为增益项，δ（l）ik为第l层i节点的k模式的误差项，且有

若i为输出节点，则

e．达到误差精度要求则输出结果，否则回到3。

3预测方法

3．1BP网络学习样本的选择

根据差异评价函数选择一批比较相似的负荷日，选择方法如下：

a．首先将影响因素向量的各分量数值化，这些因素包括日类型，工作日取1，双休日取2；光照，晴天取1，少云取2，多云取3，阴天取4，下雨取5；雨量，无雨取0，小雨取1，中雨取2，大雨取3，暴雨取4；最高温度、最低温度、平均温度等可取实际值。

b．建立评价函数

其中是α－β的范数，α为已知日的影响因素向量，β为预测日的影响因素向量（预测值），δ为设定的偏离值，要根据不同地区的实际情况由经验决定。凡是满足该评价函数的已知日均可加入学习样本。

3．2预测方法

为了提高BP网络的学习速度和预测精度，对网络输出的实际负荷值进行规一化处理，同时使用隶属度函数对输入网络的影响因素向量进行模糊化处理，使得输入向量的不同分量如工作日、光照、雨量、温度等都转换为模糊量。

日类型的隶属度函数采用半矩形分布，形式如下。

对工作日的隶属度函数为：

温度的隶属度函数分别如下。

对低温的隶属度函数采用偏小型梯形分布：

对中温的隶属度函数采用中间型梯形分布：

对高温的隶属度函数采用偏大型梯形分布：

将最高温度th代入以上3个公式，可分别求出对于低温、中温、高温3个状态的隶属度。对于最低温度t1、平均温度tα，可采用同样方法求出它们的3个状态隶属度。

影响因素向量的其它分量如光照、雨量等的隶属度函数与温度相似，根据当地实际情况选择建立相应的分布函数，从而求出光照的5个状态隶属度以及雨量的5个状态隶属度。

另外，为了降低求解规模，对1d的24点负荷每点建立1个预测模型，第i点的输入输出函数为：

其中Lji是指第j个学习样本第i点负荷的实际值，Ljimin是学习样本中第i点负荷的最小值，Ljimax是学习样本中第i点负荷的最大值，经过规一化处理后，

fi是指第i点的输入输出函数，α′j1，…α′jl是第j个样本影响因素的隶属度向量，包括2个代表日类型的隶属度，3个代表最高温度的隶属度，3个代表最低温度的隶属度，3个代表平均温度的隶属度，5个代表光照的隶属度，5个代表雨量的隶属度。当学习完成后，将预测日当天影响因素的隶属度向量 代入（10）式，则可得第i点的负荷预测值。

3．3一些注意事项

a．伪数据的处理

因为神经网络所用的负荷数据来自电力部门的SCADA系统，由于各种原因会造成一定数量的异常数据。考虑到负荷前后小时的自然变化，如果出现超常规值，必须将其剔除，代之以正常比例范围内的估计值。

b．待选的相似日范围

因为随着时间的推移，系统负荷结构会发生缓慢的变化，当已知日和预测日相隔较远时，即使它们的天气情况等因素很相似，预测精度也不会高，因而取前3个星期的已知日作为待选范围，同时还可以缩短程序选取样本所花费的时间。

4计算实例分析与结论

4．1实例计算

对延边电网2012年5月5日24点的负荷进行预测，所得结果如表一。

表一：

预测的平均绝对百分误差为1.77％，最大预测误差为3.1％，最小误差为0.8％，误差超过3％的预测点有2个，小于2％的点有15个，预测效果良好。

4．2结论

准确进行短期负荷预测是电力行业所企盼的，本人提出一种模糊神经网络预测方法，利用模糊技术和神经网络各自的特长，充分发挥了ANN处理非线性问题的能力，具有训练速度快，学习精度高，数值稳定等优点，算例也表明这是一种行之有效的短期日负荷预测方法。

参考文献

【1】 刘晨晖，“电力系统负荷预报理论与方法”哈尔滨工业大学出版社 1987

第7篇：神经网络反向传播公式范文

关键词 神经网络模型；模糊综合评价；权重；水质评价

中图分类号：X824 文献标识码：A 文章编号：1671-7597（2014）07-0147-01

目前，水污染很严重，治理好水污染，改善环境，防止造成进一步的污染，已经成为了社会所研究的重点。因此，水质的评价成为了一项重要的研究热点，根据水质的相关的指标的特点，综合分析得到水质的状况，能够为政府采取合理的措施提供依据。目前，神经网络模型对水质进行评价已经成为了热点，神经网络的优点在于权重的确定方面，能够合理的确定各个指标的权重，但是在评价的模型上[1]，神经网络用的层层分析模型，没有做够好的进行水质的评价，本文在神经网络中融合模糊综合评价模型，能够很好的对水质进行评价。

1 神经网络理论

人工神经网络（AnificialNeural Nemorks，ANN）是通利用数学模型的方法进行抽象和模拟，是一种模仿人脑结构和它的功能的非线性的信息处理系统。它主要是大量的单元相互连接而组成的网络结构，来实现大脑的感知和学习功能。神经网络拓扑结构可以分为前馈多层式网络模型、反馈递归式网络模型和随机型网络模型等。根据研究水质问题多因素权重问题以及神经网络的相关理论，前馈多层式网络中的反向传播神经网络（BP神经网络）具有良好的持久性以及适时预报性，因此在本文的评价模型中，我们都采用BP神经网络的结构方式[2]。

前馈神经网络分为了神经元分层排列，包含了输入层、隐含层和输出层三个层次结构，每个层次的神经元只能够接收前一个层次的神经元，层层对应。这是一种比较强有力的学习系统，它的结构相对而言较为简单，并且编程也比较容易，是一种静态的非线性映射，通过简单的非线性处理进行复合映射，能够得到更加复杂的处理能力。这些前馈网络学习，它们分类能力和模式识别的特点都要强于一般的反馈网络。典型的前馈网络有感知器网络和BP网络。水质评价模型中，一般采用的都是BP神经网络，能够很好的处理各个指标之间的关系特点，做到很好的评价，但是需要一个更好的模型结合神经网络确定权重的特点进行水质评价，能够收到更好的效果。

2 模糊综合评价的基本理论

模糊数学是利用数学方法进行研究与处理模糊现象的数学。模糊综合评价作为一门新的评价科学，是典型数学、统计数学之后的发展起来的一门新的数学学科，可以处理很多之前数学无法解决的问题。开始具有争议，经过一段时间，开始迅速发展，而且涉及的应用领域越来越广泛，已经遍及理、工、农、医及社会科学，充分体现了评价模型的优越之处。

模糊综合评价法是一种利用模糊数学为基础的综合评标方法。综合评价法利用模糊数学隶属度理论和模糊变换原理，根据给出的评价标准与实测值，考虑到被评价事物的各个相关因素，对其进行综合评价。对于模糊综合评价向量，即综合隶属度，可用如下公式：

A为输入，代表参加评价因子的权重经归一化处理得到的一个1×n阶矩阵；R为模糊变换装置，是通过单因素评判得到的隶属度向量，是一个n×m阶的模糊关系矩阵；B为输出，代表综合评判结果，是一个1×m阶矩阵[3]。

其中评价因子是m集合为：，分别为参与评价的n个评价因子。其中评价等级共m个等级，组成集合为：。

评判矩阵和隶属度的式子为：

3 神经网络和模糊综合评价结合算法

神经网络模型评价的精华在于权重的分析确定上，模糊综合评价模型的优点在于系统的评价模型，因此在评价的时候，只要将这两者的优点结合起来，就能够得到很好的效果，因此设计了以下算法模型，能够合理的对水质进行评价，为科学的采取污染防治措施提供依据。

Step1：网络初始化。根据系统输入输出序列（X，Y）确定网络输入层节点数p、隐含输入层节点数l，输出层节点数q，初始化输入层、隐含层和输出层神经元之间的连接权值α和β（α为初始权重，β为临界值，均随机设为较小的数）给定学习速率和神经元[4][5]。

Step2：输出计算。将已有的样本数值加在网络上，利用公式算出其输出值：

Step3：调整权系数。根据网络预测误差，按已知输出数据与上面算出的输出数据之差，调整权重系数，其中调整量为：其中：因为隐节点的输出内部抑制，利用反向推算可以得到：误差值从输出层反向推导得到。

Step4：对各层的权重系数进行调整后，得到调整后的权

重为：

BP神经网络利用梯度下降算法，通过迭代运算，不断调整mij的数值，当得到的输出误差小于所设定的阀值时，将认为获得的mijBP神经网络是合理的。而不断迭代的方法相当于对各类情况进行调整，具有一定的学习记忆特征。

基金项目

国家自然科学基金青年基金（11201485）；徐州工程学院校青年项目（XKY2010201）。

参考文献

[1]刘起霞，李清波，邹剑峰.环境工程地质[M].郑州：黄河水利出版社，2001.

[2]孙会君，王新华.应用人工神经网络确定评价指标的权重[J].山东科技大学学报（自然科学版），2001，20（3）：84-86.

[3]万金保，李媛媛.模糊综合评价法在鄱阳湖水质评价中的应用[J].上海环境科学，2007，26（05）：215-218.

[4]金菊良，魏一鸣，丁晶.基于改进层次分析法的模糊综合评价模型[J].水利学报，2004（03）：65-70.

[5]郭庆春，何振芳，李力，等.BP人工神经网络模型在太湖水污染指标预测中的应用[J].南方农业学报，2011，42（10）.

第8篇：神经网络反向传播公式范文

关键词：BP算法，神经网络，抑菌圈直径，抗生素效价测定

中图分类号：TP18文献标识码：A文章编号：1009-3044(2011)10-2358-02

抗生素效价的生物测定，是以抗菌活性为指标平衡量，表示抗生素中有效成分效力的一种方法。其测定方法通常分为稀释法、比浊法和渗透法。渗透法又称扩散法，其中管碟琼脂扩散法是国际上通用的抗生素效价测定方法，中、日、英、美及欧洲药典均收载有此方法。该方法分为一剂量法，二剂量和三剂量法，其原理是将已知浓度的标准溶液与未知浓度的样品溶液在含有敏感性试验菌的琼脂表面进行扩散，形成抑制试验菌生长的透明抑菌圈，测出抑菌圈的直径或面积大小，再利用抗生素浓度与抑菌圈直径或面积的关系，求出样品的效价[1]。

人工神经网络(Artificial Neural Network，简称ANN)是通过模拟生物体中神经网络的某些结构和功能而构成的一种新的信息处理系统。近年来广泛应用于药学领域，如处方优化、结构设计、中药含量测定及鉴别等方面。本文利用人工神经网络的自学习自适应能力，建立抗生素效价与抑菌圈直径之间的模型，对枯草芽孢杆菌的抗生素效价进行测定与预测，取得了较好的结果。

1 BP神经网络原理

BP神经网络（Back Propagation ，BP ) 是基于误差反向传播算法的多层前向神经网络，也是目前应用最广泛的神经网络。BP神经网络能模拟任意线性与非线性函数，因而具有良好的预测能力。BP神经网络一般为三层神经网络，即输入层，隐含层，输出层，其结构如图1所示，每层都有一些神经元，与相邻层的所有各单元均互相连接，两个单元间的连接强度称为“权值”。

BP神经网络的学习分为两步：信息的正向传递和误差的反向传播。信息的正向传递是输入信息从输入层经隐含层处理后传向输出层，误差的反向传播是将误差逐层往回传递，以修正各层之间的权值和阈值。以上两个过程反复交替，直到收敛为止。当训练结束时，将学习得到的规则表达在网络的权重中。根据未知样本的输入特性参数，网络可进行仿真预测，其预测模型见图2。

2 数据处理

2.1 BP网络结构设计

测定抗生素效价时，通常只需测定抑菌圈的直径或面积，然后根据直径或面积与效价之间的关系计算其效价。因此输入层和输出层的节点数均设为1即可。隐含层的节点参照以下经验公式进行设计：n=+a

式中：n为隐层节点数；ni为输入节点数；n0为输出节点数；a为1～10之间的常数[2]。第一层传递函数选用tansig函数，第二层传递函数选用purelin函数，设计的网络模型如图3所示。

2.2 试验部分

菌种：枯草芽孢杆菌；检定培养基（%）：牛肉膏 0.3蛋白胨 0.5K2HPO4 0.3琼脂粉 1.5 ； 蒸馏水：pH 8.0～8.2；点样量：标准品 1～5 μg；样品：诺西肽发酵液 3μl；培养条件：37℃ 12-16个小时。

抑菌圈的直径可通过董鸿晔等[3]设计的计算机可视化自动测量系统获得，先测得标准品抑菌圈的直径均值，利用标准品抑菌圈直径与效价的关系建立标准曲线，数据见表1；再测得待测品抑菌圈的直径均值，利用标准曲线计算出待测品抑菌圈直径所对应的抗生素效价，其数据见表2。

2.3 网络训练

以待测品直径均值为输入，抗生素效价为输出，训练BP网络，网络学习参数为trainlm函数，最大训练次数为3000次，训练步长100，期望误差为0.001。表2中数据分为两部分，一部分用于网络训练，隐层节点数初值设为8，经优化当隐含层节点数为15时，网络收敛达到期望误差。

2.4 网络预测

为了验证网络的泛化能力，选择部分待测样品作为输入值，进行网络预测。网络预测效价与利用一剂量法计算的实际效价见表3。

2.5 模型检验

为验证网络预测模型精度，，利用统计软件SPSS表3中两种方法得到的抗生素效价进行方差检验，见表4。F检验Sig=0.467>0.05，说明两组数据的测量方法无显著性差异。由此可见BP网络的预测结果是可靠的。 3 讨论

本文通过BP神经网络预测模型对抗生素效价进行测定，结果表明，采用BP人工神经网络预测效价方法简便快捷，其预测结果可靠，为抗生素效价的测定建立了新的分析方法。本网络中采用的学习算法为LM算法，是目前收敛速度最快的算法之一[4]。BP网络的非线性映射能力不仅表现在处理多因素影响问题上，在本试验中处理单因素问题时亦表现出优势。在测定抗生素效价中，只考虑到直径一个因素，实际中抗生素微生物效价检定法影响因素很多，如培养温度、培养基成分、酸碱度、实验菌种的老化、菌层厚度、药液的稀释、钢管等[5]，这些因素对网络预测结果的影响还有待考虑和研究。

参考文献：

[1] 抗何文.蔡先东.生素效价测定方法的改进[J].广东药学,2003,13(2).

[2] 周开利.康耀红.神经网络模型及其MATLAB仿真程序设计[M].清华大学出版社,2005.

[3] 董鸿晔,金杰,赵青.计算机可视化技术在抗生素效价测定中的应用[J].生物技术,2002,12(2).

第9篇：神经网络反向传播公式范文

关键字:灰色神经网络;电力建设工程;模型

0 引言

随着社会经济的快速发展、社会的进步、科技和多层信息化水平的提高以及全球资源和环境问题的日益突出与电力建设发展面临着新的挑战.在电力行业在各国经济发展中占据优先发展的地位,电力建设工程造价与其他电力建设工程造价相比,具有电力建设工程造价规模大、周期长的特点.基于众多的电力建设工程造价方案中选择较优方案是电力建设工程造价决策的关键技术.在电力建设工程造价方案比选过程中的评价指标有工程造价净现值、电力建设工程造价回收期、财务内部收益率等,使决策变得复杂且很难做出.基于灰色系统理论、模糊理论进行有机的结合,用灰色神经网络度分析方法来计算决策矩阵和建立模型[1],并应用到实际电力建设工程造价决策中,可为决策者提供一种有效的决策途径,根据灰色系统理论,研究和分析决策系统影响因素间的相互关系及对系统主要目标的贡献,该研究方法考虑了传统因素分析方法并避免了模糊理论处理方法的种种弊端。

1 基于灰色神经网络原理及应用

基于灰色神经网络模型为基础的预测,运用灰色系统的数据信息预处理方式搭建电力建设工程造价即灰色生成来优化神经网络的建模应用于智能电力建设工程造价中的问题预测。

2 基于电力建设工程造价与灰色神经网络模型研究

基于灰色神经网络是以训练样本算法即误差反向传播算法即灰色神经算法的学习过程分为信息的正向传播和误差的反向传播[2],其通过训练样本前一次迭代的权值和阈值来应用神经网络技术的第一层向后计算各层大规模自组织神经元的输出和最后层向前计算各层权值和阈值对总误差的梯度进而对前面各层的权值和阈值进行修改运算反复直到神经网络样本收敛。

2.1 基于电力建设工程造价灰色神经网络模型

基于灰色神经网络输入向量为X=()T;隐含层输出向量为Y=()T;输出层的输出向量为O=)T;期望输出向量为;输入层到隐含层之间的权值矩阵,其中列向量为隐含层第j个大规模自组织神经元对应的权向量;隐含层到输入层之间的权值矩阵,其中列向量为输出层第k个大规模自组织神经元对应的权向量.各层信号之间的算法结构为:

⑴⑵

⑶⑷

以上式中的均为S类型函数,的导数方程为:⑸

以下是基于电力建设工程造价灰色神经网络输出与期望输出的均方误差为:⑹

则电力建设工程造价训练样本输出层和隐含层的权值调整量分别为:⑺⑻

⑼

式中:为比例系数,在电力建设网络模型训练中代表学习速率.如果灰色自组织神经网络有个隐含层,各隐含层节点分别记为,各隐含层输出分别记为,则各层权值调整灰色神经网络模型运算计算公式分别如下:

输出层⑽

第隐含层

⑾

第一隐含层 ⑿

综合上述预测分析在灰色神经在电力建设工程造价中学习算法运用各层权值调整公式均由学习速率、本层输出的误差信号和本层输入数字离散信号处理决定在网络训练样本学习的过程受决策环境复杂程度和训练样本的收敛性即需要增大样本量来提高电力建设工程造价所学知识的代表性应注意在收集某个问题领域的样本时,注意样本的全面性、代表性以及提高样本的精确性,增大抗干扰噪声,还可以采用其他方法收集多层训练样本数据。

3 结束语

基于电力建设工程造价方案的选择问题是一个复杂的系统多属性决策问题,评价因素多而且相互之间的关系比较复杂.通过构建灰色神经网络决策模型,综合考虑到电力建设工程方案选择过程中的多方案、多因素、多目标特点,避免了单指标方案选择过程中存在的决策偏离问题.通过该模型优化全面分析多层目标指标间的相互关系,较好地解决单指标无法全面反映工程方案多目标的问题,为电力建设工程方案优选提供了一种可靠的途径数据。

参考文献: