公务员期刊网 精选范文 神经网络的反向传播范文

神经网络的反向传播精选(九篇)

前言:一篇好文章的诞生,需要你不断地搜集资料、整理思路,本站小编为你收集了丰富的神经网络的反向传播主题范文,仅供参考,欢迎阅读并收藏。

神经网络的反向传播

第1篇:神经网络的反向传播范文

关键词 BP神经网络 数据挖掘 最速下降法 函数逼近 模式识别

中图分类号:TP391 文献标识码:A

1研究背景

BP神经网络是一种多层的前馈网络而且它的学习算法是一种误差逆向传播算法。BP神经网络是目前研究最为成熟、应用最为广泛的人工神经网络模型之一。由于其结构简单、可操作性强、具有较好的自学习能力、能够有效地解决非线性目标函数的逼近问题等优点,因此被广泛应用于自动控制、模式识别、图像识别、信号处理、预测、函数拟合、系统仿真等学科和领域中。

2 BP神经网络原理

2.1概述

BP神经网络是一种反向传播误差算法然后训练的一个多层前馈网络,简称为BP算法,它应用在已被开发出来的神经网络中,到目前为止是应用最为广泛的网络模型之一。BP神经网络可以学习并且存储非常多的输入模式与输出模式之间的映射关系,却无需在学习和存储前事先揭示并描述输入输出间的映射关系的一种数学方程。它使用最速下降法,通过对输出误差的反向传播,获得不断调整网络连接权系数和阈值的信息,最终使神经网络的平方误差最小,达到期望要求。

2.2 BP神经网络结构

BP神经网络模型是一个三层网络,它的拓扑结构可被划分为:输入层、输出层、隐含层。其中输入层与输出层具有更重要的意义,因此它也可以为两层网络结构(把隐含层划入输入层或者把隐含层去掉)。每层都由许多简单的能够执行并行运算的神经元组成,这些神经元与生物系统中的那些神经元非常类似,但其并行性并没有生物神经元的并行性高。BP神经网络是一个前馈网络,因此它具有前馈网络所具有的特性:相邻两层之间的全部神经元进行互相连接,而处于同一层的神经元不能进行联接。

2.3 BP算法原理

BP神经网络的基本原理是把一个输入矢量经过隐含层的一系列变换,然后得到一个输出矢量,从而实现输入数据与输出数据间的一个映射关系。输入信息的正向传播,以及输出误差的反向传播,构成了 BP网络的信息循环。BP算法根据输出误差来修改各神经元连接的连接权系数,其目的是使输出误差达到预计范围内。BP网络需要实际输出与期望输出之间的误差来确定是否要修改神经元连接的连接权系数。其中,期望输出便是该网络意义上的“导师”。BP网络具有对称性的网络结构,在输出端的每一个处理单元基本上都具有一个相同的激励函数。

BP算法由正向传播和反向传播两部分组成。在正向传播过程中,输入信息从输入层经隐层单元处理后,传至输出层。每一层神经元的状态只影响下一层神经元的状态。如果在输出层得不到期望输出,就转为反向传播,即:把误差信号沿连接路径返回,并通过修改各层神经元之间的连接权值,使误差信号最小。

具体的算法步骤可概括如下:

第一步,选取初始权值、阈值。

第二步,重复下述过程直至满足性能要求为止:

(1)对于学习样本P=1到N

①计算每层各节点j的输出yj,netj和的值(正向过程);

②对各层从M层到第二层,对每层各节点反向计算%]j(反向过程);

(2)修改权值

具体推导过程见参考文献4。

3基于BP神经网络设计的实例

3.1函数逼近

我们设计一个简单的BP网络,实现对非线性函数的逼近。通过改变该函数的参数以及BP网络隐层神经元的数目,来观察训练时间以及训练误差的变化时间。将要逼近的非线性函数设为正弦函数,其频率参数k可以调节。假设频率参数k=2,绘制此函数的曲线。如图1。

(1)网络建立:用MATLAB编程建立BP网络结构,为二层BP神经网络。隐层神经元数目n 可以改变,暂时设为n=10,输出层有一个神经元。网络训练采用Levenberg-Marquardt算法trainlm。

分析:因为建立网络时,权值和阈值的初始化是随机的,所以网络输出结果很差,根本达不到函数逼近的目的,并且每次运行的结果也有所不同。

(2)网络训练:在MATLAB里应用train()函数对网络进行训练之前,需要预先设置训练参数。将训练时间设置为50,训练精度设置为0.01,其余参数用默认值。

(3)网络测试:对于训练好的网络进行仿真,绘制网络输出曲线,并与原始非线性函数曲线相比较,结果如下图2。

由此可看出,得到的曲线和原始的非线性函数曲线很接近。这说明经过训练后,BP网络对非线性函数的逼近效果非常好。

(4)讨论分析:改变非线性函数的频率和BP网络隐层神经元的数目,对于函数逼近的效果有一定的影响。网络非线性程度越高,对BP网络的要求越高,则相同的网络逼近效果要差一些;隐性神经元的数目对于网络逼近效果也有一定的影响,一般来说隐形神经元数目越多,则BP网络逼近非线性函数的能力越强,同时网络训练所用的时间相对来说也要长一些。

参考文献

[1] 闫志忠.BP神经网络模型的改进及其应用研究[D].吉林大学,2003.

[2] 李友坤.BP神经网络的研究分析及改进应用[D].安徽理工大学,2012.

[3] 吴昌友.神经网络的研究及应用[D].东北农业大学, 2007.

第2篇:神经网络的反向传播范文

关键词:BP神经网络;电力工程;异常数据识别技术

BP神经网络是一种多层前馈神经网络,信号从输入层到隐含层,再到输出层得到期望输出。期望输出同实际值做比较,若得不到所期望的值,则误差反向传播,调节网络的权值和阈值。BP神经网络作为一种引入隐含层神经元的采用多层感知器的神经网络模型,主要由输入层、中间层和输出层3 个部分组成。其中,中间层即隐含层,可以是一层或多层结构。

1 BP神经网络概述

BP神经网络是人工神经网络的分类中的多层前馈型神经网络。BP神经网络的主要特征为传递信号向前传播,而误差反向向后传播。BP神经网络在工作时,信息从输入层通过隐含层到达输出层。输出层达不到所期望的信号,将误差反向传播,从而根据误差不断调整BP神经网络的阈值和权重,从而使BP神经网络的输出值不断逼近期望值。

2系统设计

该异常数据识别系统利用神经网络对电力系统异常进行识别,实际上是利用神经网络可以以任意精度逼近任一非线性函数的特性以及通过学习历史数据建模的特点。在各种类型的神经网络中,BP神经网络具有输入延迟,适合于电力系统异常数据识别。根据电力系统运行的历史数据,设定神经网络的输入、输出节点,以反映系统运行的内在规律,实现识别数据异常的目的。所以,利用神经网络对电力系统异常数据进行识别,主要就是要设定神经网络的输入、输出节点使其能反映电力系统运行规律。

3训练样本

在BP神经网络模型中,在选择样本时,一定要尽可能的表达出系统中全部可能发生的情况所对应的状态,这样才能表现出来动力参数与实际测量数据一一对应的映射关系。将需要进行反分析的动力参数作为因素,要在每一个因素里面的各种组合中均要做试验。假设在一组设计试验中,有n个因素,并且它自身又有l1 ,l2 ,......,ln个水平,那么在进行全面试验时,至少需要做每个水平之积次试验。当因素及其自身对应的水平数量不太多时,运用这种算法是比较准确的。但是,随着因素及其对应的水平越来越多,需要做的试验次数也要几何级数般增长。因此,在BP神经网络的学习过程中,如果选择合适、合理的方法选择样本就十分重要。

4 BP网络模型与训练算法

BP(BackPropagation,后向传播)神经网络全称又叫作误差反向传播(errorBackPropagation)网络。它是一种采用BP算法训练的多层前馈神经网络,每层网络均包含一个或多个M-P神经单元构成。M-P神经单元结构,xi表示第i个输入值,wi为该输入值的权重,θ为该神经元的阈值,y为该神经元输出值。其中,即神经元将n个维度的输入值加权相加后与神经元的阈值进行比较,然后将比较值通过激活函数f处理后进行输出。BP网络通过不同网络层间神经元的全连接构成。在网络训练学习过程中,BP算法将输入数据通过输入层进行输入,并经过隐藏层计算后由输出层进行输出。接着输出值与标记值进行比较,计算误差(代价函数)。最后误差再反向从输出层向输入层传播,反向传播过程使用梯度下降算法以目标的负梯度方向来对神经网络上的权重和阈值进行调整。

5神经网络识别实验

考察5 种不同类型的神经网络,表1 列出了Perceptron、BP、PBH、模糊ARTMAP和RBF的均方根误差与Perceptron的误分类率等信息。可以看到,Perceptron神经网络表现不佳,均方根误差在0.6~0.7 之间;误分类率在0.1~0.2 之间。Perceptron神经网络对异常数据的检测错误与误分类率较高。随着隐藏神经元数量的增加,ARTMAP与RBF网络的性能均会提高。在大多数情况下,均优于Perceptron。BP与PBH网络具有相似性能,且两个神经网络始终比其他3 种类型的神经网络表现更优。随着隐藏神经元数量的增加,两种神经网络错误与误分类率不会降低。

6狼群算法

狼群算法优化BP神经网络。狼群算法是一种群智能算法,它通过模仿狼群捕猎的行为来处理优化问题。在自然界中,狼在食物链中处于捕猎者。狼的外形神似狗和豺,动作迅速,嗅觉灵敏,有天生的捕猎能力。狼群算法最早于2007 年提出,后来有学者发现其中存在的问题,经狼群算法优化后提出了新型狼群算法(WCA),最后,2013 年根据自然界中狼群追捕猎物,捕食,以及分配食物的方式提出的基于狼群群体智能的算法(WPA)。该算法详细的将狼群内的种类分为头狼、探狼、猛狼三种,并具有围攻、召唤、奔袭、游走等行为。狼群算法同样依据自然界中“胜者为王,适者生存”的更新机制。狼群算法的加入,形成了改进的BP神经网络,防止网络陷入局部极值点,提高网络效率。

7遗传算法

遗传算法优化BP神经网络。算法主要包括三部分:初始化BP神经网络结构、遗传算法优化和BP神经网络识别。其中初始化BP神经网络结构包括:确定输入层、隐含层和输出层节点个数,以及初始化网络的权值和阈值等参数。遗传算法优化BP神经网络是将一个网络中的所有权值和阈值看作种群中的一个个体,然后通过选择、交叉和变异的操作得到最优的个体,即最优权值和阈值,并将该组权值阈值赋给BP神经网络作为初始的权值和阈值。最后的BP神经网络识别部分,是利用遗传算法优化的初始权值和阈值来训练网络,再利用训练好的神经网络进行识别。

结束语

为实现电网工程建设中对异常数据的检测,建立了分布分层的数据检测系统。其是一种使用统计预处理与神经网络分类的异常数据检测算法。通过对5 种不同的神经网络进行对比实验,可得出结论:BP与PBH网络的性能优于Perceptron、模糊ARTMAP和RBF等3 种神经网络。考虑到构建成本最终选取BP神经网络作为系统的神经网络分类器,在此基础上还进行了系统测试。结果表明,系统能够可靠地检测到异常数据,其流量强度仅为背景强度的5%~10%,证明了该系统的有效性。

参考文献

[1]李慧,陈恺妍.基于神经网络的电力计量故障诊断研究[J].计算机与数字工程,2020,48(05):1252-1257.

[2]多俊龙,王大众,崇生生.在电力通信预警中优化的BP神经网络模型研究[J].东北电力技术,2020,41(02):13-15+62.

[3]罗宁,高华,贺墨琳.基于神经网络的电力负荷预测方法研究[J].自动化与仪器仪表,2020(01):157-160.

第3篇:神经网络的反向传播范文

关键词:BP神经网络 动量因子法 变步长法 学习速率

1.引言

人工神经网络(Artificial Neural Networks,ANN)是通过对人脑神经元建模、联结模拟生物脑或世界系统的网络模型,是一种具有学习、记忆和模式识别等智能信息处理功能的人工系统。通常研究和使用的十种神经网络模型中,人们较多用的是Hopfield网络、BP网络、Kohonen网络和ART网络模型。其中的BP神经网络是基于反向传播(BackPropagation)的网络,也是神经网络领域中研究最多、应用最广的网络模型。它采用最小均方差的学习方式,可用于函数逼近及语言综合、识别和自适应控制等。

2.标准BP神经网络算法

BP算法作为前馈网络的主要学习算法,对神经网络的推广应用起了举足轻重的促进作用。标准的BP网络,优化计算的方法很多,比较典型的是采用一阶梯度法,即最速下降法。在BP神经网络训练中,主要是针对一定的输入,所得到的输出是否与期望输出接近,即误差的代价函数达到最小。其简单的实现步骤为:(1)通过网络输入反向传播;(2)通过网络将敏感性反向传播;(3)使用近似均方误差的BP算法更新权值和偏置值。

标准的BP算法因具有简单、易行、计算量小及并行性强等优点,是目前神经网络训练采用最多、最成熟的训练算法。由于BP网络中待寻优的参数太多,往往导致算法收敛速度慢。对于复杂问题,训练过程需迭代几千、几万次才能收敛到期望的精度。因此,标准的BP网络在很大程度上实用性不强,尤其对于实时性很强的系统而言。

3.BP算法的改进

BP多层前馈网络已成为神经网络的重要模型之一,但实际上的BP多层前馈网络并不是利用标准的BP算法对网络进行训练的,而是对BP算法进行了启发式改进。

(1)增加动量因子法

BP算法的神经网络的误差曲面具有不同的区域有不同的误差改变率的特点。假若开始训练的学习速率较高,那么算法的收敛速度可能很快。但当迭代进入的区域包含极小点时,此时算法发散,来回振荡,收敛不到极小值点。如果用平均改变参数的方法进行轨迹的过滤,就可以对震荡进行平滑并可产生稳定的轨迹。当动量滤波器的参数得到了改变,获取反向传播的动量,使用了动量项,可以在保证算法较为稳定的前提下,在网络训练进入局部最小值时产生一个继续向前的正向斜率运动,使得搜索能够跳出较浅的峰值;当网络搜索位于误差曲面平坦区的区域时,该方法能够较快地提高训练速度。

(2)变步长法

变步长法通过调整网络训练的学习率,故也称为可变学习速率的方法。BP算法中对连接权值的调整,取决于两个因子,即学习速率和梯度。其中通过调整学习速率提高算法收敛收率的方法,是当前认为最简单、有效的方法。学习率不能随意选取,选得太小,收敛会变慢;选得太大,可能调整过多,使得算法振荡或发散。所以,在对学习率进行调整时,一般遵循的准则是:首先检查修正值,看该值是否明显降低了误差。如果降低了,则学习率的值选取偏小,可以作为对学习率调整的参考;否则,学习率值调整过大,就应该对该值进行减小。增加可变速率参数后,得到改进的BP算法如下:

①如果整个训练集上的均方误差权值在更新后增加的,且该值超过了预设的某个百分数,如:1%~5%,则不对权值进行更新。学习速率被乘以一个大于零且小于1的因子,并且动量系数被设置为0。

②如果均方误差在权值更新后变小了,则接受权值更新。学习速度将被乘以一个大于1的因子。假若学习率被设置为0,则恢复之原来的值。

③如果均方误差的增长变小,则权值更新被接受,但学习速度保持不变。如果学习率过去被设置为0,则恢复到以前的值。

4.实验结果

分别对目标误差为0.001的网络训练。实验结果如下:

(1)采用标准BP网对样本进行训练,迭代次数近5000次尚未收敛。

(2)采用增加动量法,迭代375次,学习过程收敛。

(3)采用变步长法,迭代1728次收敛。

由此可见,未改进的标准BP学习算法存在收敛速度慢的缺陷;改进后的BP学习算法都从不同程度上提高了算法的收敛速度,训练的次数大大减小了。对BP算法采用启发式改进措施后,明显提高了学习速度。

第4篇:神经网络的反向传播范文

【关键词】吨煤单耗 因素 BP神经网络 MATLAB仿真

1 引言

吨煤单耗是煤炭加工企业组织生产考核指标中的一项非常重要考核内容,它指的是输送或破碎环节中每输送或破碎一吨煤所消耗的电量。吨煤单耗与系统的运行时间、煤炭输送量、原煤破碎量、线路损耗、系统故障时间以及电量结算日期等因素有着密切的关系。据统计,几年前国内多数煤炭加工企业对吨煤单耗的计算并未形成一种相对精确的预测模型。我们知道影响吨煤单耗的因素很多,而且这些因素之间并不是简单的线性函数关系,基于此种现状本文将影响吨煤单耗计算的主要因素作为BP神经网络的输入,利用MATAB仿真软件对网络进行自学习式训练,通过多次训练建立了可靠的BP神经网络吨煤单耗预测模型,并将2011年、2012年部分实际生产数据与预测数据进行了对比验证,分析结果表明该模型预测的吨煤单耗能够满足指导生产实践、控制成本的要求。

2 BP神经网络预测模型的建立

2.1 BP神经网络的基本原理

在人工神经网络发展历史中,很长一段时间里没有找到隐层的连接权值调整问题的有效算法。直到误差反向传播算法(BP算法)的提出,成功地解决了求解非线性连续函数的多层前馈神经网络权重调整问题。BP (Back Propagation)神经网络,即误差反传算法的学习过程是由信息的正向传播和误差的反向传播两个过程组成。当实际输出与期望输出不符时,进入误差的反向传播阶段。误差通过输出层,按误差梯度下降的方式修正各层权值,向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程,是各层权值不断调整的过程,也是神经网络学习训练的过程,此过程一直进行到网络输出的误差减少到可以接受的程度,或者预先设定的学习次数为止。本文就是利用其具有较强的非线性映射特性,来预测吨煤单耗的。

2.2 BP神经网络结构参数的设计

BP神经网络作为一种多层的前馈网络,根据Kolmogorov定理,对于任意给定的一个连续函数,都可以用一个三层的前馈网络以任意精度逼近,其输入层隐含层各节点之间,隐含层和输出层各节点之间用可调节的权值进行连接。本模型将选取一个三层的BP神经网络,从输入层到隐含层和从隐含层到输出层的激励函数(反映下层输入对上层节点刺激脉冲强度的函数)分别采用S型函数和线性函数。

2.3 各层神经元个数及参数的确定

2.3.1 网络输入层神经元个数的确定

在BP神经网络模型的设计中,输入和输出节点的多少是由具体问题来决定的。在吨煤单耗计算过程中,输入层神经元应选取对吨煤单耗计算有重要影响的几个因素:系统运行时间(h)、产量(t)、用电量(KW・h)、流程的效率(t/h)这样本模型的输入层共计有4个节点。

2.3.2 网络输出层和隐含层神经元个数的确定

输出层选取吨煤单耗、流程效率作为输出层神经元。

2.4 数据处理与训练样本的选择

由于BP神经网络的泛化能力更多地体现在内插功能上,对于外部数据的泛化能力很差,所以训练样本的选取对于能否通过训练得到合理、精确的模型来说是至关重要的。因此本模型选取了2010年,2011年两年内具有典型性的21组数据经过神经网络数据处理后,20组作为神经网络的训练样本,另外1组作为测试样本。本文中BP神经网络的激励函数为Sigmoid函数,这就要求网络的输入输出量均应在[-1,1]之间。对于连续值变量,我们需要进行归一化处理。本文所选的22组数据经归一处理后如表1所示(为公司数据保密此表只列出了归一处理后的相应数据):

3 BP神经网络训练及预测分析

本模型采用MATLAB神经网络.m文件格式调用BP神经网络算法traingdm函数对20组归一化后的数据进行BP网络训练,学习速率设置为0.04,训练次数设置为10000次,目标误差10-3。

4 结论

综上所述,本模型能够较好的实现基于实际生产数据来预测吨煤单耗以及流程效率的功能,同时数据也表明用BP神经网络实现这一功能切实可行。通过此模型的建立我们可以通过控制流程的效率来控制吨煤单耗,从而控制实际吨煤单耗在考核指标以内,保证公司能够顺利完成全年的生产考核指标。

参考文献

[1]著作:飞思科技产品研发中心.神经网络理论与MATLAB7实现[M].北京:电子工业出版社,2006(99).

作者简介

李忠飞(1981-),通辽市奈曼旗人。研究生学历。现为内蒙古霍林河露天煤业股份有限公司煤炭加工公司维修一部工程师、控制理论与控制工程专业电修队队长。

第5篇:神经网络的反向传播范文

关键词:人工神经网络 多层感知器 BP算法 异或运算

中图分类号:TP391.4 文献标识码:A 文章编号:1007-9416(2013)03-0138-02

作为一门活跃的边缘叉学科,神经网络的研究与应用正成为人工智能、认识科学、神经生理学、非线性动力学等相关专业的热点。近十几年来,针对神经网络的学术研究大量涌现,上百种神经网络模型被提出,其应用涉及模式识别、联想记忆、信号处理、自动控制、组合优化、故障诊断及计算机视觉等众多方面,取得了令人瞩目的进展。

经过近半个世纪的发展,神经网络理论在模式识别、自动控制、信号处理、辅助决策、人工智能等众多研究领域取得了广泛的成功。关于学习、联想和记忆等具有智能特点过程的机理及其模拟方面的研究正受到越来越多的重视。

学习功能是神经网络最主要的特征之一。各种学习算法的研究,在人工神经网络理论与实践发展过程中起着重要作用。当前,人工神经网络研究的许多课题都致力于学习算法的改进、更新和应用。

1958年,美国学者Frank Rosenblatt首次定义了一个具有单层计算单元的神经网络结构,取名为感知器(Perceptron)。经过论证,单层感知器只能进行线性分类,对非线性样本的划分无法实现,例如异或问题在二维空间中就是一个非线性的样本空间分类的问题,就需要用到多层感知器,即网络应具有隐层,但对隐层神经元的学习规则尚无所知。就感知器学习规则来说,其权值的调整取决于网络期望输出与实际输出之差,而对各隐层节点来说,不存在期望输出,因而该学习规则对隐层权值调整不适用。此时需要用到误差反向传播的BP学习规则。

BP(Back Propagation)网络是1986年由Rumelhart和McCelland为首的科学家小组提出,是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入―输出模式映射关系,而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用梯度法,通过反向传播来不断调整网络的权值和阈值,使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层(input layer)、隐层(hide layer)和输出层(output layer)。

BP算法由数据流的前向计算(正向传播)和误差信号的反向传播两个过程构成。正向传播时,传播方向为输入层隐层输出层,每层神经元的状态只影响下一层神经元。若在输出层得不到期望的输出,则转向误差信号的反向传播流程。通过这两个过程的交替进行,在权向量空间执行误差函数梯度下降策略,动态迭代搜索一组权向量,使网络误差函数达到最小值,从而完成信息提取和记忆过程。

BP算法的学习目的是对网络的连接权值进行调整,使得调整后的网络对任一输入都能达到所期望的输出。学习过程由正向传播与反向传播组成。正向传播用于对前向网络进行计算,即对某一输入信息,经过网络计算后得出它的输出结果;反向传播用于逐层传递误差,修改神经元间的连接权值,以使网络对于输入信息经过计算后得到的输出能达到期望的误差要求。

学习的方法是使用一组训练样例对网络的连接权值进行训练,每一个样例中,都包括输入及期望的输出两部分。在正向传播算法中,首先将训练样例的输入信息输入到网络中,输入信息从输入层经过隐层节点逐层计算处理后,传至输出层。在计算处理过程中,每一层神经元的状态只影响下一层神经元的状态,如果在输出层得到的结果不是所期望的输出,那么就转为反向传播。

反向传播把误差信号沿路径方向传回,并按一定的原则对各层神经元的权值进行修正,直到第一个隐层,这时再开始进行正向传播,利用刚才的输入信息进行正向网络计算,如果网络的输出达到了误差要求,则学习过程结束,如果达不到要求,则再进行反向传播的连接权值调整。

这一过程不断反复,直到网络正向计算的输出结果达到误差要求的结果为止,这时学习过程结束。具体算法过程见图1。一旦网络进行训练后,在用于求解实际问题时就只需要使用正向传播,而不需要使用反向传播了。

使用BP算法实现异或问题的具体学习过程按以下步骤顺序进行:

(1)网络状态初始化:用较小的随机数对网络的权值(Xji)和(Pkj)以及偏置值(θj)和(γk)赋初值。

(2)输入第一个模式。

(3)把学习模式的值作为输入层单元i的输出(Ii),用输入层到中间层的权值(Xji)和中间层单元的偏置值(θj),求出对中间单元j的输入Uj以及相应的输出Hj:

Uj=・Ii +θj,

Hj=f(Uj)。

上式中的f(・)是Sigmoid函数。

(4)用中间层的输出(Hj),中间层到输入层的连接权值(Pkj)以及输出层单元的偏置值(γk)求出对输出层单元k的输入Sk以及相应的输出Ok:

Sk=・Hj+γk,

Ok=f(Sk)。

(5)根据学习模式的教师信号Tk和输出层的输出Ok的差,求出有关输入层单元k的偏置值以及连接到其上权值的误差(δk):

δk=(Ok-Tk)・Ok・(1- Ok)。

(6)根据误差δk,从中间层到输入层的权值(Xkj)以及中间层的输出(Hj),求出有关中间层j的偏置值以及连接到其上的权值的误差(σj):

σj =・Pkj・Hj・(1-Hj)。

(7)根据由第(5)步求出的δk以及Hj和常数α,对从中间层单元j到输出层单元k的权值(Pkj)加以调整。另外,根据δk和常数β对输出层单元k的偏置值γk加以调整:

Pkj=Pkj+αδk Hj,

γk=γk+βδk。

(8)根据误差σj,输入单元i的输出(Ii)以及常数α对从输入单元i到中间层单元j的连接权值(Xji)加以调整。根据误差(σj)和常数β对中间层单元j的偏置值(θj)加以调整:

Xji=Xji+ασj Ii,

θj=θj+βσj。

(9)输入下一个模式。

(10)若有学习模式,则返回(3)。

(11)更新学习次数。

(12)若学习次数小于规定的次数,则返回(2)。

程序运行过程及结果:

程序运行后,在提示下输入“学习率”为0.999,输入“误差控制精度”为0.0001,输入“循环的最大次数”为20000,程序执行后,可以看到在result.txt中结果如图2。

通过这个实例,使用多层感知器解决了单层感知器不能解决的异或问题,也从侧面验证了BP网络通过若干简单非线性处理单元的复合映射,可获得复杂的非线性处理能力。但是从给入不同的学习率、误差控制精度和学习次数得到了不同的结果,从中也暴露了BP算法的一些局限性。

(1)该学习算法的收敛速度慢,常常需要成千上万次的迭代,而且随着训练样例的增多,网络性能会变差;

(2)网络中隐节点个数的选取上无理论上的指导;

(3)从数学角度上看,BP算法是一种梯度最速下降法,这就有可能出现局部最小的问题。当出现局部最小时,从表面上看,符合误差的要求,但这时所得到的解并不一定是问题的真正解。所以BP算法是不完备的。

参考文献

[1]徐丽娜.神经网络控制(第三版).电子工业出版社,2009.7.

[2]马锐.人工神经网络原理.机械工业出版社,2010.09.

[3]张军,詹志辉.计算智能.清华大学出版社,2009.11.

[4]杨建刚.人工神经网络实用教程,浙江大学出版社,2001.1.

[5]宋宜斌,王培进.多层前馈神经网络改进算法及其应用.计算机工程,2003.8.

第6篇:神经网络的反向传播范文

【关键词】BP神经网络;电网物资;需求预测

电网在电力系统中是联系发电设备和用电设施的载体,它主要是由送电线路、变电所、配电所以及配电线路等环节组成。近几年来,随着我国国民经济的持续增长,我国的电力事业得到了飞速发展,电网电压等级不断提高,网络规模不断扩大,电网物资作为影响电网建设至关重要的因素,其管理工作也显得越来越重要。需求预测的开展,能够有效提高电力物资的保障能力,同时也能为长期的物资规划提供数据支持,因此,电网建设项目物资需求预测研究有着重要意义和价值。

物资需求预测的主要预测方法包括:基于时间序列的移动平均法[1]、指数平滑法[2]、结合备件物资的特性提出的Croston法[3]以及用于预测需求不服从任何分布情况下的间歇性物资需求Bayesian法[4]等,这些方法都只能依靠物资本身需求数据来进行拟合预测,对于需求波动较大的物资预测精度较低。将人工神经网络方法引入需求预测成为一个新的研究趋势[5,6]。

关于电网物资的需求预测,现有的研究集中于电力库存物资的需求预测方面[7,8]。而目前电网企业的项目物资需求计划管理主要采用的是提前储备物资信息,工程、物资协同管理的模式[9],至于电网建设项目物资的需求预测研究,还尚未开展。其主要原因是缺乏主要的数据支持,国家电网公司的企业资源计划(ERP)系统于2010年全面正式上线,为电网建设物资的需求预测提供了一个难得的数据平台,也为物资需求预测提供初步的数据支撑。同时,电网建设项目物资的标准化建设也为需求预测的开展提供了可能。基于此,本文依据电网建设项目里程碑计划中的指标如电压等级、线路长度、变电容量等,提出基于BP神经网络的电网建设项目物资需求预测模型,并通过实例数据测试模型性能。

1.电网建设项目物资需求特点分析

电网建设项目具有投资额大,建设周期长,受环境影响大的特点,每个项目的工程规模、启动时间、紧急程度均不同,这给项目物资管理造成了一定的难度。同时,不同地域、不同电压等级的电网工程所需的物资有着相当大的差异性,仅仅依靠物资的历年数据进行递推预测是不可靠的。不同的计划期(年,季,月)内的物资需求量之间没有必然的联系,因此需要通过影响因素来判断物资的需求。BP神经网络是一种能学习和存贮大量的输入-输出模式映射关系的方法,它无需事前揭示或描述这种映射关系,因而适合解决诸如电网建设项目物资需求预测这类因果关系复杂的非确定性问题。

2.BP神经网络预测模型构建

BP神经网络是一种多层前馈网络,它主要是通过误差逆向传播算法来进行训练的。BP神经网络的学习算法是最速下降法,它通过反向传播来不停调整网络的权值和阈值,从而达到减小误差至最优的目的。

2.1 BP神经网络模型结构

BP神经网络是典型的多层结构网络,本文主要应用BP神经网络算法构建单隐层网络(又称三层前馈网或三层感知器),所谓的三层网络主要是由输入层、隐含层以及输出层组成,具体结构如图1所示。输入层、隐含层以及输出层各层均由大量神经元组成,且层与层以权值连接,但同层之间不允许传递信号,各层神经元只能向高层输出激活信号。

2.2 BP神经网络学习算法

BP神经网络是典型的有导师学习算法,其学习过程主要分为正向传播和反向传播两种。正向传播是用来计算前向网络的,其将输入信号通过隐含层传递至输出层,经网络计算出输出结果。在神经网络正向传播过程中,网络的权值固定不变,同层神经元之间不能互相影响,同时,如果输出层所得结果误差超过期望值,则进入反向传播阶段;BP神经网络的反向传播实际指的是误差的反向传播,其将误差信号(即输出结果与期望结果的差值)逐层逆向反馈,通过修改神经元的连接权值和阈值,来使正向传播所得输出结果能更加接近期望输出。下图2为BP神经网络学习算法图。

2.3 BP神经网络算法步骤

2.4 电网建设项目物资需求预测模型构建

本文以某省电力公司电磁式电流互感器的历史需求数据为样本,从ERP系统中调取59个已建项目的需求数据,从中筛选出电磁式电流互感器的需求量,从而运用MATLAB中的BP神经网络模型和软件编程功能进行预测分析,模型参数设定为:

(1)输入层神经元数目设为3,分别为变电容量、线路长度和工程类型。其中,“变电容量”是指项目所建电网变电站的主变压器的容量,其主要反映变压器输送电能的能力,这个容量就决定了线路的负载能够有多大;线路长度是指项目所建电网的线路里程;工程类型则是作为一个名义变量,定义为三个类别:新建项目、改建项目以及扩建项目,同时将其分别以数字1、2、3代替进行演算分析。

(2)隐含层神经元数目由Try Error Try法不断调试直至找出最优值为止,初始值参考上式(1)设为7。

(3)输出层神经元数目设为1,为电网物资预测数量。

构建BP神经网络模型时,模型隐藏层选用S 形曲线传递函数,输出层采用线性传递函数。将样本数据随机分为三组,70%样本用于训练网络,采用 Levenberg- Marquardt运算法则作为训练法则;15%样本进行网络泛化能力的检测,当泛化能力不再提高时终止网络训练;剩下的15%样本用于测试网络的性能。若网络训练结果误差过大,则再次训练网络,或调整隐藏层神经元个数,反复训练网络,直到获得最佳结果为止,保存并输出。

3.预测效果分析

采用BP算法训练网络时,设定显示间隔次数为25,最大循环次数为3000,目标误差为1×10-3,初始学习速率为0.5,学习速率增加的比率为1.2,学习速率减小的比率为0.7,动量常数为0.8,最大误差比率为0.6。将归一化后的学习样本依次输入BP网络,按上述BP学习算法的步骤反复训练,结果见图3。

从图3可以看出,电磁式电流互感器预测的最大绝对误差为2台,且主要分布于需求较少的项目中,对于需求较多的项目,预测值基本与实际值重合,精度较高,表明BP神经网络预测能够进行有效预测。

由于ERP系统应用尚未普及,目前可获取的项目数据还不够完善(样本数据皆来自省电力公司ERP系统),本文主要选取的是在电网工程中运用最为普遍的物资——电磁式电流互感器,因此数据量还较为丰富,也取得了较为满意的预测效果。同时,诸如钢绞线、接续金具、耐张线夹、T型线夹、悬垂线夹、联结金具等物资由于应用较为广泛,可用的项目样本也足够多,因此通过构建BP神经网络进行物资预测也取得了较好的预测效果。

随着电网建设的不断发展以及ERP系统的深入应用,未来可用的项目样本将越来越多,而样本集越丰富,建模所取得效果则越优。尽管BP神经网络建模所预测到的电网建设项目物资需求量不一定是最优值,但预测精度有了很大的提高。BP神经网络通过网络训练,将原本很复杂的预测模型简化,同时不断扩充新样本,以适应不断变化的环境,实现了对电网建设项目物资的动态预测。

4.结论

运用BP神经网络预测方法能很好地处理较为复杂的问题,约束条件也远远少于传统的预测模型,同时,BP人工神经网络具有学习性和时变性的特点,能够有效地实现动态建模与分析,从而有效地实现了电网物资需求预测。然而人工神经网络技术是一种数据挖掘技术,如何获取和整理历史数据至关重要,因此,在实际中应深入应用电力公司的ERP 系统,尽早完善电网需求物资数据库,为BP神经网络预测模型构建提供数据支持。

参考文献:

[1]Siddique F,Choudhary M.A..Decision Support System for Optimizing Spare Parts Forecasting for Training Aircrafts Source:Recent Advances in Applied Mathematics[J]. Proceedings of the 14th WSEAS International Conference on Applied Mathematics, vol., no.,pp: 34-41,2009.

[2]Moon Seongmin,Hicks Christian, Simpson.The development of a hierarchical forecasting method for predicting spare parts demand in the South Korean Navy- A case study Andrew[J].International Journal of Production Economics, vol.140, no.2,pp:794-802, December 2012.

[3]Heinecke G.,Syntetos A.A.,Wang W..Forecasting- based SKU classification[J]. International Journal of Production Economics,2011.

[4]Kamath K Rajashree,T P M Pakkala.A Bayesian approach to dynamic in ventory model under an unknown demand distribution[J].Computers& Operations Reseach,2002.

[5]Amin-Naseri M.R.,Tabar B.R..Neural network approach to lumpy demand forecasting for spare parts in process industries[J].Computer and Communication Engineering,vol., no.,pp:1378-1382, 13-15,May 2008.

[6]张冬,明新国,赵成雷等.基于BP神经网络和设备特性的工业设备备件需求预测[J].机械设计与研究,2010,26(1):72-76.

[7]孙怀富.基于电子商务平台的电力物资决策管理研究[D].北京:北京工业大学,2006.

[8]王志勇.大唐集团托克托发电厂物资管理研究[D].北京:华北电力大学,2010.

[9]邬斌弢,张玉鑫.基于双向协同的物资需求计划管理在电网工程中的应用研究[J].华东电力,2012,40(5):0913-0914.

基金项目:国家电网公司科技资助项目(豫电WZBKJ[2011]342号)。

作者简介:

宋斌(1968-),男,河南开封人,高级工程师,河南省电力公司物资部计划合同处处长,主要从事电力物资合同管理和供应链管理等研究。

宋秉虎(1970-),男,甘肃白银人,高级工程师,研究方向:电力物资管理,供应链管理。

第7篇:神经网络的反向传播范文

关键词:风速;短期预测;相似数据;小波分析;人工神经网络

1 引言

随着风电场并网运行规模的增大,国内外对于风力发电并网各种课题的研究越来越深入,但关于风电场发电功率预测的研究还达不到令人满意的程度,预测误差一般都在15%以上[1]。

采用的方法通常包括持续法、卡尔曼滤波法、随机时间序列法、神经网络法。其中,人工神经网络法进行风速或风电功率预测应用得最广。文献[2-3]都利用小波―BP神经网络进行建模,但训练样本没有相关性,预测精度偏低。文献[4-5]利用改进的BP神经网络建模,虽然运行时间缩短,但是在数据相关性和数据去噪处理方面欠缺,导致精度不高。因此,本文建立了基于相似数据并结合小波分析的BP神经网络建模。

2 基于相似数据并结合小波分析的BP神经网络建模

2.1 相似数据选择办法

2.3 反向传播(BP)神经网络

2.4 仿真实验建模

3 算法对比分析

从图4可得出,BP神经网络模型的平均相对误差为20.77%,而本模型为10.21%。因此,采用本模型建模得到的相对误差较传统的BP神经网络模型预测精度有很大的提高。

4 结论

针对风力发电中风速预测问题,本文在BP神经网络理论的基础上引入相似数据并结合小波分解进行短期风速预测,得到如下结论:

⑴相似数据的选取增强了数据的相关性,提高了模型预测精度。

⑵小波分解降低了信号的非平稳性,使模型更好地拟合了风速信号的低频和高频特性,可进一步提高算法精度。

⑶通过对算法对比分析,表明本模型较传统BP神经网络模型误差小,充分地说明此方法在工程应用上具有可行性。

[参考文献]

[1]杨秀媛,肖洋,陈树勇.风电场风速和发电功率预测研究[J].中国电机工程学报,2005,25(11):1-5.

[2]师洪涛,杨静玲,丁茂生,王金梅.基于小波―BP神经网络的短期风电功率预测方法[J].电力系统自动化,2011,35(16):44-48.

[3]厉卫娜,苏小林.基于小波- 神经网络的短期风电功率预测研究[J].电力学报,2011,26(6):458-461.

[4]王德明,王莉,张广明.基于遗传BP神经网络的短期风速预测模型[J]. 浙江大学学报(工学版),2012,46(5):837-841.

第8篇:神经网络的反向传播范文

关键词:神经网络;计算机;智能信息;应用

中图分类号:TP183

文献标识码:A

文章编号:16723198(2009)20028602

1神经网络的定义

一般情况下,人工神经元网络是作为信息处理单元来模仿大脑,执行特定的任务或完成感兴趣的功能。关于它的定义有很多种,而下面的HechtNielsen给出的神经网络定义最具有代表意义: 神经网络是一种并行的分布式信息处理结构,它通过称为连接的单向信号通路将一些处理单元互连而成。每一个处理单元都有一个单输出到所期望的连接。每一个处理单元传送相同的信号――处理单元输出信号。处理单元的输出信号可以是任一种所要求的数学类型。在每一个处理单元中执行的信息处理在它必须完全是局部的限制下可以被任意定义,即它必须只依赖于处理单元所接受的输入激励信号的当前值和处理单元本身所存储记忆的值。

2神经网络的基本属性

(1)非线性: 人脑的思维是非线性的,故人工神经网络模拟人的思维也应是非线性的。

(2)非局域性: 非局域性是人的神经系统的一个特性,人的整体行为是非局域性的最明显体现。神经网络以大量的神经元连接模拟人脑的非局域性,它的分布存储是非局域性的一种表现。

(3)非定常性: 神经网络是模拟人脑思维运动的动力学系统,它应按不同时刻的外界刺激对自己的功能进行修改,故而它是一个时变的系统。

(4)非凸性:神经网络的非凸性即是指它有多个极值,也即系统具有不只一个的较稳定的平衡状态。这种属性会使系统的演化多样化。

3神经网络模型的分类

(1)按照网络的结构区分,则有前向网络和反馈网络。

(2)按照学习方式区分,则有教师学习和无教师学习网络。

(3)按照网络性能区分,则有连续型和离散性网络,随机型和确定型网络。

(4)按照突触性质区分,则有一阶线性关联网络和高阶非线性关联网络。

(5)按对生物神经系统的层次模拟区分,则有神经元层次模型,组合式模型,网络层次模型,神经系统层次模型和智能型模型。

通常人们较多地考虑神经网络的互连结构。一段而言,神经网络有分层网络、层内连接的分层网络、反馈连接的分层网络、互连网络等4种互连结构。在人们提出的几十种神经网络模型中,人们较多用的是Hopfield网络、BP网络、Kohonen网络和AR双自适应共振理论网络。

Hopfield网络是最典型的反馈网络模型,它是目前人们研究得最多的模型之一。Hopfield网络是由相同的神经元构成的单层,并且不具学习功能的自联想网络。它需要对称连接。这个网络习以完成制约优化和联想记忆等功能。

BP网络是误差反向传播(Back Propagation)网络。它是一种多层前向网络,采用最小均方差学习方式。这是一种最广泛应用的网络。它可用于语言综合,识别和自适应控制等用途。BP网络需有教师训练。

Kohonen网络是典型的自组织神经网络,这种网络也称为自组织特征映射网络SOM。它的输入层是单层单维神经元;而输出层是二维的神经元,神经元之间存在以“墨西哥帽”形式进行侧向交互的作用。因而,在输出层中,神经元之间有近扬远抑的反馈特性,从而使Kohonen网络可以作为模式特征的检测器。

ART网络也是一种自组织网络模型。这是一种无教师学习网络。它能够较好地协调适应性,稳定性和复杂性的要求。在ART网络中,通常需要两个功能互补的子系统相互作用.这两个子系统称注意子系统和取向子系统。ART网络主要用于模式识别,它不足之处是在于对转换、失真和规模变化较敏感。

4误差反向传播的前馈网络(BP网络)

学习是神经网络一种最重要也最令人注目的特点。自从40年代Hebb提出的学习规则以来,人们相继提出了各种各样的学习算法。其中以在1986年Rumelhart等提出的误差反向传播法,即BP(error BackPropagation)法影响最为广泛。直到今天,BP算法仍然是最重要、应用最多的有效算法。

(1)神经网络的学习机理和机构:在神经网络中,对外部环境提供的模式样本进行学习训练,并能存储这种模式,则称为感知器,感知器采用有教师信号进行学习。感知器的学习是神经网络最典型的学习。这种学习系统分成三个部分:输入部,训练部和输出部。

输入部接收外来的输入样本X,由训练部进行网络的权值W调整,然后由输出部输出结果。在这个过程中,期望的输出信号可以作为教师信号输入,由该教师信号与实际输出进行比较,产生的误差去控制修改权值W。

(2)神经网络学习的梯度算法:从感知器的学习算法可知,学习的目的是在于修改网络中的权值,使到网络对于所输入的模式样本能正确分类。当学习结束时,也即神经网络能正确分类时,显然权值就反映了同类输人模式样本的共同特征。换句话讲,权值就是存储了的输人模式。由于权值是分散存在的,故神经网络自然而然就有分布存储的特点。

感知器学习算法相当简单,当函数不是线性可分时求不出结果,而且不能推广到一般前馈网络中,为此出现了另一种算法-梯度算法((LMS)。梯度算法把神经元的激发函数改为可微分函数,例如非对称Sigmoid函数为f (x) = l/(1 + e-x ),或对称Sigmoid函数f (x) = (1 - e-x )/ (1 + e-x ) 梯度法比原来感知器的学习算法进了一大步。

(3)反向传播学习的BP算法:感知机学习算法是一种单层网络的学习算法。在多层网络中,它只能改变最后权值。因此,感知机学习算法不能用于多层神经网络的学习。1986年,Rumelhart提出了反向传播学习算法,即BP算法。这种算法可以对网络中各层的权值进行修正,故适用于多层网络的学习。

它含有输人层、输出层以及处于输入输出层之间单层或多层的中间层,即隐含层。隐含层虽然和外界不连接,但是,它们的状态则影响输入输出之间的关系。这也是说,改变隐含层的权值,可以改变整个多层神经网络的性能。

第9篇:神经网络的反向传播范文

关键词:BP神经网络;电力负荷;短期预测

中图分类号:TP183 文献标识码:A文章编号:1007-9599 (2010) 09-0000-02

Power Load Short-term Forecasting Based on BP Neural Network

Wang Jing,Yang Xiao

(School of Economics&Management,North China Electric Power University,Beijing102206,China)

Abstract:Load forecasting is an important task in power system.We forecasted short-term load for a region of southern based on BP neural network.Firstly,we introduce the structure of BP neural network,and then we make use of the data to do empirical research by using BP neural network of the region.And we consider the meteorological factors in the design of the BP neural network structure.

Keywords:BP Neural Network;Power Load;Short-term Forecast

一、引言

目前,全国供电紧张,部分严重地区经常缺电,造成许多发电设备不能及时检修,处于超负荷的运转状态。会导致机组老化加速,出现不可预见的事故,造成人员、财产的伤亡。因此对未来电网内负荷变化趋势的预测,是电网调度部门和设计部门所必须具备的基本信息之一。

电力系统负荷预测是电力生产部门的重要工作,通过精确的预测电力负荷,可以经济的调度发电机组,合理安排机组启停、机组检修计划,降低发电成本,提高经济效益。负荷预测对电力系统控制、运行和计划都有着重要的意义。电力系统负荷变化受多方面的影响,包括不确定性因素引起的随机波动和周期性变化规律。并且,由于受天气、节假日等特殊情况影响,又使负荷变化出现差异。神经网络具有较强非线性的映射功能,用神经网络来预测电力负荷越来越引起人们的关注。

二、BP网络理论

(一)BP网络结构

BP神经网络全称为Back-Propagation Network,即反向传播网络,是一种多层前馈神经网络,结构图如图1所示,根据图示可以知道BP神经网络是一种有三层或三层以上的神经网络,包括输入层、中间层(隐层)和输出层。前后层之间实现全连接,各层之间的神经元不进行连接。当学习样本输入后,神经元的激活之经由各层从输入层向输出层传递。之后,根据减少目标输出与实际输出误差的原则,从输出层反向经过各层至输入层,逐级修正各连接的权值,该算法成为“误差方向传播算法”,即BP算法。由于误差反向传播不断进行,网络对输入模式响应的正确率也不断上升。

BP神经网络传递函数不同于感知器模型传递函数,BP神经网络要求其必须是可微的,所以感知器网络中所用到的硬阈值传递函数在BP神经网络中并不适应。BP神经网络中常用的传递函数有正切函数、Sigmoid型的对数或线性函数。由于这些函数均是可微的,所以BP神经网络所划分的区域是一个非线性的超平面组成的区域,是一个比较平滑的曲面,它比线性划分更加的精确。另外,网络才有严格的梯度下降法进行学习,权值修正的解析式分非常明确。

(二)BP网络算法

(1)初始化。给没给连接权值 、 、阈值 与 赋予区间 内的随机值

(2)确定输入P和目标输出T。选取一组输入样本 和目标输出样本 提供给网络。

(3)用输入样本 、连接权 和阈值 计算中间层各单元的输入 ,然后用 通过传递函数计算中间层各单元的输出 。

(4)利用中间层的输出 、连接权 和阈值 计算输出层各单元的输出 ,然后通过传递函数计算输出层各单元的响应 。

(5)利用目标向量 和网络的实际输出 ,计算输出层各单元的一般化误差 。

(6)利用连接权 、输出层的一般化误差 和中间层的输出 计算中间层各单元的一般化误差 。

(7)利用输出层各单元的一般化误差 与中间呈个单元的输出 来修正连接权 和阈值 。

(8)利用中间层各单元的一般化误差 ,和输入层各单元输入P来修正连接权 和阈值 ,计算方法同(7)。

(9)达到误差精度要求或最大训练步数,输出结果,否则返回(3)

三、实证研究

(一)神经网络结构设计

本文以南方某缺电城市的整点有功负荷值,在预测的前一天中,每隔2小时对电力负荷进行一次测量,这样,可以得到12组负荷数据。此外电力负荷还和环境因素有关,文章选取预测日最高气温、最低气温和降雨量气象特征作为网络输入变量。所以设计的网络结构为:15个输入层节点和12个输出向量,根据Kolmogorov定理可知,网络中间层的神经元可以去31个。

(二)输入数据归一化处理

获得输入变量后,为了防止神经元饱和现象,在BP神经网络输入层进行归一化,文章才有如下公式进行变换。

(三)实证分析

中间层神经元传递函数和输出层传递函数分别采用S型正切函数tansig和S型对数函数logsig,因为这连个函数输出区间为[0,1],满足网络设计的需求。

利用以下代码创建一个满足上述要求的BP神经网络。

threshold=[0 1; 0 1; 0 1; 0 1; 0 1; 0 1; 0 1; 0 1; 0 1; 0 1; 0 1; 0 1; 0 1; 0 1; 0 1];

netbp=newff(threshold,[31,12],{’tansig’,’logsig’},’trainlm’)

其中变量threshold用于规定输入向量的最大值和最小值,规定了网络输入向量的最大值为1,最小值为0,。“trainlm”是为网络设定的训练函数,采用的是Levenberg-Marquardt算法进行网络学习。该方法明显优于共轭梯度法及变学习效率的BP算法,LM算法可大大提高学习速度,缩短训练时间。

使用该地区2007年8月11日到20日的负荷和气象数据作为输入向量,8月12日至8月21日负荷数据作为目标向量,对网络进行训练,再用8月20日负荷数据和21日的气象特征数据来预测21日用电负荷,检验预测误差是否能带到要求。

利用MATLAB进行仿真,经过79次训练后达到误差要求结果。如图2

网络训练参数的设定见下表

从图3和图4中可以看出运用BP神经网络方法很好的预测了负荷走势,并且预测误差较小,负荷工程预测的要求。四、结论

在进行电力负荷预测时,必须考虑气象因素的影响。在不同的地区气象因素对电力负荷的影响不同,因此本文在设计神经网络结构时,结合该地实际情况考虑气象因素。本文研究了BP神经网络在电力负荷短期预测中的应用,根据上述的预测结果可以说明BP神经网络对电力负荷进行短期预测是目前一种比较可行的方法。

参考文献

[1]蒋平,鞠平.应用人工神经网络进行中期电力负荷预报[J].电力系统自动化,1995,6(19):15-17

[2]苏宁.MATLAB软件在电力负荷预测中的应用[J].华北电力技术,2007(8):16-19

[3]康重庆,夏清,张伯明.电力系统负荷预测研究综述与发展方向的探讨[J].电力系统自动化,2OO4,28(17):1-11

[4]姜勇.电力系统短期负荷预测的模糊神经网络方法[J].继电器,2002,36(2):11-13

[5]田景文,高美娟.人工神经网络算法研究及应用[M].北京:北京理工大学出版社,2006

相关热门标签