公务员期刊网 精选范文 神经网络方法范文

神经网络方法精选(九篇)

前言:一篇好文章的诞生,需要你不断地搜集资料、整理思路,本站小编为你收集了丰富的神经网络方法主题范文,仅供参考,欢迎阅读并收藏。

神经网络方法

第1篇:神经网络方法范文

关键词:基本概况;电力电量预测;神经网络;BP神经网络模型

一.神经网络和电力电量预测的基本概况

1.神经网络。神经网络的基础在于神经元,神经元是以生物神经系统的神经细胞为基础的生物模型。在人们对生物神经系统进行研究,以探讨人工智能的机制时,把神经元数学化,从而产生神经元数学模型。大量的形式相同的神经元连结在一起就组成了神经网络,神经网络是一个高度非线性动力学系统。神经网络主要有以下四个特征:

(1)非线性。非线性关系是自然的普片特性,大脑的智慧就是一种非线性现象。人工神经元处于激活或抑制两种不同的状态,这种行为在数学上表现为一种非线性关系。

(2)非局限性。一个神经网络通常由多个神经元广泛连接而成的,一个系统的整体行为不仅取决于单个神经元的特征,而且可能主要由单元之间的相互作用、相互连接所决定的,通过单元之间的大量连接模拟大脑的非局限性。

(3)非常定性。人工神经网络具有自适应、自组织、自学习能力。神经网络不但处理的信息可以有各种变化,而且在处理信息的同时,非线性动力系统本身也在不断变化。

(4)非凸性。一个系统的演化方向,在一定条件下将取决于某个特定的状态函数。非凸性是指这种函数有多个极值,故系统具有多个较稳定的平衡态。

2.电力电量预测。电力电量预测是电力系统规划的重要组成部分,也是电力系统经济运行的基础,其对电力系统规划和运行都极其重要。电力电量预测的含义有:(1)指按照在国家机关、企业、居民等用户处的各种用电设备。(2)指描述上述用电设备所消耗的数值。电力电量预测包括了对未来电力需求量(功率)的预测和对未来用电量(能量)的预测以及对负荷曲线的预测。电力电量预测的工作主要是为了电力系统规划和运行提供可靠的决策依据。

二.神经网络模型中的BP神经网络模型

BP(Back Propagation)网络是一种按误差逆传播算法训练的多层前馈网络,是目前,应用最为广泛的神经网络模型之一。BP网络能学习和存贮大量的输入/输出模式映射关系,而不需要事情揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法,通过方向传播来不断调整网络的权值和阈值,使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层、隐层、输出层。

BP神经网络模型的分类:

1.节点输出模型。节点输出模型又可以分为:

(1)隐节点输出模型:οj=f(∑Wij×Xi-qj) (1)

(2)输出节点输出模型:Yk=f(∑Tjk×οj-qk)(2)

(3)f-非线形作用函数;q -神经单元阈值

2.作用函数模型。作用函数是反映下层输入对上层节点刺激脉冲强度的函数又称刺激函数,一般取为(0,1)内连续取值Sigmoid函数:f(x)=1/(1+e)(3)

3.误差计算模型。误差计算模型是反映神经网络期望输出与计算输出之间误差大小的函数:Ep=1/2×∑(tpi-pi) (4)

Tpi- i节点的期望输出值;pi- i节点计算输出值。

4.自学习模型。神经网络的学习过程,即连接下层节点和上层节点之间的权重矩阵Wij的设定和误差修正过程。自学习模型为:Wij(n+1)= h×Ф i×j + a×Wij(n) (5)

在这个式子中H为学习因子,Ф i为输出节点i的计算误差,j为输出节点j的计算输出,a为动力因子。

三.电力电量预测的神经网络方法

1.电力电量预测的神经网络方法中数据的标准化。上面我们说了下层输入对上层节点刺激脉冲强度的函数又称刺激函数,一般取为(0,1),因此,要想把数据标准化,就要把相同的因子的取值分为最大值、中间值、最小值,其中因子的最大值要定为1,因子的中间值应用公式X标准=X-X min/X max-X min,进行因子中间值的计算,最后因子的最小值要定为为0,当把这些数据进行标准化后,要列一表格,在表格中要清楚的写好需要被电力电量预测的项目的时间和标准化值,这样才能保证神经网络方法在电力电量预测中得出的结论是准确的。

2.电力电量预测的神经网络方法中的网络训练。由于电力电量预测的内容不是非简单的线性关系,而且关系非常的复杂,因此在进行电力电力预测时,需要对其进行输入、输出的分类,例如:在全年的电力电量预测时,需将前六个月中所用的电量作为六个电力电量预测的输入,然后把第七个月所用的电量作为电力电量预测的输出,以此类推。

3.电力电量预测的神经网络方法中的预测结果以及结果的分析。当上面第2点有效的完成后,就可以以网络训练的结果为根据,对BP神经网络模型再进行600次的训练,当标准值的误差达到1e-5的时候,就可以对电力电量预测出来的结果进行分析,并将这个分析出来的结果描述为表格,这个表格的内容为时间、实际用电量、神经网络预测值,以及相对误差,有了这个表格就可以很清楚、明了的知道有神经网络的方法所预测出来的电力电量,而且还可以清楚的知道由神经网络方法所预测出来的电力电量和实际产生的电力电量的之间的相对误差值是非常的低,由此,可以知道神经网络方法是非常精准的,它对电力电量的预测值的精准度已经成熟的达到了99%左右。

4.电力电量预测中的神经网络方法中出现误差的原因。(1)实际数据统计出现误差。对于实际电力电量数据的统计也有可能出现误差,这也就会导致电力电力预测中神经网络方法中出现误差。(2)神经网络方法中样本不断的增多。随着我国科学技术的不断进步,我国神经网络方法中网络训练的方法也在不断的进步,网络训练的样本也就越来越多。然而,随着这个神经网络方法中网络训练的样本越来越多,电力电量的预测也就会存在一些误差,虽然会存在误差,但是也导致了神经网络方法的技术越来越高,那么,预测的精准度度也就会越来越高。

四.总结

综上所述,由于,神经网络方法的技术越来越高,对电力电量的预测结果也越来越精准,因此,有效的将神经网络的方法应用在电力电量的预测中,可以有效的为电力电量的预测带来更精准的电力电量预测值。

参考文献:

[1]张,吴知非,禹建丽.电力电量预测的神经网络方法[J].统计与决策,2008,(4).

[2]万星,周建中.改进灰色神经网络模型在电量预测中的应用[J].水力发电,2007,33,(6).

[3]张,吴知非.电力电量预测的神经网络方法[J].电脑知识与技术(学术交流),2007,4,(20).

[4]俞达,綦方中.基于灰色神经网络的公路物流需求量预测模型[J].软科学,2009,(11).

第2篇:神经网络方法范文

关键词:神经网络 直方图 图像增强

1.引言

灰度级是决定一幅数字图像特征的重要参数之一。在数字图像处理过程中,可以对图像的灰度级进行取样量化分析。如果将图像中像素亮度(灰度级别)看成是一个随机变量, 则其分布情况就反映了图像的统计特性,这可用Probability Density Function (PDF)来刻画和描述,表现为灰度直方图(Histogram)。灰度直方图是灰度级的函数,它表示图像中具有某种灰度级的像素的个数,反映了图像中每种灰度出现的频率, 如下图所示。灰度直方图的横坐标是灰度级,纵坐标是该灰度级出现的频度,它是图像最基本的统计特征通过对直方图的离散化和均衡化处理,可以有效地运用于图像的空间域增强。为图像的后期处理作好准备。神经网络在图像处理领域中应用十分广泛,因为其可以有效适应图像的非线性特点,并具有自组织、自学习和并行计算等优势,因此本文希望在传统直方图处理过程中,采用神经网络的方法对其进行检验和调试。

2.直方图处理

设r代表图像中像素灰度级,作归一化处理后,r将被限定在[0, 1]之内。在灰度级中,r=0代表黑,r=1代表白。对于一幅给定的图像来说,每一个像素取得[0, 1]区间内的灰度级是随机的,也就是说r是一个随机变量。假定对每一瞬间,它们是连续的随机变量,那么就可以用概率密度函数pr(r)来表示原始图像的灰度分布。如果用直角坐标系的横轴代表灰度级r,用纵轴代表灰度级的概率密度函数pr(r),这样就可以针对一幅图像在这个坐标系中作出一条曲线来。这条曲线在概率论中就是概率密度曲线。

但是曲线是关于r的连续型函数图像,对于离散化后的数据,我们要处理的应该是概率的和,而不是概率密度积分。灰度直方图的计算非常简单,依据定义,在离散形式下,灰度级为[0,L-1]范围的数字图像直方图是离散函数h(rk)=nk,rk是第k 级灰度,nk是图像中灰度级为rk的像素数,经常以图像中的像素的总数(用n表示)除于它的每一个值得到归一化的直方图:因此一个归一化的直方图由 表示。k=1,2,…,L-1所以 表示的是灰度级为rk发生的概率估计值。

3.直方图均衡

直方图均衡化处理是以累积分布函数变换法为基础的直方图修正法。用累积分布函数原理求变换函数的表达式如下:

按照这样的关系变换,就可以得到一幅改善质量的新图像。这幅图像的灰度层次将不再是呈现较暗色调的图像,而是一幅灰度层次较为适中, 比原始图像清晰, 明快得多的图像。可以证明,变换后的灰度及概率密度是均匀分布的。

上述方法是以连续随机变量为基础进行讨论的。当灰度级是离散值时,可用频数近似代替概率值,即

其反变换式为

4. BP神经网络

下图是一个单输出的感知器,实质是一个典型的人工神经元。

单输出的感知器(M-P模型)

BP神经网络的训练过程是根据样本集对神经元之间的联接权进行调整的过程。样本集有形如:

(输入向量,输出向量)

的向量对构成。在开始训练前,用一些不同的小随机数对联接权进行初始化。然后可以开始训练,BP算法简单分为4步。

4.1向前传播阶段

(1) 从样本集中取一个样本(T(rp),sp),将 T(rp)输入网络;(2)计算相应的实际输出op

在此阶段,信息从输入层逐层传输,直到输出层。网络执行以下算法

4.2 向后传播阶段

(1)计算实际输出op与相应的理想输出sp的差;(2)按极小化误差的方式调整权矩阵。这两个阶段要受到精度要求的控制,在此,取作为网络关于第p个样本的误差测度。而将整个样本集的误差测度定义为 过程2对应于输入信号的正常传播而言。在第一次调整联接权时只能 求出输出层的误差,其他层的误差要通过第一次的误差反向逐层后推得到。

上文提到的精度根据具体实践得出。需要注意的是在对一个样本进行训练结束后,还要对其他样本全部考察一遍。然后再重复以上过程,直到网络满足各个样本的要求。即 。在网络的训练过程中,以 作为网络的激活函数。

对以下像素集

经直方图均衡化后的Lena图像及直方图

5.结论

通过调整权值的神经网络方法得到的数据能够同传统方法相对应。可以作为直方图均衡化的一种补充。经变换后得到的新直方图虽然不很平坦,但毕竟比原始图像的直方图平坦的多, 而且其动态范围也大大地扩展了。因此,这种方法对于对比度较弱的图像进行处理是很有效的。从上例可以看出,变换后的灰度级减少了,这种现象叫做“简并”现象。由于简并现象的存在,处理后的灰度级总是要减少的,这是像素灰度有限的必然结果。

参考文献:

[1]许锋,卢建刚,孙优贤.神经网络在图像处理中的应用[J].信息与控制,2003,32(4):344~350

[2]Rafael C,Gonzalez,Richard E.Wodds著.阮秋琦,阮宇智等译.Digital Image Processing.Second Edition[M].北京:电子工业出版社,2004:176~215

[3]Zhou Y T,Chellappa R,Jenkins B K.Image res―toration using a neural network[J].IEEE Trans AcoustSpeech Signal Processing,1988,36(7):1141~ 1151

第3篇:神经网络方法范文

关键字:BP神经网络; 数据库; 查询;准确度

中图分类号:TP393 文献标识码:A 文章编号:1009-3044(2017)04-0001-03

神经网络系统是根据人体神经系统的基本原理构建的,其在一定程度上实现了记忆和训练过程[1-2]。此项功能体现了神经网络与传统计算机算法存在的根本差异,其具备在线学习、自调节以及自适应性,同时具备信息的分布式信息存储特性。正是由于神经网络的学习特性,使其在联想记忆、数据非线性映射、在线学习模型构建、数据信息分类与识别等领域具有了广泛的应用空间。

在云数据应用时代,存储系统的应用领域及使用者的范围不断扩大[6],用户呈指数倍的增长使得数据的存储容量不断增长,用户访问数据库的频繁程度也将持续增加,这对存储系统数据库访问的吞吐量性能提出了更高的要求,也对数据查询的效率得出了更加严格的标准。

本文提出的基于神经网络的数据库优化查询方法主要通过对云存储数据的关键词进行相似度对比,利用神经网络算法对查询数据样本进行记忆训练,通过对查询关键字进行数据匹配,最终实现数据的准确查询。为了测试本文设计的基于神经网络的数据库优化查询方法的可行性及准确性能,作者在完成了模型构建后,Matlab软件中构建实验场景,模拟数据库检索过程,完成了对查询方法进行测试验证。

1 神经网络模型的建立

1.1 BP神经网络处理单元模型

为了不失一般性,选取BP神经网络的任意两层介绍其处理单元的数学模型。BP神经网络处理单元的结果如图1所示,其中,L1层的[n]个神经元和L2层的[p]个神经元进行全连接,定义连接权向量为[W={wij},i=1,2,…,n,j=1,2,…,p];L1层的[n]个神经元的输出作为L2层各神经元的输入列向量[X=(x1,…,xi,…,xn)T],L2层各个神经元的阈值设置为[θj,j=1,2,…,p],因此,L2层各神经元接收的输入加权和如下式所示[3-4]:

L2层各神经元的输出结果利用转移函数进行计算。一般情况下,BP神经网络将Sigmoid函数作为转移函数。Sigmoid函数的数学表达式为:

因此,L2层各个处理单元的输出为:

由于Sigmoid函数的输出类似于本文设计的神经网络的信号输出形式,本文设计的模型采用Sigmoid函数作为系统的转移函数,其能蜃既访枋鍪据检索过程中的非线性特性水平[5-6]。

1.2 BP神经网络学习算法

本文的无线通信选择机制采用三层BP神经网络结果,具体学习算法如下所述:

输入模式向量设为[Xk=(x1k,…,xik,…,xnk)T],[k=1,2,…,m],其中[m]表示样本模式对个数,[n]表示输入层神经元数量;输入模式对应的期望输出向量为[Yk=(y1k,…,yik,…,yqk)T],隐含层神经元的净输入向量设置为[Sk=(s1k,…,sik,…,spk)T],输出向量设置为[Bk=(b1k,…,bik,…,bpk)T],[q]表示输出层单元数量,[p]表示隐含层单元个数;输出层神经元净输入向量设置为[Lk=(l1k,…,lik,…,lqk)T],实际输出向量设置为[Ck=(c1k,…,cik,…,cqk)T];输入层神经元至隐含层神经元的连接权值设置为[W={wij}],其中,[i=1,2,…,n,j=1,2,…,p]隐含层至输出层的连接权值设置为[V={vjt}],隐含层神经元的阈值设置为[θ={θj},j=1,2,…,p],输出层各神经元的阈值设置为[γ={γt},t=1,2,…,q]。

(1)初始化操作。将连接权值矩阵[W]、[V]及阈值[θ]、[γ]在[[-1,+1]]区间内进行随机取值。

(2)随机从训练集合中选取一个学习模式对[(Xk,Yk)]作为BP神经网络的输入。

(3)输入层的输出的计算。输入层的各神经元不对输入模式进行任何处理,而是直接将接收到的数据关键词直接输出到隐含层各神经元,不做任何的数据处理。

(4)根据下式求得隐含层各处理单元的净输入和净输出:

(5)根据下式求得各输出层神经元的净输入和实际输出:

(6)根据设定的期望输出,通过下式求得各输出层神经元的校正误差[dkt],

(7)根据下式得出隐含层各神经处理单元的校正误差[ekj],

(8)根据下式调整隐含层至输出层的连接权值[V]和输出层神经元阈值[γ], [α]表示学习速率,[0

(9)根据下式调整输入层至隐含层神经元的连接权值[W]和输出层神经元阈值[θ], [β]表示学习速率,[0

(10)为BP神经网络随机输入下一个学习模式对,返回(3)处,直至训练完成[m]个学习模式对。

(11)对系统的全局误差[E]进行判断,查看其是否满足神经网络设定的精度需求。如果 [E≤ε],这说明满足结束条件,结束学习过程,如果未满足,则继续学习。

(12)更新神网络学习次数,如果未达到设定的学习次数,则返回Step2。

(13)BP神经网络学习过程结束。

在整个神经网络的学习阶段中,分别涵盖了输入模式的“顺传播过程”,全局误差的“逆传播过程”以及“学习记忆训练”过程,(11)至(12)表示是收敛过程。全局误差[E]的理想学习曲线如图2所示。

为了减小震荡,加快网络的记忆训练速度,作者在对连接权值进行调整时,在改变量基础上添加一定比例的权值改变值,称之为动量项。则附加动量项的连接权值调整方法如下式所示:

式中,[ηΔwij(n-1)]代表动量项,其中[n]为学习次数,[η]作为动量系数,[0

加入动量项的本质目的是使控制学习过程的学习速率[β]不仅仅是一个固定值,而是能够持续变化的。在引入动量项后,网络总是试图使连接权值的调整按照相同方向进行,即使前后两次连接权值的调整值方向相反,也能够降低震荡趋势,加快学习记忆速度,以及网络收敛速度[7]。

通常来说,动量系数的取值不宜过大。若动量系数过大,动量项所占比例过重,则本次误差修正项的作用会不太明显,以致完全没有作用,反而会减慢收敛速度,甚至导致整个网络震荡。一般情况下,动量系数的最大值在0.9作用,本文取值为0.6。

2 数据库查询方法测试

为了测试本文设计的基于神经网络的数据库优化查询方法的可行性及准确性能,作者在完成了模型构建后,Matlab软件中构建实验场景,模拟数据库检索过程,完成了对查询方法进行测试验证。数据库查询学习样本使用的是加州大学标准数据集,通过选择中度数据规模的样本空间进行设计网络的学习训练,主要训练搜索关键字与查询结果直接的对应关系,并进行存储记忆。通过不同查询次数的响应延时进行统计分析,与未使用任何算法的随机检索方法的搜索结果进行对比分析。数据检索实验对比结果如图3所示。

从数据检索对比结果得知,当迭代次数达到200次时,本文提出的基于神经网络算法的数据库查询方法满足收敛条件[f(x)≤e-10],此时可视为系统以及查询到最优数据结果。同时,较随机数据库检索方法,本设计的优化方法在响应延时方面平均降低了34.7%,同时搜索查询准确率高达99.3%。

3 总结

神经网络在联想记忆、数据非线性映射、在线学习模型构建、数据信息分类与识别等领域具有了广泛的应用空间。通过对云存储数据库查询过程的原理进行研究,本文提出的基于神经网络的数据库优化查询方法主要通过对云存储数据的关键词进行相似度对比,利用神经网络算法对查询数据样本进行记忆训练,通过对查询关键字进行数据匹配,最终实现数据的准确查询。为了测试本文设计的基于神经网络的数据库优化查询方法的可行性及准确性能,作者在完成了模型构建后,Matlab软件中构建实验场景,模拟数据库检索过程,完成了对查询方法进行测试验证。仿真结果表明,本文提出的基于神经网络的数据库优化查询方法的准确率高达98.3%,具有较高的检索精度及稳定性。

参考文献:

[1] 李中志.基于改进BP神经网络的水位流量关系拟合[J].中国农村水利水电, 2008(10):30-32.

[2] 任雯,胥布工.基于标准神经网络模型的非线性系统分布式无线网络化控制[J]. 控制与决策, 2015,30(4):691-697.

[3] 余开华.小波神经网络模型在河道流量水位预测中的应用[J].水资源与水工程学报, 2013, 24(2):204-208.

[4] 潘道宏.RBF神经网络模型拟合电力抽水站水位流量关系研究[J].水利科技与经济, 2010,16(3):300-301.

[5] 孔玉静,侯鑫,华尔天等.基于BP神经网络的无线传感器网络路由协议的研究[J].传感技术学报, 2013, 26(2):246-251.

[6] 田晓青,刘松良.基于人工神经网络的过闸流量软测量研究[J].电子产品世界, 2013(10):43-45.

第4篇:神经网络方法范文

本方法作为水质分析评价的方法,比起其他方法,具有算法简单,运算速度快,受外界影响小等特点。

关键词:人工神经网络Matlab水质评价BP

中图分类号: TN711文献标识码:A 文章编号:

“人口、资源、环境”是当今世界面临的三大难题。人类的生存与发展从根本上依赖于水的获取和对水的控制。

天津市蕴藏着丰富的中、低温地下水资源。同时,天津市作为华北地区严重缺水的城市,地下水资源对天津市的经济发展具有极其重要的作用。地下水水质的分析评价,为资源管理提供了水质判别的依据,是资源管理系统中重要的一部分。

目前,天津市的地下水水资源的分析管理工作中,水质分析评价采用的比较多的是内梅罗指数公式法、模糊综合评判法、国标法等。

1 BP人工神经网络简介

BP (Back Propagation)神经网络是一种神经网络学习算法,全称是基于误差反向传播算法的人工神经网络。它的学习过程,由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息,并传递给中间层各神经元;中间层是内部信息处理层,负责信息变换;最后一个隐层传递到输出层各神经元的信息,经进一步处理后,完成一次学习的正向传播处理过程,由输出层向外界输出信息处理结果。

BP神经网络相对比其他的神经网络,具有运算速度快,叠加性好等特点。

2分析方法模型建立

2.1 分析标准选择

参照《中华人民共和国地下水质量标准》,结合天津市水资源的实际取样和检测经验,形成下述指标:

表1水质评价的要素表(单位:mg/L)

2.2 分析方法建立

分析方法基本流程如图

图1基本流程图

隐含层采用正切S型神经元,输出层采用线性神经元,输入向量的维数是16,所以输入层节点数确定为16个。输出层节点数由输出向量的维数决定,这里输出节点数为1。据经验以及反复训练, 隐含层节点数定为5。这样就形成了一个16×5×1神经网络。

图2BP神经网络结构

输入向量为2-1,地下水质量分类指标,共有项目16,分为五个级别。输出结果为一列。

2.3 平台选择

本文使用的开发平台为MATLAB7.8(R2009a)。

2.4 算法选择

本文选择动量批梯度下降函数(traingdm)来训练算法。它实现的是一种批处理的前馈神经网络训练算法,它不但具有更快的收敛速度,而且引入了一个动量项,有效地避免了局部最小问题在网络训练中的出现。

2.5 学习训练和模拟

网络的训练学习,分为如下几步:

首先,采用指令 net=newff(minmax(p),[5,1],{'tansig','purelin'},'traingdm') 建立网络。

newff()为建立BP神经网络的函数,minmax(p)表示网络输入p的取值范围(0~1),[5,1]表示隐层节点数是5,输出层节点数是1,{'tansig','purelin'}表示隐含层中的神经元采用tansig转换函数,输出层采用purelin函数,'traingdm'表示选择的学习算法。

权重和阈值初始化 net=init(net);给各连接权重IW{1,1}、LW{2,1}及阈值b{1}、b{2}赋予(-1,+1)间的随机值。

然后,采用指令[net,tr]=train(net,p,t)进行训练;训练次数1000,误差限为10-8。采用水质标准归一化后的数值作为训练向量。训练结果如下:

图3 网络训练误差图

采用指令 a= sim(net,p)模拟;

训练结果:1.0001 1.9998 3.0001 4.0000 5.0000

这说明网络已经训练完毕,可以使用进行实际应用。

根据训练好的网络及输入向量进行模拟网络输出,输入层P为16×n的数组,将监测数据,进行评价归一化后,根据训练好的模型进行仿真采用指令out= sim(net,p1),得到的结果为1×n的向量。即为样本的评价值。然后将评价值根据大小分为不同的等级(I,II,III,IV,V),输出为rank数组。

3实验结果

3.1 小量样本对比实验

选取3个地点,使用不同方法进行评价,水质评价可以用矿化度和硬度这两项指标来简单的评价,因为这两个指标可以说明水质各组分浓度大小。比较结果如下:

表2小量样本结果

从上表中可以看出,3号样本的矿化度和硬度这两项指标远小于其他两个样本,水质情况明显好于其他两个样本。这个结论与BP神经网络的评价结果是一致的,其他两种方法不能将这3个样本的水质情况区分开。

从小量样本的结果看,BP神经网络法的评价与实际的符合度较好。

3.2 大量样本对比实验

分析方法是否科学,是否符合实际工作的需要,仅有小量样本的实验是远远不够的,还需要使用较大规模的数据样本进行实验。

大量样本实验选取多年地下水监测数据中随机抽取的200组数据,代入模型,结果如下:

表3大量样本结果

与往年数据进行比较,结果如下:

图4 地下水历年评价结果对比图

由上图可以看出,使用BP神经网络法对水质进行分析评价,结果比较合理,与往年的数据相符合,结果可信。

4结论

天津市地下水资源的管理,到现在已经走过了20几年的时间,积累了大量的监测数据,为了更好的整理分析这些数据,便于管理工作的进行,水质分析评价就成为了一个很好的工具。基于BP人工神经网络的水质分析评价模型,为水质分析评价工作提供了一个新的方向。与传统的方法不同,BP神经网络法进行水质分析评价,更为简单,快捷,结果也与真实情况相符合。

水质分析评价是一项长期、枯燥、严谨而又非常重要的工作。使用BP网络法评价,现阶段同样存在着不足,比如不同的评价对象具有不同的影响因子,对于不同的评价对象,评价因子需进一步更改。

本文对于地下水水质评价方法提出一个新的研究方向,希望能够抛砖引玉,供大家借鉴思考。

参考文献:

[1]郝华.我国城市地下水污染状况与对策研究[J].水利发展研究,2004,(3):23-25+49.

[2]卢新卫.基于人工神经网络的水质污染综合评价方法[J].工程勘察,1997,(6):25-26.

第5篇:神经网络方法范文

关键词:RBF神经网络;数据挖掘;遗传算法

中图分类号:TP18 文献标识码:A 文章编号:1009-3044(2016)07-0151-03

Research on Data Mining Method Based on RBF Neural Network

CAO Jia-jie, YANG Meng, XU Xin-yu

(Beijing Satellite Manufacturing Plant, Beijing 100000, China)

Abstract: The rapid development of Internet technology and database technology is widely used at the same time, human through information technology to collect data is more and more strong, and how to from a lot of data mining valuable information and knowledge has become particularly urgent. In order to solve the above problems, data mining technology arises at the historic moment. It is found that the data mining the data for the nonlinear, messy and the presence of noise data, neural network is by virtue of the degree of fault tolerance, distributed storage, parallel processing, adaptive and robust feature is widely used to deal with some of the data mining problems. Accordingly, in this case, the author first introduces the data mining and RBF neural network of the relevant theoretical knowledge, and then focus on the RBF neural network based on the data mining method for peer reference.

Key words: RBF neural network; data mining; genetic algorithm

数据挖掘是从大量数据中挖掘有价值的信息和知识,以便为管理决策和战略部署提供数据支撑。数据挖掘作为信息技术发展的结果,其应用前景相当广泛。数据库技术主要研究数据的组织、存储、获取和处理,而信息技术主要经历以下发展历程:数据的简单收集和数据库的初期建设数据的存储与检索、数据库的事务处理数据的分析与理解,此时便出现数据挖掘技术。基于上述研究背景,下文首先分别介绍数据挖掘与RBF神经网络的相关理论知识,并在此基础上,讨论基于RBF神经网络的数据挖掘方法,目的是为了研究数据挖掘所用到的分类算法。关于神经网络,作为一种人工智能技术,其一方面可以省去繁琐的数学建模和数学推理,另一方面在处理含噪声的非线性数据时表现出无与伦比的优越性。

1 数据挖掘

数据挖掘是非平凡的数据处理过程,即识别数据集中具有潜在价值、新颖有效且最终可被理解的模式,其中潜在价值指的是挖掘出的知识具有实际效用;新颖是指识别出的模式新颖;有效是指识别出的模式在一定程度上是正确的;最终可被理解是指识别出的数据可被用户理解。图1所示为数据挖掘的工作流程。

如图1所示,数据挖掘主要经历数据准备、模式提取、结果解释与评估等阶段,其中数据准备的步骤为:数据清洗数据选取数据预处理数据表示;数据提取阶段又称数据挖掘阶段,其实现步骤为:确定数据挖掘的目标或任务选取适宜的数据挖掘工具或算法进行数据挖掘操作;结果解释与评估阶段主要对所识别的数据进行评估、筛除。一般来讲,数据挖掘质量主要与以下影响因素有关:数据挖掘技术的可靠性与有效性;目标数据的数量与质量。总之,数据挖掘是一个反复反馈的过程,而可视化贯穿在数据挖掘的全过程。

数据挖掘的方法一般分为统计型、机械学习型两大类,而较为常用的算法包括遗传算法、神经网络等。遗传算法是一种以生物进化理论为基础的优化空间搜寻法,其在数据挖掘中,通常以搜索问题的形式来表述具体的任务,并通过选择、交叉、变异遗传等操作寻得最优解。神经网络是一种与人类大脑重复学习类似的方法,即通过学习和训练一些事先给出的样本,产生与样品有所区别的特征和模式,其中样本集应具有代表性。研究表明,神经网络具有准确预测复杂的问题、有效处理存在噪声的数据等优点。神经网络一般分为自组织、反馈式和前馈式神经网络,目前正被广泛应用于商业领域。

2 RBF神经网络

RBF网络结构是一种由输入层、隐含层和输出层组成的三层前向网络,其中输入层包含信号源结点;隐含层主要由节点数目描述的具体问题而定;输出层主要响应输入模式的具体作用。图2所示为RBF神经网络的拓扑结构模型。

如图2所示,RBF网络由输入层向隐含层变换的过程具有非线性的特征,而由隐含层向输入层变化的过程具有线性的特征。据此可知,RBF神经网络是一种基于前馈网络的拓扑结构。研究发现,RBF神经网络拓扑结构会对自身的性能产生影响,而以下因素又会对RBF网络拓扑结构产生影响:RBF的隐节点数目、中心矢量、径向基函数宽度和隐含层与输出层的权值矩阵。

RBF网络具有较强的非线性逼近性能。得益于此,其目前主要用来实现非线性系统的建模与数据挖掘、贝叶斯规则和连续输入/出数据对的映射建模。与其他前向神经网络相比,RBF神经网络具有以下优点:

1)RBF神经网络能逼近任意非线性映射,也能处理系统内部的规律性问题。就无噪声数据而言,RBF神经网络模型的预测精度高且拟合能力强;而就存在噪声的数据来讲,RBF神经网络模型的预测误差和拟合误差均偏低,且收敛速度相当快。得益于此,RBF神经网络在时序建模和分析中的应用十分广泛。

2)RBF神经网络的拓扑结构加快了学习速度和规避了局部极小的问题。RBF神经网络采用核函数,特别是高斯函数的使用使得核函数的优点更为突出:表示简单、光滑性好和解释性好等。

3)RBF神经网络的可解释性好。目前,以下理论均可用于RBF网络参数和拓扑结构的解释中:RBF网络能够对输入层转向输出层进行映射;核回归能够逼近存在噪声的函数噪声数据插值能够逼近输入缺少函数;规则化可以通过在一般化与精确匹配中寻求平衡;贝叶斯规则可以根据前概率计算出后概率。

3 基于RBF神经网络的分类数据挖掘

关于RBF神经网络的研究,其主要表现在以下两个方面: RBF网络结构模型; RBF神经网络学习算法。

3.1 RBF网络结构模型

在实际应用中,RBF模型的应用范围更广,其核函数使用的是高斯函数。但研究发现,在上述结构模型中,训练算法的优劣会对模型的应用效果和RBF网络性能的高低产生决定作用。鉴于此,研究人员提出一些具有新特点和新性能的网络模型,具体包括:

1)高斯型核函数一般化。当隐含层RBF采用以下高斯条函数时,将大大改善RBFN的综合性能:[Φ?x)=exp-(x-cj?T(x-cj)]/2σ2j]。对于普通高斯函数,其拥有半径相同的变量轴和超球面状的函数曲面。但与此相比,高斯条核函数拥有超椭球面状的函数曲面和半径不同的变量轴,因此它具有更强的样本点逼近能力和更大的网络训练工作量。

2)WNN(小波神经网络)。WNN是一种基于小波函数的函数连接型网络,因此在一定程度上应被看作RBFN的推广形式。WNN的激活函数为小波函数,具体以仿射变换的方式创建网络参数与小波变换之间的联系,因此所表现出的特点与RBFN有所差异。此外,WNN具有极佳的时频特征,因此被广泛应用于图像处理和模式识别等领域。

3)RBPNN(径向基概率神经网络)。RBPNN作为RBFNN与PNN综合发展的结果,其学习收敛速度比RBFN更快,同时也将模式之间的交错影响考虑其中。关于RBPNN,其结构主要由2个隐含层、1个输入层、2个输出层组成,其中第一个隐含层为非线处理层,具体包括隐中心矢量,此乃网络结构优化的核心对象;在输出层得出输入样本概率密度的估算值,可降低计算的复杂度。

4)GRNN(广义回归网络)。GRNN使用的也是高斯型径向基函数,一般被看作RBFN的变换形式。GRNN的结构主要由模式层、输入层、加和层、输出层组成,其中核函数所包含的平滑因子需采用优化或经验方法来选定。

3.2 RBF神经网络学习算法

在RBF网络设计中,最为核心的问题是如何合理确定中心点的位置、数目和训练网络权值。通常情况下,中心点的确定与权值的训练既可分开实现,又可同时进行。鉴于此,RBF网络可以采用以下两类学习算法:

3.2.1 静态学习算法

静态学习算法是一种离线学习算法,即在离线设计RBF网络时,中心点的确定与权值的训练分开进行。

1)随机确定RBF中心点,即随机从训练数据集中选取RBF中心点。当RBF选取以下高斯函数:[G(X-Cj2=exp(-m/d2maxX-Cj)j=1,2,...,m],其中,[Cj]――RBF的中心点;[m]――中心数;[dmax]――相邻中心点最大的间隔距离,因此高斯径向基函数的宽度[σ=dmax/2m]。利用上述算法,可以避免RBF的形状出现过平或过陡两种极端现象。如此一来,便可通过计算线性方程组的方式来确定输出层与隐含层的连接权值。

2)自组织学习确定RBF中心点。混合学习过程主要包括自组织学习阶段、监督学习阶段,其中自组织学习阶段的任务是采用聚类算法来估计隐含层RBF的中心点;监督学习阶段主要通过对输出层线性权重进行估计来设计网络,具体采用最小二乘法。输出层节点的LMS算法与隐含层节点的K-均值聚类同时进行,以加速学习过程。

3)有监督学习确定RBF中心点,即通过有监督学习解得RBF的中心点和自有参数,具体使用牛顿法或梯度下降法等。如果使用梯度下降法,则应从参数空间的某一有效区域开始进行搜索,即先利用RBF网络得到高斯分类算法,再以分类结果为搜索点,以免学习程收敛至局部极小。

3.2.2 动态学习算法

动态学习算法是一种在线学习算法,其主要在在线数据挖掘环境中使用。由于在在线数据挖掘环境中,通常不会全部给定训练样本,因此如果隐含层中心点与单元数目的确定采用静态学习算法,则解算结果不一定最优,而在线学习算法支持动态删除或加入隐含层节点,且隐含层中心点的确定和权值的训练同时进行,因此可以动态构造网络。

1)以分组优化策略为基础的在线学习法。训练神经网络是约束优化的过程,则需对特定的神经网络类型进行深入探讨。以下内容为在线隐含层单元的确定策略:当输入的训练样本同时满足以下条件时,则为之分配相应的隐含层但愿你:网络输出误差比误差的设定阀值大;输入样本与隐层中心点之间的距离比距离的设计阀值大。如果在RBF神经网络在线训练方式中引入分组优化策略,则网络输出与网络权值之间存在线性关系,同时与隐含层单元的宽度、中心点之间存在非线性关系,表明尽量采取不同的优化方法来处理两部分的参数。

2)最近邻聚类算法。最近邻居类算法作为动态自适应聚类学习算法,由其聚类得出的RBF网络不仅最优,且支持在线学习。最近邻聚类算法的实现过程为:

① 设定高斯函数宽度为r,定义矢量A(l)存放输出矢量的总和,定义计数器B(l)统计样本数量,其中类别数目为l。

② 对于数据对[(x1,y1)],于[x1]上创建1个聚类中心,并令[x1=c1],[y1=A(1)],[B(1)=1],那么在RBF网络中便仅存在1个中心为[c1]的隐含层单元,且隐含层单元与输出层的权矢量[w1=A(1)/B(1)]。

③ 对于数据对[(x2,y2)],解得[x2]与[c1]之间的距离[x2-c1]。假设[x2-c1≤r],那么[x2]的最近邻聚类为[c1],假设[A(1)=y1+y2],[B(1)=B(1)+1],[w1=A(1)/B(1)];假设[x2-c1>r],那么以[x2]为新的聚类中心,同时假设[c2=x2],[A(2)=y2],[B(2)=1]。根据上述要求创建的RBF网络,再在其中加入一个隐含层单元,其与输出层之间的权矢量[w2=A(2)/B(2)]。

④ 假设第k个数据对[(xk,yk)(k=3,4,...,n)]的聚类中心数为M,相应的中心点为[c1,c2,...,cm],则由此创建的RBF网络中便存在M个隐含层单元。据此,解得[xk]与M个聚类中心的间距为[xk-ci,i=1,2,...,M],假设两者的减小间距为[xk-ci],那么[xk]的最近邻聚类为[ci]。根据第一、二数据对的计算步骤,解得当[xk-ci>r]时,第M个隐含层单元与输出层之间的权矢量[wM=A(M)/B(M)];当[xk-ci≤r]时,隐含层单元与输出层之间的权矢量[wi=A(i)/B(i),i=1,2,...,M]。研究发现,动态自适应RBF网络的难易程度由r所决定,即聚类数目与r呈负相关,即r越小,聚类数目越多,则计算量越大和精度越高,反之亦然。总之,最近邻聚类法具有性能优点、计算量小河学习时间短等优点,不仅可以通过确定隐含层来建立RBF神经网络,还可以在动态输入模式在线学习中得到有效应用。

综上,RBF网络是一种具有最佳拟合和全局逼近性能的前向型神经网络,其无疑具有广阔的应用前景,但在实际应用中,应当考虑到局部极小问题的存在,进而保障其应用效果。

参考文献:

[1] 储兵,吴陈,杨习贝,等.基于RBF神经网络与粗糙集的数据挖掘算法[J].计算机技术与发展,2013,23(7):87-91.

[2] 宫晓曼,滕荣华.基于神经网络的数据挖掘在煤矿选煤中的应用[J].煤炭技术,2013(9):127-128.

[3] 魏文轩.改进型RBF神经网络在股票市场预测中的应用[J].统计与决策,2013(15):70-72.

[4] 曹东方,王玉恒.数据挖掘在员工考评管理信息系统中的应用[J].河北工业科技,2012,29(5):323-326.

[5] 姚应水,叶明全.RBF神经网络与logistic回归模型的对比研究[J].中国卫生统计,2011,28(4):397-399.

[6] 张会敏,叶明全,罗永钱等.基于RBF神经网络的老年痴呆症智能诊断研究[J].中国数字医学,2015(6):38-41.

[7] 习勤,米帅军.指标筛选技术在神经网络数据挖掘模型中的应用[J].统计与决策,2011(10):163-165.

[8] 林涛,葛玉敏,安玳宁等.基于 RBF 神经网络的钢构件质量追溯系统研究[J].计算技术与自动化,2015(1):20-24.

第6篇:神经网络方法范文

关键词:瓷砖表面缺陷;布尔神经网络;瓷砖检测

中图分类号:TP274 文献标识码:A 文章编号:1009-2374(2013)30-0031-02

过去的神经网络没有解释能力,其不能很好地观测物体内部机理构造,而本文所论述的布尔神经网络是在过去神经网络上的一种升级,它将原始数据按照某种规则进行了编码,然后利用编码后得到的数据信息来重新驱动网络,其各个节点具备有效的物理意义。当前瓷砖表面的缺陷依据瓷砖不规则性及颜色可分为几种,按照缺陷所对应的类型可选择使用不同的滤波器来进行检测,因为缺陷瓷砖表面通常存在不规则形,所以滤波器在使用过程中有着极大的局限性,针对缺陷本身来说,虽然不同的瓷砖产品有着一定的差异,但是同种瓷砖又基本保持不变。而布尔神经网络其可在大范围内有效控制检测的精度及速度,并具有智能型,因此对它的研究将具备极为重要的现实意义。

1 布尔神经网络应用背景

随着社会经济的不断发展,客户对各类型产品表面的质量要求越来越苛刻,表面质量已经成为了直接决定产品价格及各个企业之间竞争的重要指标,另外,过去的人工目视检测方法存在很多的缺陷及不足,如无法适应高速机组,对细小表面缺陷的检测效率极低,并且如果长期进行检测,检测人员易出现视觉疲劳而无法长时间有效地进行整个材料表面的检测。总之,传统的检测已经无法满足现代化生产的需要。在这种背景下,新的检测方法必然出现,而其中布尔神经网络的应用就是其中的一种有效的检测手段。

2 广义的布尔神经网络

过去的BP网络在分类上属于一种分层网络,其各个节点域下一层节点在连接时通常是完全均匀的,而这种均匀直接连接在图像感知时通常会致使网络感知能力受到限制,但是广义的布尔神经网络是通过研究过去的前向神经网络的优点及缺陷之后升级而来。如果单独从数据驱动方面来讲,布尔神经网络也可叫做前向传播网络。在该网络中其各个权重和神经网络只能取值两个,分别为{-1,1}、{0,1},其阈值也被限定为整数。

但是在具体进行运算阶段通常是使用二进乘法、整数加法、比较操作法等几种方法,因此与传统的方法相比较其运算速度得到了提高,另外,这种网络在训练阶段因为不存在反向传播过程,所以其不需要反复迭代,这使得其运算速度又得到了进一步提高。

设总数是K的训练样本为ak,当,根据样本ak,可计算对应的权值wk=2ak-1,由于ak的取值范围在[0、1],因此,其第k节点的阈值表达式为:

在该式中rk表示神经网络第k节点的吸引域,在该吸引域中心是该神经网络的权重矢量中心wk,而在对样本进行具体检测时通常应用的方法为汉明距离测量法,如果测试样本在进入某节点吸引域,那么对应的节点则被激活,其值显示为1。

2.1 布尔神经网络检测流程

布尔神经网络是一种三层网络,如图1所示,其第一层通常设置为输入层,在进行检测过程中在该层输入标本模式数据,在分类过程则输入采样样本数据信息,其第二层通常是以C个节点所组成,其各个节点都与输入点相互连接,各个节点均有三个相同的参数,即权重、阈值及吸引域,这些参数必须要由训练算法来求算,第三层包括两个节点,分别是接受节点与拒绝节点,接受节点的阈值为1,和各个种类的节点相互连接的阈值也是1,拒绝的节点的阈值则为θ,其和第二层的连接权重则为-1,当种类层中出现多个节点是1的时候,那么接收点将被激活,与之相反当所有的种类节点显示为0时,那么拒绝节点将被激活,说明该次输入为奇异点,也叫做缺陷点,进而完成对缺陷的检测。

2.2 布尔神经网络的连续特征值

以上所述的布尔神经网络需要输入的驱动数据是二进制数,但在实际运用过程通常是连续值,因此必须要对该网络所对应的连续特征值进行研究,首先要对连续值做好编码,将这些数据信息转化为和其完全对应的二进制数,而其具体的网络结构图如图2所示,该处通常利用温度计进行编码,在实际操作过程中使用一连串的1来对连续值进行对应表示。因为其存在对应关系,因此该串1的长度和连续量的值一般为正比关系,在具体进行编码过程中,由于要对一些特征值进行归一化数,导致同类型的特征值在差异方面出现了更大的变化。

2.2.1 编码算法。(1)对所有的特征值进行归一化,让其值的分布区间在[0,1],即以其最大值除去其所有的同种特征值。(2)选定一个有效的正整数,称编码为阶次,使用该阶次与所得归一化特征值相乘,再加上0.5,并和其最为靠近的整数相互替换,最后将特征值变为正整数,使其分布区间为[1,阶次+1]。(3)将相互替换得到的整数变为二进制数,如果所得二进制数的阶次为5,则第4的编码为111100。

2.2.2 训练计算。首先将训练获取的数据及信息逐一离散化、归一化,其次构建好网络,依据一定的规律在训练过程中有序的增减种类节点,接着对特征节点所对应的阈值依据二进制布尔神经网络的训练方式来求算,通常情况下训练节点的权重是1,而其阈值和所对应连接特征数其对应的权重及阈值均是1。

2.2.3 分类计算。(1)对输入的样本信息进行归一化并进行编码转换。(2)假设拒绝节点显示为1,那么根据第四步进行。(3)种类节点的阈值必须加1。(4)如果拒绝节点显示为1,则根据第五步或者根据第三步进行。(5)种类层其节点在进行计算时必须要减1,另外需要读取的种类节点也是1,并且在进行检测时确定其所属的种类。(6)将各种类层所对应节点的阈值减去2,并进行再次分类。

3 分层进行检测

在具体利用布尔神经网络检测瓷砖表面缺陷过程中,除了必要的将网络分类中权重及阈值除去外,还要求对神经节点的各个吸引域做好对应的控制,但是其对一些较大的吸引域做出的结果往往很是粗糙,这致使虚警出现的概率大大地增加,另外也会导致漏警出现的概率增加。在进行分层检测时,对于存在差异的分辨率要求适应不同的吸引域,对一些较低分辨率要求采用较大的吸引域,随着进行逐层检验还需要缓慢减小吸引域,最终使得检验精度得到有效提高,因为对下层的检验是在上层检验结果出现之后才进行的,所以排除了吸引域,因此使得检验精度得到不断提高。从图像显示来说,图像结构包含K个层次,其中不同的层次在组合过程中其分辨率存在差异,最底层是由最初的输入图像,而在塔形k+1层则是下层元素在该基础的一种简单变换,另外第k层的元素比k+1层要多,这就呈现了一种塔形结构,因此对输入客体来讲,其叙述的准确性相对K层来说较为粗糙,最后顶层所具有的的元素应该

最少。

4 布尔神经网络方法的运用方向

一般来说瓷砖表面出现的缺陷主要为刮痕、裂纹、斑点及针孔,其中针孔缺陷在进行检测时通常是根据其的反射性质,并通过线型CCD来完成检测的,而本文所述的检测手段仅对瓷砖表面的刮痕、裂纹及斑点进行检测,由于瓷砖本身的大小及形状有着极大的不确定性,所以使用本文所述的方法进行瓷砖的缺陷检测比传统滤波器检测效果

更好。

5 结语

本文主要阐述了对瓷砖表面缺陷检测过程中布尔神经网络技术的一些简单运用,其具体分为两个阶段,即训练阶段与检测阶段,为了测试检测的正确性,通常是将同一块砖的无缺陷部位来作为检测的训练样本,而将其中的缺陷部分进行检测,工作时充分利用以下三个参数:方差、能量、均值,在数字化过程中要求取阶次N=10,这样可直接获取[1,11]位所对应的二进表达,因为使用了温度进行编码,所以整个过程一定要以值的大小来做基础参考,从实验结果来看,利用本文所述的方法来检测,对缺陷的检出率得到了有效提高。

参考文献

[1] 戴哲敏,许增朴,于德敏,王永强.计算机视觉在

瓷砖表面颜色匀度分析中的应用[J].中国陶瓷工业,

2002,(4).

[2] 吴平川,路同浚,王炎.机器视觉与钢板表面缺陷的

无损检测[J].无损检测,2000,(1).

[3] 赵海洋,冯心海,薛钧义,江显异.基于机器视觉的

瓷砖表面质量分析与检测[J].西安建筑科技大学学报

(自然科学版),2000,(1).

[4] 罗玮,彭复员,柳健.彩色瓷砖的自动分类系统[J].

第7篇:神经网络方法范文

关键词:公交客流 数据修正 径向基神经网络

中图分类号:TP311.13 文献标识码:A 文章编号:1007-9416(2012)02-0117-01

1、引言

公交优化调度是智能公交系统的重要组成部分,也是提高城市公共交通运行效率的重要手段。近些年来,我国在公交调度方面进行了大量的研究,提 出各种各样的优化调度模型。而这些模型都是建立在公交客流数据的基础上的,公交客流数据的准确性直接影响到公交调度优化结果。因此,为了提高公交客流数据准确性,本文提出基于RBF神经网络的公交客流修正方法,以便为公交优化调模型提供科学的数据基础。

2、径向基神经网络理论

2.1 径向基神经网络结构

径向基函数神经网络(Radial Basic Function,RBF)是多维空间插值的传统技术,由Powell 于1985年提出,并于1989年论证了RBF神经网络对非线性连续函数的一致逼近性能。RBF神经网络属于前向神经网络类型,由三层结构组成。第一层为输入层,由信号源点结点组成;第二层为隐藏层,隐臧结点由所描述的问题决定;第三层为输入层,主要功能为响应输入模式。

2.2 径向基神经网络的学习算法

RBF神经网络学习算法的主要问题是求解3个有效参数,分别为基函数中心,方差和隐含层到输出层的权值。因为RBF基函数中心选取方法不同,RBF网络有多种学习方法。本文根据所要解决的问题,选用自组织选取中心的RBF神经网络的学习方法。该方法分别由无导师学习过程和有导师学习阶段两部分组成。具体学习算法这里不再赘述。

3、基于径向基神经网络客流连续化方法

公交客流数据包括乘客到达率,下车率,断面通过率等。本文以乘客到达率作为公交客流数据的具体例子,对其进行基于径向基神经网络修正。其它客流数据连续化处理方法相同。单位时间内到达的乘客人数定义为乘客到达率,但按照定义方法求得的到达率为离散点,不能反映出其随时间连续变化的规律。为了得到更满意的结果,故本文采用以上介绍的径向量神经网络进行连续化处理。

具体的处理步骤如下:

(1)首先把统计时段的中间点取值为该时段的平均值。

(2)如果计算时,初始时刻到达率出现负值,则将初始时刻的平均值取半作为实际计算值。因为首发和末发时段一般呈现上升和下降的趋势,如果变化率较大,采用径向基神经网络进行处理时,有可能使初始时刻和最后时刻的到达率出现负值。

(3)运用matlab神经网络工具箱中newrb()函数构建径向基神经网络,sim()进行预测仿真,得出具体的曲线。

4、实例应用

如表1所示,为江苏省镇江市19路车某个工作日江苏大学中门站7:00~8:00的上车人数。

由表1计算结果可知江苏大学中门站7:10~7:20的乘客到达率为2.9人/min,而7:00~7:10到达率却是1人/min,7∶20~7∶30的A1站到达率为2.4人/min。因此,该站在7∶10~7∶20到达率应为单调递升,主要表现为7∶10附近的到达率要小于2.9人/min,7∶20附近的到达率要大于2.9人/min。所以如果7∶10~7∶15时段到达率选用2.9人/min,则必将降低公交调度优化结果的准确度。因此,为了克服上述问题的不足,得到更佳理想的结果,本文采用以上所述方法对其修正,结果如图1所示。

5、结语

本文根据城市公交客流数据所存在的问题,采用RBF神经网络对其进行科学修正,以便为公交调度优化模型提供更加准确的数据源。并以镇江市19 路公交车江苏大学中门站某个工作日的客流量数据计算实例,结果表明该方法科学可行,具有更加广阔的适用面。

参考文献

[1]杨庆芳,魏领红,扬兆升.公交线路调度优化模型研究[J].合肥工业大学学报,2009,32(11):1643~1645.

第8篇:神经网络方法范文

关键词:脱硫脱硝;BP神经网络;反向传播;预测

中图分类号:X73文献标识码:A文章编号:16749944(2014)07021303

1技术背景

煤炭燃烧产生的烟气中,含有大量的氮硫氧化物,这些氧化物直接排放到空气中,会导致酸雨等自然灾害的发生。因此,各国都在积极研究烟气脱硫脱硝技术。目前最新的技术是采用臭氧的强氧化性对烟气中的NO进行处理,使之溶解于水,降低烟气中的氮硫氧化物。

现有的技术对于臭氧的添加采用的是PID控制,此控制技术经过多年的发展,已经相对成熟。其控制设备简单,控制思路清晰,但在控制过程中也存在很多问题,比如对于大惯性环节控制滞后,震荡过度等问题。在添加臭氧的过程中,通过检测烟气输入端的氮硫氧化物的摩尔量,利用反应方程式计算理想状态下需要的臭氧摩尔量,然后再通过检测通入碱性废水中和前的NOx,SO2的浓度,完成PID调节,改变臭氧的添加量。

在添加的过程中,因为影响臭氧添加量的各个因素之间是非线性的,所以无法进行单一的线性补偿,导致臭氧添加量过大或者过少。过大会造成添加臭氧的浪费,过小会使烟气反应不完全,导致烟气排放不达标,所以本发明的目的就是根据历史数据对臭氧的需求量建立预测模型,通过数据的分析,预测臭氧的消耗量,以达到减少浪费或者减少烟气不达标的情况。

人工神经网络是利用计算机模拟人脑的结构和功能的一门新学科[1],能够利用自身的优良处理性能,解决高度非线性和严重不确定性系统的复杂问题,在此适合进行对臭氧需求量进行预测,所以提出建立一个三层BP神经网络预测模型,使用改进的算法进行训练,并对烟气脱硫脱硝中臭氧需求量的预测的方法[2]。

2BP网络及动量梯度下降算法

BP(Back Propagation)网络是1986年由Rumelhart和McCelland为首的科学家小组提出的,一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系,并且无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法,通过反向传播来不断调整网络的权值和阈值,使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层(input layer)、隐含层(hide layer)和输出层(output layer)。

网络学习规则又称为 学习规则,对于给定的一组训练模式,不断用一个个训练模式重复前向传播和误差反向传播过程,各个训练模式都满足要求时,则说明BP网络已学习好了。从网络学习的角度来看,网络状态前向更新及误差信号传播过程中,信息的传播是双向的,但是不意味着网络层与层之间的结构也是双向的。

BP神经网络能够以任意精度逼近任何非线性连续函,使得其特别适合于求解内部机制复杂的问题,即BP神经网络具有较强的非线性映射能力;其次BP神经网络具有高度自学习和自适应的能力。还有泛化能力,即BP神经网络具有将学习成果应用于新知识的能力。容错能力:BP神经网络具有一定的容错能力,即使系统在受到局部损伤时还是可以正常工作(图1)。

从(2)式可看出,如果比例系数μ=0,则为高斯-牛顿法;如果μ取值很大,则LM算法接近梯度下降法,每迭代成功一步,则μ减小一些,这样在接近误差目标的时候,逐渐与高斯-牛顿法相似[4]。高斯-牛顿法在接近误差的最小值的时候,计算速度更快,精度也更高。由于LM算法利用了近似的二阶导数信息,它比梯度下降法快得多,实践证明,采用LM算法可以较原来的梯度下降法提高速度几十甚至上百倍。另外由于[JT(w)J(w)+μw]是正定的,所以(2)式的解总是存在的,从这个意义上说,LM算法也优于高斯-牛顿法,因为对于高斯-牛顿法来说,JTJ是否满秩还是个潜在的问题。

在实际的操作中,μ是一个试探性的参数,对于给定的μ,如果求得的 能使误差指标函数 降低,则E(w)降低;反之,则μ增加。用(2)式修改一次权值和阈值时需要求n阶的代数方程(n为网络中权值数目)。LM算法的计算复杂度为O(n3/6),若n很大,则计算量和存储量都非常大。然而,每次迭代效率的显著提高,可大大改善其整体性能,特别是在精度要求高的时候[5]。

3臭氧脱硫脱硝需求量的预测

以BP神经网络模型为原始模型,建立一个三层BP神经网络预测模型,使用改进的算法进行训练,并对烟气脱硫脱硝中臭氧需求量的预测[6],主要步骤分析为以下几个方面。

(1)根据生产工艺流程,臭氧将难溶于水的NOx,SO2等氮硫氧化物氧化成易溶于水的高价氧化物,通过碱性废水进行中和,同时脱硫脱硝的目的。通过分析可知,影响臭氧需求量的主要因素是:烟气的流速,反应前烟气中氧气的浓度,反应中管道内的平均氧气浓度,反应管道中臭氧与SO2的摩尔比,臭氧与NOx的摩尔比,气体在反应管道中的停留时间,碱性废水吸收液的温度,碱性废水吸收液中碱离子的浓度和烟气的温度等因素。在此,选取以上影响因素作为BP神经网络模型的输入变量,通入的臭氧的流速作为输出变量。

在建立BP神经网络模型过程中,隐含层节点数对BP神经网络预测精度有较大的影响,节点数太少,网络不能很好地学习,需要增加训练次数,训练的精度也受影响;节点数太多,训练时间增加,网络容易过拟合[7,8]。最佳隐含层节点数的选择可参考如下公式。

4结语

改进的BP网络预测模型,对同时脱硫脱硝臭氧需求量进行预测,训练算法采用动态自适应学习率的梯度下降算法,能够更快的进行训练,预测误差也较小,预测值有很好的利用价值;通过对臭氧需求量的预测,能够实时的根据工况自动改变臭氧的添加量,既能满足脱硫脱硝的技术要求,同时也可以降低臭氧的需求量,降低企业成本,提高公司效益。本文只是设计了方法,结果需要经过试验进行验证,并进行改进。

参考文献:

[1] 吴昌设.基于人工神经网络的电网日负荷预测研究[D].杭州:浙江大学,2011.

[2] 姜成科.基于遗传算法的神经网络在大坝变形预报中的应用 [D].大连:大连理工大学,2008.

[3] 刘晓悦,姚乐乐,聚类分析在超短期电力负荷中的应用[J].河北联合大学学报:自然科学版,2013,35(3):74~80.

[4] 沙瑞华.基于神经网络的水电机组动载识别研究[D].大连:大连理工大学,2005.

[5] 黄豪彩,杨冠鲁.基于LM算法的神经网络系统辨识[J].组合机床与自动化加工技术,2003(2):6~8.

[6] 冯居易,郭晔.基于LM算法的石油期货价格预测研究[J].技术经济与管理研究,2009(5):19~21.

[7] 项灏,张俊.一种改进的量子遗传模拟退火算法及其在神经网络智能故障诊断中的应用[J].机床与液压,2012.40(13):196~200.

第9篇:神经网络方法范文

【关键词】ERP BP神经网络 系统实施 系统评价

ERP(Enterprise Resource Planning)作为企业资源计划的简称,是融合了信息技术方法、管理理论、实际需求的先进管理方法。从MRP物料需求计划到现在的ERP企业资源计划,ERP在信息技术、功能等方面实现了更广泛的应用,也提供了更有效率、更灵活的信息管理平台。

ERP系统实施主要目标是对企业所拥有的人、财、物、信息、时间和空间等内部外部资源进行优化,达到平衡状态,协调企业各管理部门,以市场需求为决策要素开展业务活动,使得企业在激烈竞争中不断强化优势,得到经济效益最大化。所以,ERP首先是一个软件,同时也是一个管理工具。它是信息技术与管理思想的融合体,也就是先进的管理思想借助现代技术,来完成经济管理目标。ERP系统实施的地位可以用实施领域一个经典的总结概括:“三分技术,七分实施”。ERP实施工作是针对企业管理现状,将ERP系统先进的技术和管理思想融合到企业实际运作的复杂系统工程,实施过程也是企业管理规范化、制度化的过程。一个成功的ERP实施能缩短生产周期,增加需求预测的准确性,改善客户服务,减少运营成本,通过消除冗余信息来全面缩减信息技术及计算机系统成本。

一、ERP系统实施项目成功要素

系统实施项目管理也属于项目管理范畴,项目管理是一项综合性的工作,涉及到多个知识领域。在项目过程中,如果只在某一领域采取了行动,或未能采取行动,通常会影响其他领域的工作开展或成果,这就是项目管理所涉及到的领域间的交互作用。

ERP成功的实施需要人、部门、过程和整个企业的改变。因此,系统实施过程是高压力、长时间、具有不确定性的过程。但他们也会在企业运作方式方面提供惊人的改变机会。公司实施系统的方式将在很大程度上决定是否其能够成功。根据特定的情况,许多因素都将对系统成功实施起到关键作用。有八个比较关键的成功要素:

(1)实施团队代表必须由公司优秀员工组成。被高层管理者充分信任,这些小组也应该有重组已经存在的业务过程的权力或者开发出新的业务过程来支持组织目标。

(2)中层管理被全面包含在实施过程中。这些人也必须被包含在决策过程中,尤其在决定具体实施计划的时候。成功的实施需要实施者和最终用户持续的沟通。中层管理者必须促进员工的持续反馈,为他们的问题提供真诚的答案,并且帮助他们解决问题。

(3)优秀的项目管理技术应被采用。实施小组应该采用具有规则的方法来主导管理,包括对目标,工作计划进展的清晰定义,以及建立资源需求计划。

(4)原有ERP系统,包括试运行系统都需要淘汰。每个人都必须在新系统下工作,而不是作为旁观者。平行运作或者试运行的系统都将会使员工有避免使用新系统的机会。

(5)恰当激励机制和持续检测。实施前必须确定恰当的项目评估方法。管理者,供应商,实施小组和系统使用用户必须共担责任。如果一些员工不能获得一致达成的目标,他们将接受必要的协助或者被替换。如果系统实施与奖金无关,那么它将不会是成功的。当小组达成了特定目标,奖金必须以公开的方式呈现。

(6)建立一个比较前瞻的但却能达成的实施进度计划。尽最大努力将实施工作标准化,减少处理实施异常需要的时间和努力,并有助于让实施工作按照进程进行。

(7)需要成功的管理变革技术。实施团队,高层管理者,中层管理者以及一般管理人员都应该使用成功变革技巧来识别并瞄准阻碍改变的因素。

(8)提供广泛的教育与培训。这其中包括实施前和实施中大量的最终用户培训,以及实施后的后续培训。高层管理者必须准备好投资大量的金钱在培训上,并将其作为正式的系统预算一部分,因为系统的全部效益只有在最终用户恰当使用系统时才会被认识到。如果员工能理解系统怎样运作,他们就会利用他们所知道的操作方法来操作部分系统模块以改造业务过程。研究表明预留系统实施预算总额的百分之十到百分之十五份额给培训部分将会给成功实施带来百分之八十的机会。

二、ERP实施项目评价指标

由于系统使用者角色较多,承担不同的责任,因此在建立评价指标体系时一定要把与应用管理系统有着紧密关联的管理思想、管理方法、管理模式、管理基础、管理机制、业务流程、组织结构、员工素质、信息处理以及反映企业综合能力和过程控制状况的相关经济指标等评价内容包括进来,重点突出企业通过应用信息系统后在管理方面有哪些改进、提高和创新。

由于企业处在激烈的竞争环境中,对实施效益应当分别从横向和纵向来分析和评价,因此,企业信息系统实施是否有效的最终评价标准是它与原有系统相比的优劣程度和它与同行业企业相比的优劣程度。只有新系统运行平稳同时又具有原系统不具备的优势,并有助于保持企业目前和长远的竞争利益,才能认为企业成功地实施了管理信息系统。这种比较应当建立在量化的基础上,以确保比较的公开性、公正性和可接受性。项目总评的指标体系及其量化在项目结束时进行的项目总评活动应当从全局的观点出发,既要考虑项目对于本行业的特殊性,又要考虑项目对企业发展通用模式的普遍效益。

为加强企业信息化程度,国资委下达了《关于加强中央企业信息化工作的指导意见》。中央企业信息化水平评价以中央企业的总体水平为对象,实行初评和复评相结合。评价结果共分五个级别:A、B、C、D、E。对于针对具体某个行业,某个企业的信息系统评价虽然没有中央企业信息化水平评价工程巨大,但仍然是个系统的评价过程。就基站管理系统来说,基于此系统实施项目特殊性,可以从两个角度来考虑评价指标的设计。首先,是人员角度,人员有两个角色,一是项目组成员,需要考察项目组人员执行力度;二是系统终端用户,对于信息系统操作掌握程度。其次,系统本身角度,要考虑系统处理数据的准确性及运行稳定性。最后,就是实施项目本身角度,项目是否在既定成本和时间下完成。

根据一般信息系统评价小组专家构成情况可知,评价组织中专家的专业构成要有一个合理的比例,应以管理专家为主一般为4∶2∶1,即项目评价小组由20位专家组成,其中12位为管理专家,3位为生产工艺专家或产品专家,另2位为系统应用软件和硬件网络专家。按照这样的原则,邀请20位专家对次系统做出评价。初步确定了基站管理信息系统实施项目七个主要评价指标:系统实施项目制度执行力、系统培训充分性、数据准确性、系统运行稳定性、员工掌握信息化程度、项目成本控制情况、系统是否按时交付。

三、BP神经网络方法

(1)BP神经网络方法在系统评价中优势。通常都采用层次分析法来评价信息系统,运用BP人工神经网络评价解决了多指标变权问题的动态求解,克服了权重确定过程中的主观因素,为客观进行基站管理系统实施项目评价提供了一种有效的方法.在ERP实施项目评价中,利用人工神经网络可以全面评价信息系统实施过程中人员、系统等多因素共同作用下最终效果,运用神经网络知识储存和自适应特征,可以实现历史经验与新知识的结合,在发展过程中动态评价ERP实施项目。

(2)BP神经网络输入节点确定。根据前期评价指标确定输入节点数目。

(3)根据前面建立的评价指标,输入节点确立为系统实施项目执行力度、系统培训充分性、数据准确性、系统运行稳定性、员工掌握信息化程度、实施项目成本控制情况、项目是否按时交付。共七个作为BP神经网络输入节点。

(4)隐含层数目和隐含层神经元数目确定。本模型采用一个隐含层,一个输出层两层的BP网络结构,BP神经网络的隐藏层数目就现阶段而言不是主流问题,通常采用一层隐含层的网络结构,相对于隐含层中的神经元个数来说并不那么重要。

本模型隐含层采用了三个神经元。有研究表明对任何闭区间内的连续函数,都可以用一个隐含层的BP神经网络来逼近,因而一个三层的BP神经网络可以完成任意的N维到M维的映射。

(5)输出节点确定。输出节点对应评价结果,比如本评价标准采用0-10分打分制,希望最后得出实施项目总体评价分数,8分以上可以定义为本实施项目成功。所以结果为一个1-10之间的数字,为一个节点。

(6)函数选择。函数newff()就是用来构建神经网络的。它需要四个输入条件,依次是:由R维的输入样本最大最小值构成的R*7维矩阵、各层的神经元个数、各层神经元的传递函数以及训练用函数的名称。

本评价模型采用两层神经网络,其输入向量是七维的,输入向量的范围为【0 10;0 10;0 10;0 10;0 10;0 10;0 10】,第一层(隐层)有三个神经元,传递函数是tansig();第二层(输出层)是单个神经元,传递函数是线性的,训练函数选择traingd()。

输入向量范围:输入向量范围确定为【0 10】,因为指标打分设置为0-10分

传递函数tansig()的选择:tansig是双曲正切S型传递函数,收敛速度相对于logsig要快,通常bp神经网络架构的输入层会选择tansig函数。

输出函数purelin的选择:purelin为线性传递函数,通常用在输出层。

训练函数traingd()的选择:traingd函数是批梯度下降训练函数,沿网络性能参数的负梯度方向调整网络的权值和阈值。 Traingdm函数是动量批梯度下降函数,也是一种批处理的前馈神经网络训练方法,不但具有更快的收敛速度,而且引入了一个动量项,有效避免了局部最小问题在网络训练中出现。 Trainrp是有弹回的BP算法,用于消除梯度模值对网络训练带来的影响,提高训练的速度。一般来说,traingd和traingdm是普通训练函数,而traingda,traingdx,traingd,trainrp,traincgf,traincgb,trainscg,trainbgf等都是快速训练函数,在训练时间和精度上存在差异。此处选择普通训练函数traingd。

参考文献

[1]陈君,李聪颖,丁光明.基于BP神经网络的高速公路交通安全评价[J].同济大学学报,2008,36(7).

[2] William R. King.Ensuring ERP Implementation Success [J].IT Strategy and Innovation,2007.

[3]赵万芹.基于BP神经网络的产品造型设计评价[J].计算机工程与设计,2009,30(24).

[4]闵文杰,陈建明,张仲义.信息系统评价指标体系及方法的研究[J].铁道学报,2000,22(5).

相关热门标签