神经网络反向传播过程精选(九篇)

前言：一篇好文章的诞生，需要你不断地搜集资料、整理思路，本站小编为你收集了丰富的神经网络反向传播过程主题范文，仅供参考，欢迎阅读并收藏。

第1篇：神经网络反向传播过程范文

关键词：网格；资源调度；人工神经网络；BP算法

中图分类号：TP183

Grid resources schedule model based on the BP algorithm

ZHOU Fei-fei，HU Yan-xia

Ministry of Education’s major laboratory of Lanzhou Jiaotong University, Lanzhou,730070

ZhengZhou Urban and Rural Planning Bureau ,Zhengzhou,45000

Abstract: The grid is the main direction of high-performance. The major factor affects the grid functional and the performance is grid resource management and scheduling. Because of the complexity of the grid, its resource management compared with traditional distributed networks becomes more complex. The efficient grid resources management algorithms are hot and difficult of grid study. The neural network has intelligence and can get the best results in complex circumstances. this paper uses BP algorithm to solve the problem of grid resource scheduling. And introduced the concept of grid, back propagation algorithm, and proposed grid scheduling of resources result based on the BP algorithm.

Keywords：grid; resource scheduling；artificial neural network；Back propagation algorithm;

0 引言

网格作为新一代的互联网，是今后高性能计算的主要方向，而有效的资源调度直接影响到网格的功能和性能，因此，对网格资源调度问题的研究具有重要的理论意义和巨大的实践价值。人工神经网络是一种模拟动物神经网络行为特征，进行分布式并行信息处理的算法数学模型，善于在复杂环境下，快速获得满足多种约束条件问题的最优化答案，把神经网络的思想引入到网格的资源调度当中，将二者有效结合，能够更好的解决网格的资源调度问题。

1 网格的基本概念

网格又被称为“下一代互联网”，用于集成或共享在地理上分布的各种资源(包括计算机系统、存储系统、通信系统、文件、数据库、程序等)，使之成为一个逻辑整体，实现资源在网络中的全面共享。

目前，网格技术已经在科学计算领域得到了广泛的应用，很好的解决了分布式超级计算、高吞吐率计算、数据密集型计算等问题。可以预见，随着共享的资源越来越丰富，网格的应用领域将得到更大的拓展。

2 网格中的资源调度

网格中的资源指所有能够通过网格远程使用的实体，包括：计算机软件(比如操作系统、数据库管理系统、应用软件、数据等)，计算机硬件(比如CPU、内存、硬盘、光盘感器、磁带等)，设备和仪器(比如通信介质、天文望远镜、显微镜、传感器、PDA、仪器仪表等)等物理资源以及人类资源(人的知识与能力)。【1】

由于网格是一个开放、动态的互联网并行环境,用户可以从网格的任何地方向网格平台提交应用,而且由于网格所固有的分布性、动态性、异构性以及自治性等特征,使得网格资源、可能随时发生改变。因此，网格资源管理系统是网格的核心组成部分，也是网格的重要研究方向。

2.1 网格资源调度策略

传统的分布式系统中资源管理的主要任务是将多个用户提交的程序调度到一个计算集群中以最大化系统的利用率。即将一个复杂的程序中的多个子程序调度到并行的计算机中以提高计算效率，减少运行时间。

而在网格中，由于网格系统的分布性、异构性和动态性，网格资源管理必须为用户提供可靠的、一致的以及廉价的资源，而不用考虑资源访问点的物理位置。[2]

我们使用有层的层次模型实现资源调度算法。此模型类似于网络的五层沙漏模型。在逻辑上分为三层：用户层、资源管理层及网格资源层。

用户层是网格资源的使用者。各种应用均在这一层实现，该层的需求即网格系统提供的服务，是网格所要达到的目标。在本层中，用户或应用系统通过面向服务的视图向下层中的各种发送用户请求，描述自愿选择、任务进程创建和任务控制等。

资源管理层是本模型的核心层。由各种组成，是网格资源管理的执行者。能够发现、收集和存储不同领域的资源信息；接收用户请求，并按分配策略将所需要的资源分配给用户。

网格资源层是网格系统中的硬件基础，包括各种资源，它是网格资源管理的对象。其基本功能就是控制区域内的资源，向上提供访问这些资源的接口。

由以上分析可以看出，网格资源调度的实质，就是将多个相互独立的任务由各种分配到可用资源上，使得资源得到充分利用并且任务的完成时间最小。

调度算法的目标是将所有的独立的应用任务通过调度到可获得的计算资源中去，从可利用的资源中选取最佳的资源，并尽量减少由于网格的动态性而对网格整体性能的影响。不好的资源调度算法，将会增加任务的执行时间并降低整个网格系统的吞吐量。因此，一个好的源调度算法，需要具有高效性和一定的智能性，使网格用户能够获得所需要的资源，并且确保网格用户不会过量使用资源。

由于神经网络能够模拟人脑的思维模式，具有很好的自适应性和学习能力，能够实现难以用数字计算和技术实现的最优信号处理算法。因此，很适合网格资源调度算法。

3 BP神经网络原理

神经网络是一种模拟动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络能根据系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。

3.1 神经网络的概念

国际著名的神经网络专家Hecht-Nielson给神经网络的定义是：“神经网络是一个以有向图为拓扑结构的动态系统，它通过对连续或断续式的输入作为状态响应而进行信息处理”。【3】

神经网络系统是由大量的，同时也是很简单的处理单元（称为神经元），通过广泛地互相连接而形成的复杂网络系统。虽然每个神经元的结构和功能十分简单，但由大量神经元构成的网络系统的行为却是丰富多彩和十分复杂的。

神经网络适合于解决实际问题，它不仅可以广泛应用于模式识别、信号处理、知识工程、专家系统、优化组合、机器人控制等工程领域，也可以广泛应用于医学、商业、金融和文学领域。随着神经网络理论本身以及相关理论、相关技术的不断发展，神经网络的应用定将更加深入。[4]

3.2 BP神经网络的概念

BP (Back Propagation)神经网络是1986年由Rumelhart和McCelland为首的科学家小组提出，全称为基于误差反向传播算法的人工神经网络。BP神经网络是目前研究最多、应用最广泛的神经网络模型。

BP神经网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它使用自适应学习算法，通过反向传播不断调整网络的权值和阈值，使网络的误差平方和最小。

BP神经网络模型拓扑结构包括输入层（input）、隐含层(hide layer)和输出层(output layer)。

通过图可看出，层与层之间的神经元采用全互连的连接方式，通过相应的权系数相互联系，隐含层内的神经元之间没有连接。因此BP网络可以看成是从输入到输出的一种高度非线性映射，映射中保持拓扑不变性，如果隐含层中神经元数目足够多，则BP网络就能模拟任何有理函数。由于BP网络可在多个连续的输入和一个或多个连续的输出之间建立非线性映射这一特性，它常被用于智能预测。从而，我们使用BP神经网络模拟网格资源调度过程。

3.2.1 BP神经网络的工作过程

BP神经网络由信息的正向传播和误差的反向传播两个过程组成：

信息的正向传播过程：

输入层各神经元负责接收来自外界的输入信息，并传递给隐含层各神经元；隐含层负责信息变换，根据信息变化能力的需求，传递到输出层。各神经元的信息，经进一步处理后，完成一次学习的正向传播处理过程；输出层向外界输出信息处理结果。

误差的反向传播过程：

当实际输出与期望输出不符时，进入误差的反向传播阶段。误差通过输出层，按误差梯度下降的方式修正各层权值，向隐含、输入层逐层反传。

周而复始的信息正向传播和误差反向传播过程，是各层权值不断调整的过程，也是神经网络学习训练的过程，此过程一直进行到网络输出的误差减少到可以接受的程度，或者达到预先设定的学习次数为止。[5]

4 使用BP神经网络的网格资源调度模型

由于BP神经网络算法响应时间较快，适合大规模分布式的网格资源调度。为了能够最大效率的调用网格资源，我们结合BP神经网络算法思想，提出了基于BP网络的网格资源调度模型。

模型流程如下：

(1)将用户提交的任务请求(包含任务的任务量、通信量、任务提交时间、时间限度等参数)加入到网格中的任务队列排队。任务队列可以根据不同用户的不同需求(用户等级、任务时间相应要求等)对进入队列的任务进行排序。

(2) 调度系统中的计时器，每隔一定时间就从任务队列中取出待处理的任务，并从监视器中获得当前系统资源分配列表。

(3) 根据待处理任务及系统资源，使用BP算法产生一个最优化的任务分配表。

(4) 执行任务分配表中的任务。如果任务顺利完成，则将任务占有的资源释，如果任务失败，则释放该任务所占有的系统资源，并将失败的任务插入到任务队列中，以待下次调度。

(5) 当不能从任务队列中获得任务时，表明所有任务都已经完成。

5总结

在网格环境中，资源调度是一项非常复杂且极具挑战性的工作。计算资源调度的好坏，效率的高低直接关系到网格系统的性能。相对别的网格计算资源调度算法与模型，本文提出使用BP算法的分层资源调度模型。

该模型由调度主程序负责全局资源调度，监控程序监控每个资源任务的完成情况，这种方法在能保证任务完成的前提下，灵活地对网格资源进行配置，充分发挥网格中各节点计算机的计算能力。

参考文献：

1崔飞.基于市场的网格资源调度算法研究[J].中国科技论文在线

2都至辉，陈渝，刘鹏. 网格计算.[M]. 清华大学出版社, 2002

3党建武，王阳萍，赵庶旭. 神经网络理论.[M]. 兰州大学出版社，2005,9

第2篇：神经网络反向传播过程范文

现通过对时用水量变化规律的研究，提出以神经网络法预测城市短期用水量。

1城市供水管网用水量变化规律

在我国城市供水系统中，用水量一般包括居民生活用水、工矿企业生产用水和公共事业用水等。同一城市在一天内的不同时段，用水量会发生显著变化。

虽然城市用水量的变化受气候、生活习惯、生产和生活条件等诸多因素的影响，变化情况也较为复杂，但通过分析不难发现：城市用水量曲线呈现三个周期性的变化，即：一天(24h)为一个周期、一星期(7d)为一个周期、一年(365d)为一个周期，并受增长因素(人口增长，生产发展)的影响。若将预测时段取为1h，则季节因素和增长因素的影响就显得十分缓慢，因此管网时用水量的变化具有两个重要特征：随机性和周期性。

2人工神经网络模型

采用目前应用最广泛的多层前馈神经网络模型(BP模型)来预测用水量。BP网络由输入层、输出层及隐含层组成，隐含层可有一个或多个，每层由若干个神经元组成。最基本的三层BP神经网络的结构如图1所示。隐含单元与输入单元之间、输出单元与隐含单元之间通过相应的传递强度逐个相互联结，用来模拟神经细胞之间的相互联结［1～4］。

BP神经网络采用误差反馈学习算法，其学习过程由正向传播(网络正算)和反向传播(误差反馈)两部分组成。在正向传播过程中，输入信息经隐含单元逐层处理并传向输出层，如果输出层不能得到期望的输出，则转入反向传播过程，将实际值与网络输出之间的误差沿原来的联结通路返回，通过修改各层神经元的联系权值而使误差减小，然后再转入正向传播过程，反复迭代，直到误差小于给定的值为止。

假设BP网络每层有N个处理单元，训练集包括M个样本模式对(Xk，Yk)。对第p个训练样本p，单元j的输入总和记为netpj,输出记为Opj，则：

如果任意设置网络初始权值，那么对每个输入模式p，网络输出与期望输出一般总有误差，定义网络误差EP：

式中dPj——对第p个输入模式输出单元j的期望输出

可改变网络的各个权重Wij以使EP尽可能减小，从而使实际输出值尽量逼近期望输出值，这实际上是求误差函数的极小值问题，可采用梯度最速下降法以使权值沿误差函数的负梯度方向改变。

BP算法权值修正公式可以表示为：

式中δpj——训练误差

t——学习次数

η——学习因子

f′——激发函数的导数

η取值越大则每次权值的改变越剧烈，这可能导致学习过程发生振荡，因此为了使学习因子的取值足够大而又不致产生振荡，通常在权值修正公式中加入一个势态项［5］，得：

式中α——常数，势态因子

α决定上一次学习的权值变化对本次权值新的影响程度。

3时用水量预测

3.1方法

利用BP神经网络预测时用水量分为三大步骤：第一步为训练样本的准备和归一化，第二步为神经网络的训练，第三步是利用训练后的神经网络对用水量进行预测［6］。

由于用水量的数值较大，应对其进行一定的预处理，一般可采用初值化、极值化或等比变换。通过这些变换可有效地缩短神经网络训练时间，从而加快网络收敛速度。

3.2实例

采用华北某市2000年24h用水量的实测数据进行预测。在应用神经网络预测模型预测时用水量时，建立了时用水量数据库，共收集了240个样本，每个样本包括24h的时用水量资料。

通过选取不同的输入样本数及不同的隐层单元个数来比较其训练与预测结果的最大相对误差、均方差、程序运行时间以决定网络的结构。经过比较，最后决定采用一个隐层、12个隐层单元、24个输出单元的BP网进行训练,训练过程中均采用24h的时用水量作为输入与输出节点(即Opi与Opj)。

由于时用水量变化具有趋势性、周期性及随机扰动性的特点，故预测样本的变化规律将直接影响预测结果的变化趋势，所以在预测时应根据预测对象的情况，选择适当的样本进行预测。

①预测次日24h的时用水量(或某一时刻的用水量)

a.如果这一天处于工作日则选取上一工作日的用水量作为输入样本进行训练，然后预测次日的时用水量。预测结果见图2，与实际用水量的相对误差为-0.02%～0.01%。

b.如果预测日为周末(即周六或周日)则选取前一周(包括上周周末)的实测数据进行训练以使预测更加准确，预测结果见图3。与实际用水量的相对误差为-2%～1%。

②预测一个月的时用水量

可以选取上个月的数据进行训练，也可以选取去年或连续几年同月的时用水量进行预测，不过训练样本数越大、训练时间越长则预测精度越高。预测结果见图4，与实际用水量的相对误差在±1%以内。

3.3预测效果比较

为了考察神经网络模型对城市时用水量的预测效果，同时采用时间序列三角函数分析法、灰色系统理论预测法、小波分析法对上述实例进行了预测，结果表明：时间序列三角函数分析法的预测误差一般为±5%～±7%；灰色系统理论预测法的预测误差大一些，为±5%～±50%；小波分析法误差范围为0%～±25%；而神经网络的最大误差不超过±1%。

可见，神经网络方法对城市时用水量的预测效果明显好于其他方法。

4结语

人工神经网络是一门新兴的交叉学科，利用BP网络进行预测能拟合任意的非线性函数并且具有准确、简单等特点，实际应用结果表明，用它来预测时用水量是可行的。

参考文献：

［1］HaganMT,MenhajMB.TrainingfeedforwardnetworkswithMarquartalgorithm［J］.IEEETransonNeuralNetworks,1994,5(6):989-993.

［2］KanadChakraborty,ChilukuriKMohan.Forecastingthebehaviorofmultivariatetimeseriesusingneuralnetworks［J］.NeuralNetworks,1992，(5)：961-970.

［3］SietsmaJ，DowRJF.Backpropagationnetworksthatgeneralize［J］.NeuralNetworks,1999，(12)：65-69.

［4］邵良彬，高树林.基于人工神经网络的投资预测［J］.系统工程理论与实践，1997，17(2)：67-71.

第3篇：神经网络反向传播过程范文

Abstract: Tourist quantity prediction has an important role in development of tourist industry, so it is benefit to make development planning and policy of tourist site. Aiming at the defects of BP artificial neural network, combined with Differential Evolution Algorithm, the paper proposes a tourist quantity prediction model based on DE-BP neural network. We analyse and forecast the data change trend of China's inbound tourists, and get satisfactory results.

关键词：差异演化算法；神经网络；入境游客；预测

Key words: Differential Evolution（DE）；neural network；inbound tourist；prediction

中图分类号：F59 文献标识码：A文章编号：1006-4311（2010）34-0155-01

0引言

在现代旅游管理的研究中，随着旅游经济量化水平的不断提高，使得众多学者开始利用数学模型对旅游行业的发展趋势进行预测，客源预测就是其中一个重要的方面。本文在BP神经网络预测模型[1]中引入差异演化算法[2,3]，构造出基于DE-BP神经网络的旅游客源预测模型，为旅游客源预测提供一种新的求解途径。

1BP神经网络模型和DE算法

BP算法，也称为反向传播算法。它是一种具有三层或者三层以上的阶层型前向神经网络（输入层、中间层、输出层），其主要思想是从后向前（反向）逐层传播输出层的误差，以间接算出隐层误差。算法分为两个阶段：第一阶段（正向过程）输入信息从输入层经隐层逐层计算各单元的输出值；第二阶段（反向传播过程）输出误差逐层向前算出隐层各单元的误差，并用此误差修正前层权值，本文采用三层结构网络。

DE算法是基于实数编码的演化算法，它的整体结构类似于遗传算法（GA），与遗传算法的主要区别在于变异操作上，DE的变异操作是基于染色体的差异向量讲行的，其余操作和遗传算法类似，也包括生成初始种群、变异操作、交叉操作和选择操作。运用DE对神经网络权值讲行优化，较GA能有效地跳出局部最优值，克服GA的早熟现象。

2DE-BP神经网络模型及其应用

将DE和BP神经网络相结合，主要思想是运用DE操作保证搜索是在整个解空间进行的，同时寻优讨程不依赖于种群初始值的选择，将权值和阈值精确到一个很小的范围，然后用BP操作保证得到精确的网络权值。

针对我国入境游人数进行预测，采用1995年-2004年的数据[4]作为BP神经网络的训练样本。首先对样本数据进行学习，预测2005年的入境游人数，然后将训练样本向前推进一个，用1996年-2005年的数据进行学习，对2006年的数据进行预测；依次直至预测到2012年为止。

DE-BP神经网络参数取值为：神经网络输入结点数8；中间层结点数6；输出层结点1；种群大小50；交叉概率0.7；变异概率0.02；最大进化代数100。

采用DE-BP神经网络的预测结果与BP神经网络、一元多项式回归法预测结果对比，如表1所示。

同时，我们采用平均绝对误差（MAE）、平方差（SSE）、均方差（MSE）和预测精度（PA）等四个指标对不同方法得到的预测数据进行评价，如表2所示。

3结论

在BP人工神经网络和差异演化算法的基础上，构造了DE-BP神经网络预测模型，并采用该算法对旅游客源讲行预测，并将预测结果与BP神经网络以及一元多项式回归模型预测结果讲行对比，表明该算法在预测精度上较其他两种算法有明显的提高。本文所提出的DE-BP神经网络预测模型不仅可以预测旅游客源，还可以对旅游业中其它指标进行预测，同时对于其它行业类似问题也有一定的借鉴意义。

参考文献：

[1]孙燕平，张琳，吕仁义.旅游客源预测的神经网络方法[J].人文地理，2002，17（6）：50-52.

[2]张文修.遗传算法的数学基础[M].西安：西安交通大学出版社，2003.

第4篇：神经网络反向传播过程范文

［关键词］BP神经网络农业工程农业管理农业决策

一、引言

采用神经网络算法的信息处理技术，以其较强的计算性和学习性，现如今已经在各工程领域内得到了广泛应用。随着科技不断的发展和研究的不断深入，农业系统中采用的传统分析和管理的方法已经不能满足农业工程领域快速发展的需要。在农业系统中采用神经网络技术可在一定程度上可弥补传统方法的不足，现已成为实现农业现代化的一个重要途径。神经网络现已在农业生产的各个环节得到广泛的应用，从作物营养控制、作物疾病诊断、产量预测到产品分级，显示了巨大的潜力，并正以很快的速度与生产实际相结合。目前应用比较多的BP神经网络，可通过学习以任意精度逼近任何连续映射，在农业生产与科研中展示出了广阔的应用前景。

BP人工神经网络方法。人工神经网络是对生物神经网络的简化和模拟的一种信息处理系统，具有很强的信息存贮能力和计算能力，属于一种非经典的数值算法。通常可分为前向神经网络、反馈神经网络和自组织映射神经网络。BP神经网络(Backpropugation Neura1 Network)是一种单向传播的多层前向神经网络，可通过连续不断的在相对于误差函数斜率下降的方向上计算网络权值以及偏差的变化而逐渐逼近目标值，每一次数字和偏差的变化都与网络误差的影响成正比，并以反向传播的方式传递到每一层，从而实现了神经网络的学习过程。BP人工神经网络的结构如图所示，BP神经网络可分为输入层、中间层(隐含层)和输出层，其中输入和输出都只有一层，中间层可有一层或多层。同层的网络结点之间没有连接。每个网络结点表示一个神经元，其传递函数通常采用Sigmoid型函数。BP神经网络相当于从输入到输出的高度非线性映射，对于样本输入和输出，可以认为存在某一映射函数g，使得y0=g(xi)，i＝1，2，3，…，m，其中m为样本数，xi为输入样本，yo为输出结果。

BP神经网络的一个显著优点就是其可进行自学习，能够通过训练得到预期的效果。其学习过程由正向传播和反向传播组成，神经网络的输入值经过非线性变换从输入层经隐含层神经元的逐层处理传向输出层，此为正向传播过程。每一层神经元的状态将影响到下一层神经元状态。如果输出层得到的数值与期望输出有一定的偏差，则转入反向传播过程。神经网络通过对输入值和希望的输出值(教师值)进行比较，根据两者之间的差的函数来调整神经网络的各层的连接权值和各个神经元的阈值，最终使误差函数达到最小。其调整的过程是由后向前进行的，称为误差反向传播BP算法。具体学习过程如下：

（1)随机给各个权值赋一个初始权值，要求各个权值互不相等，且均为较小的非零数。

（2)输入样本集中每一个样本值，确定相应的网络实际输出值。

（3)计算实际的输出值与相应的样本集中的相应输出值的差值。

（4)按极小误差方式调整权值矩阵。

（5)判断网络误差是否小于训练前人为设定的一个较小的值，若小于，则跳出运算，此时的结果为神经网络的最终训练结果；若大于，则继续计算。

（6）判断最大迭代次数是否大于预先设定的数，若小于，返回（2）;若大于，则中止运算，其结果为神经网络的最终训练结果。

上述的计算过程循环进行，直到完成给定的训练次数或达到设定的误差终止值。

二、BP神经网络在农业工程领域中的应用

1.在农业生产管理与农业决策中的应用

农业生产管理受地域、环境、季节等影响较大，用产生式规则完整描述实际系统，可能会因组合规则过多而无法实现。神经网络的一个显著的优点就是其具有较强的自学习、自适应、自组织能力，通过对有代表性的样本的学习可以掌握学习对象的内在规律，从而可以在一定程度上克服上述信息量大的问题。神经网络在农业生产管理方面可用于农作物生长过程中对农作物生长需求进行预测，从而通过对养分、水分、温度、以及PH值的优化控制达到最优的生长状况。采用神经网络预测算法的主要思想可描述为：（1）收集一定规模的样本集，采用BP算法进行训练，使网络收敛到预定的精度；（2）将网络权值矩阵保存到一存储介质中，例如文本文件或数据库中；（3）对于待预测数据的输入部分，从存储介质中读出网络连接权值矩阵，然后通过BP神经网络的前向传播算法计算网络输出，输出结果既是预测出来的数值向量。如霍再林等针对油葵不同阶段的相对土壤含盐浓度对其产量的影响有一定的规律的现象，以油葵的6个成长阶段的土壤溶液含盐的相对浓度为输入样本，相对产量为输出样本，通过比较发现，训练后的神经网络能较好预测油葵产量，采用此方法可补充传统模型的不足，为今后进一步的研究开辟了新路。

在农业决策方面，主要将农业专家面对各种问题时所采取的方法的经验，作为神经网络的学习样本，从而采用神经网络建立的专家系统将从一定程度上弥补了传统方法的不足，将农业决策智能化。如何勇、宋海燕针对传统专家系统自学习能力差的缺点，利用神经网络可自我训练的优点，将神经网络引入专家系统中。将小麦缺素时的田间宏观表现，叶部、茎部、果实症状及引起缺素的原因这五个方面的可信度值作为神经网络的输入量，将农业专家诊断的结论作为输出量，将这些数据作为神经网络的训练数据。实际应用表明此系统自动诊断的结果与专家现场诊断的结果基本一致，从而采用该系统能够取代专家，实现作物的自我诊断，为农业管理方面提供了极大的帮助。如马成林等针对于传统施肥决策方法中非线性关系描述不足的问题，基于数据包分析和BP神经网络，建立了施肥决策模型，应用表明，在有限的范围内，模型预测结果较为合理，可以反映玉米的需肥特性。刘铖等人提出采用神经网络应用在农业生产决策中，以莜麦播种方式决策为例，通过对产生式规则的分析导出神经网络输入、输出单元数，并通过多次试验确定隐层单元数，用MATLAB方针结果表明，采用神经网络作为农业生产决策的方法，取得了较好的效果。谭宗琨提出将基于互联网环境下的神经网络应用在玉米智能农业专家系统中，根据农作物发育进程分成若干个发育期，分别对各个发育期建立管理模型，依照作物各发育期进程时间间隔，由计算机系统自动选取相应的模型进行决策。应用分析的结果表明采用神经网络的玉米智能专家系统已初步接近农业生产的实际。

2.在农产品外观分析和品质评判

农产品的外观，如形状、大小、色泽等在生产过程中是不断变化的，并且受人为和自然等复杂因素的影响较大。农产品的外观直接影响到农产品的销售，研究出农作物外观受人为和自然的影响因素，通过神经网络进行生产预测，可解决农产品由于不良外观而造成的损失。如Murase 等针对西红柿表皮破裂的现象，西红柿表皮应力的增长与西红柿果肉靠近表皮部分水分的增加有关，当表皮应力超过最大表皮强度时，将导致表皮破裂。用人工神经网络系统，预测在环境温度下的表皮应力，可通过控制环境变量来减少西红柿表皮破裂所造成的损失。

在农业科研和生产中，农产品的品质评判大多是依赖于对农产品外观的辨识。例如对果形尺寸和颜色等外观判别果实的成熟度，作物与杂草的辨别，种子的外观质量检测。由于农业环境的复杂性和生物的多样性，农产品的外观不具有较确定的规律性和可描述性，单一采用图像处理技术辨识农产品的外观时不宜过多采取失真处理和变换，否则则增加图像处理的复杂性，特征判别也相对困难。人工神经网络由于其具有自学习、自组织的能力，比较适宜解决农业领域中许多难以用常规数学方法表达的复杂问题，与图像处理技术相结合后，可根据图像特征进行选择性判别。采用此方法可以部分替代人工识别的工作，提高了生产效率，也有利于实现农业现代化。如Liao等将玉米籽粒图像用34个特征参数作为神经网络的输入变量，将输出的种粒形态分为5类，经过学习的神经网络对完整籽粒分类的准确率达到93％，破籽粒分类的准确率达91％。

3.蔬菜、果实、谷物等农产品的分级和鉴定

在农业生产中，蔬菜、果实、谷物等农产品的分级和鉴定是通过对农产品外观的辨识进行的。传统的农产品外观的辨识方法费时费力、预测可靠度很低，而且多采用人工操作，评价受到操作者主观因素的影响，评判的精度难以保证。利用人工神经网络技术结合图像处理技术可部分代替以往这些主要依靠人工识别的工作，从而大大提高生产效率，实现农业生产与管理的自动化和智能化。

利用BP神经网络技术对农产品果形尺寸和颜色等外观评判，目前国内外已有不少成果用于实际生产中。何东健等以计算机视觉技术进行果实颜色自动分级为目的，研究了用人工神经网络进行颜色分级的方法。分别用120个着色不同的红星和红富士苹果作为训练样本集对网络进行离线训练。两个品种的苹果先由人工依据标准按着色度分成4级，对每一个品种分别求出7个模式特征值作为BP网络的输入，用训练好的神经网络进行分级。结果表明红富士和红星果实的平均分级一致率分别为94.2％和94.4％。刘禾等用对称特征、长宽特征、宽度特征、比值特征等一系列特征值来描述果形。采用BP网络与人工智能相结合，建立果形判别人工神经网络专家系统。试验水果品种为富士和国光。试验表明系统对富士学习率为80％，对非学习样本的富士苹果的果形判别推确率为75％，系统对国光学习率为89％，对非学习样本的国光苹果果形判别系统的难确率为82％。

三、未来的发展方向

人工神经网络的信息处理技术现已在农业工程领域内得到了迅速的应用，采用人工神经网络算法的农业系统能够从一定程度上改善控制效果，但此技术在农业范围内还不够成熟，有待于进一步的研究。今后科研的方向大体上可以从以下几方面着手：

1.人工神经网络算法的改进

人工神经网络算法由于本身具有一定的缺点，从而采用人工神经网络的算法的信息处理技术在应用过程中具有一定的局限性。在今后的研究中，可以从人工神经网络方向着手，改进人工神经网络算法，从而实现其在农业领域内更好的应用。近年来随着模糊算法、蚁群算法等算法的相继出现，将神经网络与其他算法结合在一起已经成为了研究的热门话题，也是未来算法研究的主要方向之一。

2.应用领域的扩展

人工神经网络算法在农业工程方面现已得到了迅速的发展，扩展其在农业工程领域的应用范围是未来的一个主要研究方向。人工神经网络由于其具有自学习能力，可对农业系统的非线形特性进行较好的描述，采用人工神经网络可解决传统方法的不足，从而实现农业现代化。如何将神经网络较好地引入到农业系统，解决农业工程中的部分问题，已是今后农业科研中的一个方向。

四、结束语

神经网络作为一种人工智能范畴的计算方法，具有良好的自学习与数学计算的能力，可通过计算机程序进行模拟运算，现已广泛用于模式识别、管理决策等方面。随着计算机硬件和软件的不断发展与农业工程方面的研究的不断深入，神经网络将在农业管理、农业决策、农作物外观分类、品质评判等方面充分发挥其自学习能力强，计算能力强的优势，通过对样本数据的学习，神经网络可较好地解决农作物生长过程中的作物分类、预测等非线形的问题。在农业工程领域内，神经网络拥有广阔的科研前景。

参考文献:

[1]余英林李海洲:神经网络与信号分析[M]. 广州: 华南理工大学出版社,1996:45

[2]霍再林史海滨孔东等: 基于人工神经网络的作物水―盐响应初步研究[J].内蒙古农业大学学报，2003，24（3）：66～70

[3]何勇宋海燕:基于神经网络的作物营养诊断专家系统[J]. 农业工程学报,2005,21（1）:110～113

[4]马成林吴才聪张书慧等:基与数据包络分析和人工神经网络的变量施肥决策方法研究[J].农业工程学报,2006，20（2）:152～155

[5]刘铖杨盘洪: 莜麦播种方式决策的BP神经网络模型[J]. 太原理工大学学报，2006,37(5):119～121

[6]谭宗琨: BP人工神经网络在玉米智能农业专家系统中的应用[J].农业网络信息，2004(10):9～1

[7]Liao K,Li Z,Reid J F,et al.Knoledge-based color discrimination of corn kernels[J].ASAE paper[C].92～3579

第5篇：神经网络反向传播过程范文

关键字：小波分析；去噪处理；神经网络；股票预测

一、引言

从股票产生起，人们就开始对它进行各种各样的研究，研究表明股票市场是一个极其复杂的动力学系统。高噪声、严重非线性和投资者的盲目任意性等因素决定了股票预测的复杂与困难。针对股票市场表现的不同特点，人们提出了多种多样的预测方法，常用的预测方法有下面几种：

1.证券投资分析法。这是分析和预测股价变化方向和趋势的方法，可分为基本分析法、技术分析法和组合分析法三大类。

2.时间序列分析法。这种方法主要是通过建立股价及综合指数之间的时间序列相关辨识模型。

3.其它预测方法。如专家评估法和市场调查法等定性方法，季节变动法、马尔柯夫法和判别分析等定量预测方法。

4.神经网络预测法。人工神经网络以其独特的信息处理特点在许多领域得到了成功应用。它不仅具有强大的非线性映射能力，可以实现复杂的因果关系，而且还具有许多优秀品质，如：自适应、自学习和纠错性等。BP神经网络模型作为证券市场预测的基本因果模型，收到良好的效果。

5.小波神经网络预测法。小波神经网络是神经网络的一种改进，它融合了神经网络和小波的优点。与一般的神经网络相比它对高频信号的适应能力更强，预测效果更好[1]-[2]。

由于神经网络具有可任意逼近非线性连续函数的学习能力和对杂乱信息的综合能力，国内外众多学者都曾使用其对股票数据进行预测。White（1992）尝试用神经网络来预测IBM普通股每日的收益率；吴华星（1998）根据自组织模式理论建立了基于前馈神经网络的股票价格预测系统；宋军等（2007）采用Elman回归神经网络分析方法，通过对股票市场的技术指标的建模， 寻求股票价格的变化规律， 实现对股票价格的预测。但是经过研究发现，使用人工神经网络进行预测一旦陷入局部最小值就会使其预测结果大打折扣。王建伟（2004）运用Haar和dbN小波对鞍山信托的收盘价和成交量进行变换再用神经网络对股票价格预测取得了较好的预测结果；兰秋军等（2004）[4]和邓凯旭、宋宝瑞（2006）讨论了小波变换在金融时间序列中的应用，得出小波方法可有效消除金融时间序列中的噪声，并能充分保留原信号的特征；李萍（2010）结合小波变换与神经网络对汇率等一些经济数据进行预测也收到了很好的效果。[5]可见把小波与神经网络相结合的分析预测方法在经济数据预测中能够收到很好的效果。开盘价是股票当天第一笔成交价格，是市场各方对当天股价的一个预期，对股价的走势具有一定的预测作用。本文通过小波对股票每日最高价、最低价以及开盘价进行去噪处理，然后用BP神经网络对开盘价进行预测。避免了非正常价格对股票的影响，提高了预测的精度。

二、小波消噪的基本原理

小波分析方法是一种窗口大小固定但其形状可以改变，时间窗和频率都可以改变的时频局部化分析方法。即在低频部分具有较高的频率分辨率和较低的时间分辨率，在高频部分具有较高的时间分辨率和较低的频率分辨率，所以被誉为数学显微镜，正是这种特性，使小波变换具有对信号的自适应性。小波分析有两个显著特点：一是在时域都具有紧支集或近似紧支集；二是正负交替的波动性。小波分析是将信号分解成一系列小波函数的叠加，而这些小波函数都是由一个母小部进行比较，获取的是信号的高频部分。小波分析理论有一个重要的特色就是可以进行多分辨率分析。信号可以通过多层次分解为反映高频信息的细节部分和反映低频信息的概貌部分，通过这种多分辨率分解，信号和噪声通常会有不同的表现，从而可达到信噪分离的目的。综上所述我们可以利用小波函数去除股票价格信息中包含的噪声因素。

三、BP神经网络

BP（Back Propagation）网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层（input）、隐含层（hide layer）和输出层（output layer）。它是利用非线性可微分函数进行权值训练的多层网络，具有极强的容错性、自组织和自学习性，有着较好的函数逼近和泛化能力[6]。

BP神经网络，即误差反传误差反向传播算法的学习过程，由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息，并传递给中间层各神经元；中间层是内部信息处理层，负责信息变换，根据信息变化能力的需求，中间层可以设计为单隐层或者多隐层结构；最后一个隐层传递到输出层各神经元的信息，经进一步处理后，完成一次学习的正向传播处理过程，由输出层向外界输出信息处理结果。当实际输出与期望输出不符时，进入误差的反向传播阶段。误差通过输出层，按误差梯度下降的方式修正各层权值，向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程，是各层权值不断调整的过程，也是神经网络学习训练的过程，此过程一直进行到网络输出的误差减少到可以接受的程度，或者预先设定的学习次数为止。[7]-[9]

在金融数据分析预测中经常会遇到一些复杂的非线性系统，这些系统状态方程复杂，难以用数学方法准确建模。在这种情况下，可以建立BP神经网络表达这些非线性系统。该方法把未知系统看成是一个黑箱，首先用系统输入输出数据训练BP神经网络，使网络能够表达该未知函数，然后就可以用训练好的BP神经网络预测系统的输出。本文将把股票每日的最高价和最低价作为输入，股票每日的开盘价作为输出训练神经网络，使得训练后的神经网络能够预测股票开盘价的输出。

四、实例分析与结果

第6篇：神经网络反向传播过程范文

关键词：中药水提液；膜污染；BP神经网络；隐含层神经元；遗传算法

DOI：10.3969/j.issn.1005-5304.2017.04.023

中图分类号：R2-05；R284.2 文献标识码：A 文章编号：1005-5304（2017）04-0092-05

Study on Forecasting Ceramic Membrane Fouling in TCM Extracts Based on Improved BP Neural Network DOU Peng-wei， WANG Zhen， SHE Kan-kan， FAN Wen-ling （Institute of Information Technology， Nanjing University of Chinese Medicine， Nanjing 210023， China）

Abstract： Objective To prevent and treat of ceramic membrane purification of membrane fouling process of TCM extracts； To explore new methods of forecasting membrane fouling degree. Methods BP neural network model was improved. Methods to fast determine the optimal number of neurons in the hidden layer and fast algorithm for optimizing the weight and threshold of BP neural network were studied. Data of 207 groups of TCM extracts were under network training and prediction. Results Compared with the models of multiple regression analysis， basic BP neural network and RBF neural network， the error of the improved BP neural network model was less than that of the BP neural network model， and the mean square error was only 0.005 7. In addition， the improved BP neural network model performance was more stable. In the 20 random running experiments， the goal of the success rate achieved up to 95%. Conclusion The improved model has a good network performance， the fitting effect and prediction ability， and can forecast the fouling degree of membrane stably and accurately.

Key words： TCM extracts； membrane fouling； BP neural network； hidden layer neuron； genetic algorithm

中药水提液的纯化技术是中药制剂前处理中应用最多的工艺方法之一。陶瓷膜因具有耐高温、化学性质稳定、抗污染性强、机械强度高等优点[1]，被广泛应用于中药水提液的纯化过程。然而，膜污染是制约陶瓷膜精制中药的关键问题。

膜污染是指由于被过滤液中的微粒、胶体离子、溶质分子与膜存在物理化学作用而引起的各种粒子在膜表面或膜孔内吸附或沉积，造成膜孔堵塞或变小并使膜的透过流量与分离特性产生不可逆变化的一种现象[2]。中药水提液组成复杂，是一种含有悬浮的固体微粒、胶体粒子和完全溶解溶质分子的复杂混悬体，在分离过滤操作时膜极易被污染，造成膜通量锐减[3-4]。目前，中药水提液陶瓷膜膜污染机理尚不明确，过滤过程缺乏系统性理论指导及有效的膜污染控制手段。

中药水提液陶瓷膜膜污染是多种复杂因素综合作用的结果，具有较强的不确定性，难以采用特定函数模型描述。要实现对膜污染的准确预测，需要建立合理实用的预测模型。BP神经网络是近年被广泛应用的一种模拟人脑神经系统结构和功能的人工智能方法，是一种解决非线性、不确定性问题的数学模型，具有连续传递函数的多层前馈人工神经网络，训练方式为误差反向传播算法，并以均方误差最小化为目标不断调整网络的权值和阈值，最终能高精度地拟合数据[5]。BP神经网络具有较强的学习和适应能力，适合针对中药水提液复杂系统建模，在处理具有非线性特点的中药水提液陶瓷膜膜污染预测问题方面，比一般的线性、非线性模型更有优势。

1 BP神经网络

1.1 拓扑结构

BP神经网络是按误差逆传播算法训练的多层前馈网络，通过训练样本来学习和存贮大量输入-输出模式映射关系，无需事先揭示及描述映射关系的数学方程。学习规则采用最速下降法，通过误差反向传播不断调整网络的权值和阈值，使网络的整体误差最小[6-8]。

BP神经网络的拓扑结构包括输入层、隐含层和输出层，其中可包含1个或多个隐含层。各层次的神经元之间形成全互连接，同层神经元之间无反馈连接，见图1。

1.2 基本原理及其缺陷

BP神网络由信号的正向传播和误差的逆向传播2部分组成[9]。设输入层神经元为P=[p1，p2，…pi]，隐含层神经元为S=[s1，s2，…sk]，输出层神经元为A=[a1，a2，…，aj]， 表示输入层第i个神经元与隐含层第k个神经元之间的连接权值， 表示隐含层第k个神经元与输出层第j个神经元之间的连接权值；隐含层的激励函数为f1，输出层的激励函数为f2， 表示隐含层中各神经元的阈值， 表示输出层中各神经元的阈值。

1.2.1 信息的正向传递 输入层各神经元与隐含层各神经元之间以相应的权重连接，隐含层的第1个神经元 ，从输入层的每个神经元处得到输出值，加权求和 ，加上阈值 ，通过激励函数f1，得到该神经元的输出值为 。

输出层第1个神经元a1接收隐含层每个神经元输出值，并加权求和得 ，加上阈值 ，通过激励函数f2，得到输出层该神经元的输出值为 。

1.2.2 误差的反向传播 N个数据样本进入输入层正向传播，经过隐含层各神经元处理，传向输出层，得到实际输出值A，将实际输出值A与期望输出值T进行误差分析，比较并计算实际输出与期望输出的均方误差 。

如果MSE未达到精度要求ε，则进入反向传播过程，把均方误差信号MSE以梯度形式，按原来正向传递的通路逐层进行反向传播，并将误差信号MSE分摊给各层的所有神经元，从而获得各层神经元的误差信号MSEj（j=1，2，3），将此误差信号MSEj作为修正各连接权值和阈值的依据，并对其修改。

重复进行网络信息的正向传递和网络误差的反向传播过程，直至均方误差MSE达到精度要求或者训练达到最大迭代次数。

BP神经网络在实际应用中存在一些缺陷[10]，其中在中药分析领域有2个较明显的缺陷：第一，BP神经网络的建模过程必须构造一定的隐含层结构，但尚无合适的方法确定隐含层的神经元数，而隐含层神经元数过少或过多都会造成模型预测结果不准确；第二，BP神经网络的初始权值和阈值是随机产生的，权值和阈值的取值情况又决定着数据拟合的效果，因此该模型具有不稳定性。

2 改进的BP神经网络模型

2.1 隐含层神经元数

利用区间估算方法快速确定BP神经网络隐含层神经元数。具有单隐层的BP神经网络模型能够映射所有连续函数，在不约束隐含层神经元数的情况下，单隐层的BP神经网络模型能够实现任意的非线性映射[11]。因此，本研究选用单隐层模型。

隐含层神经元数的确定是BP神经网络模型中非常关键和复杂的问题，目前尚无标准方法来确定最佳隐含层神经元数。如果隐含层神经元数过少，会使得BP神经网络性能不佳，不能产生足够的连接权组合来满足网络对样本的学习需求；如果隐含层神经元数过多，极易陷入局部最小值，达不到最优点，出现过拟合现象[12]。许多学者通过试凑法[13-15]归纳出了确定隐含层神经元数目的一些经验性公式，如 、 、 ，其中k为隐含层神经元数目，n为输入层神经元数目，m为输出层神经元数目，a为常数（一般a∈[1，10]）。

实践表明，最佳隐含层神经元数常介于 和 之间，因此本研究采用区间估算来快速确定BP神经网络隐含层神经元数的方法。具体步骤：①构建一个单隐层的BP神经网络结构，网络输入层神经元数目为n，输出层神经元数目为m，初始隐含层神经元数目 ；②初始化BP神经网络，通过权值直接确定法[16]设置网络各层的连接权值、阈值，并设置精度要求ε；③网络训练，计算均方误差MSE；④若 ，隐含层增加1个神经元数目，返回步骤③，否则停止运算；⑤比较不同隐含层神经元数下的网络均方误差，选择最小均方误差所对应的隐含层神经元数作为最佳隐含层神经元数。

2.2 初始权值和阈值

针对BP神经网络存在的“网络初始权值和阈值随机性”问题，本研究采用遗传算法来优化BP神经网络的初始权值和阈值。遗传算法[17-18]是模拟达尔文的遗传选择和自然淘汰的生物进化过程的计算模型，是一种通过模拟自然进化过程搜索最优解的方法。遗传算法从1组随机产生的初始解（称为群体）开始搜索过程。群体中的每个个体都是问题的1个解，称为染色体；染色体在后续迭代中不断进化，生成下一代染色体。染色体的优劣通过适应度函数衡量。根据适应度的大小从上一代和后代中选择一定数量的个体作为下一代群体继续进化，直至发现最好的染色体，即问题的最优解。

遗传算法的目标是寻找所有进化代中能够使网络均方误差最小的网络权重，但由于遗传算法只能朝着使适应度函数值增大的方向进行，所以本研究采用均方误差的倒数作为适应度函数。当该适应度函数取得最大值时，BP神经网络获得最佳权值和阈值。计算公式： 。式中 表示第i条染色体的适应度值；MSEi表示根据第i条染色体确定的BP神经网络权值和阈值时预测值A与期望值T的均方误差。

利用遗传算法进行BP神经网络模型权值和阈值快速寻优的具体步骤：①通过编码方式生成初始种群；②设置适应度函数；③计算群体中所有个体的适应值；④选择适应度高的个体执行遗传操作；⑤若达到终止条件，则返回最佳个体，即BP神经网络的初始权值和阈值；若未达到终止条件，则以指定的最大遗传步数为终止计算准则。基于遗传算法的BP神经网络流程图见图2。

3 中药水提液陶瓷膜膜污染预测实验

3.1 实验数据

3.1.1 参数体系 根据膜科学原理和经验规律，中药水提液中的共性高分子、物理化学性质和阻力分布等情况会对膜过程产生影响，是引起膜污染的重要因素。考虑到实际测量的可行性，选择测定5种高分子物质（固含含量、果胶含量、淀粉含量、蛋白含量和鞣质含量）、6种物化性质（pH值、电导率、盐度、浊度、黏度、密度）及3种阻力分布特征量（膜自身阻力、浓差极化阻力和表面沉积阻力），建立中药水提液膜过程参数体系。

3.1.2 数据样本 根据中药水提液膜过程参数体系，通过实验测定了207组中药水提液数据，其中145组数据（70%）作为训练集，62组数据（30%）作为测试集。

本实验目的为通过对中药水提液的共性高分子含量、物化性质和阻力分布特征量的分析来预测膜污染度，因此输入向量为固含含量等14个属性值，输出向量为膜污染度，见表1。

3.1.3 数据归一化 由于输入向量的数量级相差较大，直接将原始数据输入BP神经网络进行网络训练将使网络性能和收敛性较差，因此需要对输入向量进行归一化处理，把数据限定在区间[0，1]。而输出向量的数值符合该区间，故无需进行归一化处理。数据归一化处理公式：X=（X0-Xmin）/（Xmax-Xmin）。其中X为归一化后的数值，X0为归一化前的原始数据，Xmax和Xmin分别为该属性原始数据的最大值和最小值。

3.2 预测模型

3.2.1 网络结构设计 根据BP神经网络原理，构建单隐层的网络模型。由于输入向量有14个属性元素，输出向量是1个属性元素，故设置网络输入层的神经元数为14，网络输出层的神经元数为1。采用“2.1”项网络隐含层神经元数的快速确定方法，估算出隐含层神经元数目区间为3～13。为了确定最佳隐含层神经元数目，设计对比实验比较不同神经元数目的网络误差，实验伪代码见图3，其中P、T、S、O分别为训练输入值、训练目标值、预测输入值和预测目标值。实验结果见表2。

表2表明，在其他条件相同的情况下，模型的隐含层神经元数目设置为9时，网络均方误差最小，模型的预测效果最佳，即最佳网络结构为14∶9∶1。

根据遗传算法原理设计优化模型。遗传算法的编码采用实数编码，编码串由4个部分组成：输入层与隐含层的连接权值、隐含层与输出层的连接权值、隐含层阈值和输出层阈值。设定种群初始规模为50，最大遗传代数为100，交叉操作采用单点交叉，变异操作采用均匀变异，交叉因子为0.6，变异因子为0.3。

3.2.2 预测结果分析 根据BP神经网络训练特点，设置网络结构的训练参数：BP神经网络的隐含层神经元激励函数采用S型正切函数，输出层神经元激励函数采用S型对数函数。应用模型进行网络训练和测试，具体预测结果见表3。

实验均方误差仅为0.005 7，表明基于改进BP神经网络的中药水提液陶瓷膜膜污染预测模型能够有效地对膜污染度进行预测。也证明中药水提液中的共性高分子、物理化学性质和阻力分布特征确实是影响膜污染的重要因素。

为分析模型的精度，将本研究实验结果与近年来中药水提液膜污染数据建模相关文献[19-21]进行对比，见表4。结果表明，与多元回归分析、基本BP神经网络和RBF神经网络比较，改进BP神经网络具有更好的泛化能力，拟合效果和预测精度均有较大提高。

3.2.3 模型性能评价 由于BP神经网络的初始权值和阈值是随机产生的，网络模型性能与其相关，也是随机变化的，因此为了对模型进行评价，令基本BP神经网络模型和改进模型均随机运行20次，分别考察达到预设目标的情况。设定平均相对误差为10%，即均方误差MSE为0.01，进行对比分析，见表5。

表5表明，改进的BP神经网络稳定性更佳，说明改进算法实现了结构、权值和阈值的同步优化，避免了BP神经网络初始化的随机性和盲目性，提高了计算精度和效率。

4 小结

本研究表明，基于改进BP神经网络的中药水提液陶瓷膜膜污染预测模型能够适应中药水提液陶瓷膜纯化过程中采集到的多维、非线性数据，能够稳定准确地预测膜污染度，为中药水提液陶瓷膜膜污染的预测和防治提供了有效方法。

参考文献：

[1] SISKENS C A M. Fundamental of inorganic membrane science and technology[M]. Holland：Elsevier Science B V，1996：619-639.

[2] 刘忠洲，续曙光，李锁定.微滤超滤过程中的膜污染与清洗[J].水处理技术，1997（4）：3-9.

[3] 樊文玲，郭立玮，林瑛.不同预处理方法对陶瓷膜澄清中药水提液过程的影响研究[J].中成药，2008，30（11）：1709-1710.

[4] 贺立中.药液超滤过程中的膜污染及其防治[J].膜科学与技术，2000， 20（5）：49-54.

[5] 刘春艳，凌建春，寇林元，等.GA-BP神经网络与BP神经网络性能比较[J].中国卫生统计，2013，30（2）：173-176.

[6] HOLLAND J H. Adaptation in natural and artificial systems：an introductory analysis with applications to biology，control， and artificial intelligence[M]. Cambridge：MIT Press，1992：89.

[7] 王元章，谴夯，周笛青，等.基于BP神经网络的光伏阵列故障诊断研究[J].电力系统保护与控制，2013（16）：108-114.

[8] 张国翊，胡铮.改进BP神经网络模型及其稳定性分析[J].中南大学学报：自然科学版，2011，42（1）：115-124.

[9] 郝晓弘，段晓燕，李恒杰.基于BP神经网络的迭代学习初始控制策略研究[J].计算机应用，2009，29（4）：1025-1027，1031.

[10] 夏玫，陈立潮，王新波.一种提高BP神经网络泛化能力的改进算法[J].计算机技术与发展，2009，19（9）：62-64，68.

[11] CHEN T， CHEN H， LIU R W. Approximation capability in C（Rn） by multilayer feedforward networks and related problems[J].IEEE Transactions on Neural Network，1995，6（1）：25-30

[12] 范佳妮，王振雷，钱锋.BP人工神经网络隐层结构设计的研究进展[J].控制工程，2005，12（S1）：109-113.

[13] 沈花玉，王兆霞，高成耀，等.BP神经网络隐含层单元数的确定[J].天津理工大学学报，2008，24（5）：13-15.

[14] 褚辉，赖惠成.一种改进的BP神经网络算法及其应用[J].计算机仿真，2007，24（4）：75-77.

[15] 张庆庆，贺兴时.BP神经网络结点数选取的改进方法及其应用[J].西安工程大学学报，2008，22（4）：502-505.

[16] 张雨浓，李巍，蔡炳煌，等.切比雪夫正交基神经网络的权值直接确定法[J].计算机仿真，2009，26（1）：157-161.

[17] 范青武，王普，高学金.一种基于有向交叉的遗传算法[J].控制与决策，2009，24（4）：542-546.

[18] 庄健，杨清宇，杜海峰，等.一种高效的复杂系统遗传算法[J].软件学报，2010，21（11）：2790-2801.

[19] 洪弘.数据挖掘技术在中药水提液膜分离中的应用研究[D].南京：南京中医药大学，2012.

第7篇：神经网络反向传播过程范文

［关键词］人工神经网络湖南人均GDP预测

GDP反应某地区在核算期内生产活动的最终成果及衡量国民经济发展规模、速度、结构、效益的代表性指标，也是制定经济发展战略目标的主要指标。湖南省作为中部的一个省份，通过对“十一五”期间湖南省人均GDP的预测，可以分析全省的劳动量、资本量和技术知识的存量，利用GDP的存量功能，可以获得资源与要素的信息，并据此推算湖南省的经济增长的潜力，从而有利于政府部门制定更合理的经济政策。

一、问题的分析与模型的建立

经济预报是一个复杂的非线性系统,且系统的内部时时刻刻在发生变化,我们希望能够建立一个参数随预测环境的变化而改变的非线性模型,国内外对经济的预测进行了大量的研究，提出了许多预测的方法，其中神经网络被认为是一种较好的非线性预测方法，尤其是BP神经网络。BP神经网络结构简单，非线性处理能力却很强大。

1.BP网络模型

BP网络是一种单向传播的多层前向网络，其结构如图1

BP网络是一种具有三层或三层以上的神经网络，包括输入层、中间层（隐层）和输出层。上、下层之间实现联接，而每层神经元之间无联接。当一对学习样本提供给网络后，神经元的激活值，从输入层经各中间层，向输出层传播，在输出层的各神经元获得网络的输入响应。接下来，按照减少目标输出与实际值的误差的方向，从输出层经过各中间层逐层修正各联接权值，最后回到输入层，这种算法称为“误差逆传播算法”，即BP算法。随着这种误差逆传播修正不断进行，网络对输入模式响应的正确率也不断上升。

图1为常用的三层BP网络结构,如果输入层、隐含层和输出层的单元个数分别为n、q、m，则该三层网络可表示BP（n，q，m），利用该网络可实现n维输入向量Xn=(X1,X2…Xn)到m维输出向量Ym=(Y1,Y2…Ym)T的非线性映射。m,n根据具体问题确定，而隐含层单元数q的确定尚无成熟的方法，一般可设定不同的q值，根据训练结果进行选择。网络结构BP（n，q，m）确定后，网络参数包括输入层第i单元到隐含层第j单元的权重Wij(i=1...n,j=1...q)，隐层第i单元到输出层第k单元的权重Wiko（j=1...q,k=1...m）；隐含层第j单元的激活阈值(j=1...q)及输出层第k单元的激活阈值(k=1...m)，以上权值和阈值的初值在网络训练之前随机生成；假设共有p个训练样本，输入的第p个训练样本信息首先向前传播到隐含层单元上，经过激活函数f(u)的作用得到隐含层的输出信息: (1)

激活函数f(u)采用s(0,1)型函数，即 (2)

隐含层的输出信息传到输出层，可得到最终输入结果为

BP算法的基本思想是学习过程由信号的正向传播与误差的反向传播两个过程组成。以上过程为网络学习的信息正向传播过程；如果网络输出与期望输出存在误差，则将误差反向传播，误差的反射传播是将输出误差以某种形式通过隐层向输入层逐层反传，并将误差分摊给各层的所有单元，从而获得各层单元的误差信号，以误差信号作为修正各单元权值的依据，可以利用（4）来调节网络权重和阈值。

其中为W(t)次训练，η,α分别为比例系数和动量系数，E为误差平方和反复运用以上两个过程，一直进行到网络输出的误差减少到可接近的程度或进行到预先设定的学习次数为止（）。

通常，经过训练的网络还应该进行性能的测试，测试的方面就是选择样本向量，将其提供给网络，检验网络对其分类的正确性，测试样本向量中应包括今后网络应用过程中可能的主要典型模式；样本可以直接测取得到，也可以通过仿真得到，在样本数据较少或者较难得到时，也可以通过对学习样本加上适当的噪声或按照一定的规则插值得到，总之，一个良好的测试样本集中，不应该包括和学习完全相同的模式。

2.BP神经网络在经济预报模型中的应用

采用神经网络进行经济预测,以湖南省1978～1999年的经济数据作为训练样本,2000年～2004年GDP进行预测仿真试验。

GDP预测指标体系就包含第一产业（x1）、第二产业（x2）、第三产业（x3）。在考虑诸年数据的可比性，在应用神经网络之前，采用如下方法对数据环比处理：

式中，x为指标的环比值；y为指标的原始数据值；w为物价指数，t和t-1分别代表当年度和上年度。采用BP神经网络进行预测，即用上一年的经济数据作为输入，下一年的GDP作为输出。因此GDP预测模型可以描述为:

y1=f(x1(t-1),x2(t-1),x3(t-1))

设置L―M算法BP神经网络的计算误差为10-4，最大计算步数为10000，计算结果见图2：

预测的结果见下表

从表中预测的结果,可以看出,模型拟合得到的数据与真实值是比较吻合的,预测的效果比较好,完全能满足实际应用的需要。如果我们对神经网络训练的精度作更高的要求，还可进一步降低预测的误差。

参考文献：

[1]Martin T.Hagan.神经网络设计.机械工业出版社,2005

[2]王振龙:时间序列分析.中国统计出版社.2003

[3]伍卫国:数值方法和Matlab实现与应用.机械工业出版社,2004

第8篇：神经网络反向传播过程范文

关键词:金融生态;组合赋权;BP神经网络;层次分析法

金融生态,又可称之为金融生态体系,是各种金融组织为了生存和发展,与其生存环境之间及内部金融组织相互之间在长期的密切联系和相互作用过程中,通过分工、合作所形成的具有一定结构特征,执行一定功能作用的动态平衡系统。国内较早系统阐释金融生态理论的是周小川(2004),他在深刻认识到我国金融改革的艰巨性和复杂性的前提下提出改善金融生态的思想。

本文结合目前区域金融生态评估方法研究的现状和实际要求,在BP人工神经网络的基础上,采用一种基于组合赋权的输入变量加权分层处理方法。改进后的方法根据层次型指标体系,通过组合赋权法确定原始指标层和子项目层中各元素的相对权重,并以子项目层法治环境、经济基础、信用环境、金融运行四个方面作为BP神经网络的输入节点,建立加权分层的BP神经网络模型。

一、基于加权分层的BP神经网络的区域金融生态组合评估模型的构建

徐诺金(2005)将金融生态概括为各种金融组织为了生存和发展,与其生存环境之间及内部金融组织相互之间在长期的密切联系和相互作用过程中,通过分工、合作所形成的具有一定结构特征,执行一定功能作用的动态平衡系统。结合区域金融生态的复杂巨系统的特征和评估目的,本文在借鉴湖南省金融生态评价课题组对株洲所辖县域金融生态评估时构建的金融生态评价指标体系的基础上,考虑用组合评估方法进行区域金融生态评估。

1.加权分层BP人工神经网络基本思想

1985年Rumelhart和McCelland等提出的误差反向传播(Back Propagation)算法,是目前人工神经网络理论中最重要的一种学习算法,其学习过程是由信息正向传播和误差反向传播两个反复交替的过程所组成。在信息正向传播过程中,输入信息经隐含单元逐层处理转向输出层,可简单地表征为ykj=fkj(∑n(k-1)i=1Wk-1ijyk-1i-θkj)

j=1,2,…nk, ;k=1,2,…,m

式中,Wk-1ij为第(k-1)层中第i个神经元到第j个神经元的连接权因子;θkj为该神经元的阈值。

如果输出层不能得到所期望的输出,则转入反向传播过程。将实际值与网络输出之间的误差沿原来的连接通路返回,通过修改各层神经元的连接权重使误差减少,然后再转入正向传播过程。如此反复计算,直至误差小于设定值为止。该过程可描述为:

E=12∑pp=1∑kk=1(Tpk-Opk)2≤ε

式中Tpk,Opk分别表示输入训练样本为P时输出节点K的计算输出和期望输出;ε为允许的最大误差。

由于标准化处理后的输入变量没有了量纲的区别,每个变量对输出变量的影响所占比例均等,当各类变量的个数差别较大,变量多的几类将削弱其它类变量对输出结果的影响,导致模型评估误差增大。且只能得到最终的评估值,无法看到金融生态各子系统的状态分值。

如图1所示,为提高模型的评估精度,根据层次性区域金融生态评估指标体系,以项目层的四个方面,分别是法治环境、经济基础、信用环境、金融运行,作为BP神经网络的四个输入节点,取代传统的直接将48个原始指标作为输入节点。

2.组合赋权方法的基本原理

指标赋权是评估过程中的重要环节,权重的确定方法主要有两种:一种是主观赋权法中,如综合指数法、专家评价法、AHP法等;另一种是客观赋权法,即根据各指标之间的相关关系或各项指标值的变异程度来确定权数,如主成分分析法、因子分析法、复相关系数法、熵值法等。为科学、合理地给每个指标赋权,使其具有较好的实际应用效果,本文采用组合赋权法,通过对不同的层次设计不同的赋权方法实现主观赋权与客观赋权相结合,具体为:原始指标层因指标个数较多,采用客观赋权法,子项目层采用主观赋权法;并且原始指标层的将熵值法和复相关系数法两种客观赋权法相结合,既考虑各指标之间的变异程度又考虑各指标的相关性以削减指标间信息重叠现象,以达到最大限度地提取并利用指标数据包含的相关信息。

熵(Entropy)的概念源于热力学,后来香农(C.E.Shannon)引入信息论。在信息论中,熵是一种不确定性的度量,信息量越大,不确定性就越小,熵也越小;信息量越小,不确定性就越大,熵也越大。一般而言,指标的离散程度越强,熵值就越大;反之,熵值就越小。可以根据各项指标的变异程度,利用信息熵这个工具,计算出各项指标的权数,为多指标综合评价提供依据。

复相关系数法认为如果某指标与其他指标重复的信息越多,在综合评价中所起的作用就越小,应赋予较小的权数,反之则赋予较大的权数,即根据指标独立性大小来分配权数;同时采用指标的复相关系数来衡量与其他指标的重复信息量大小。

层次分析法的基本原理是将所要研究的复杂问题看作一个大系统,根据系统所涉及的因素和所要达到的目标,通过对系统内的因素及其相互关系的分析,划分出各因素格互联系的有序层次结构体系,再对结构体系中的每一层次按某一给定的准则,根据专家对每一层次中的各因素所作的较客观的逐对比较和判断,相应地给出各因子相对重要性的定量表示,进而建立数学模型,并计算出每一层次全部的相对重要性的权重,并加以排序,最后,根据排序结果进行决策并选择解决问题的方法。

3.实施步骤

基于加权分层的BP神经网络模型的区域金融生态评估过程分为三个阶段:原始指标同度量化,由原始指标层向项目层的逐层归总,将项目层分值输入BP人工神经网络模型最终得到某区域的金融生态评估值。具体如下:

(1)原始指标数据同度量化

不同的指标是从不同的侧面反映区域金融生态,指标之间无法进行比较,因此为了统一评价的有效性,需对各指标进行无量纲化处理。正态化变换(分布打分)是一种非线性变化,使得变换后的分数呈现标准正态分布。

(2)由原始指标层向项目层的逐层归总

原始指标层采用熵值法与复相关系统数法的组合定权,组合的权重为熵值法和复相关系数法所定的权重的简均,以此组合权重计算得到各子项目的相对分值;子项目层采用层次分析法定权,计算归总得到各项目的相对分值。

(3)将项目层分值输入BP人工神经网络模型

以法治环境、经济基础、信用基础、金融运行四个项目作为四个输入节点建立三层BP人工神经网络,隐层节点为1,输出节点数为1,即某区域金融生态的最终评估值。利用MATLAB 7.0中的神经网络工具箱编写程序,得到各待评区域的金融生态评估值及相对排序。

二、实证分析与比较

以某省某五县(分别是A县、B县、C县、D县、E县)2007年数据为例,说明上述区域金融生态综合评估方法,并与几种典型组合方法进行比较,以分析该方法评价结果的准确性和合理性。

由表1知,由组合评价方法一得出的五县金融生态排名与这五县实际情况相符;得分上总体得分都不高,有很大改进空间,其中最高分A县及最低分E县差距较大,居于中间档次的B县、C县和D县得分较接近。

表1 六种组合方法结果比较

表2 六种方法结果的描述性分析

极差 最小值 最大值 均值 标准差

方法一24.08 41.28 65.36 53.50 8.54

方法二 22.11 39.87 61.98 51.72 8.67

方法三 25.13 40.98 66.11 52.81 9.02

方法四 22.71 41.70 64.41 54.07 8.39

方法五 24.45 38.22 62.67 51.09 9.32

方法六 19.78 41.52 61..30 52.34 8.074

考察比较所选的六种组合方法,从以下几个方面:

(1)方法的区分度。由表2知,方法三和方法五的标准差较大,方法一和方法二次之,方法四和方法六的较小。这一差异的原因在于原始指标层的客观赋权法不同:信息熵权法其本质是利用评价指标样本集的分布特征确定权重,将指标数据的差异大小作为权重确定的依据,但没有考虑指标的信息重叠和独立性;复相关系数法则根据指标的独立性大小分配权数,而对指标的变异程度没有涉及。方法三和方法五的原始指标层的客观赋权法采用信息熵权法,得出的最终分值的差异较大,而方法四和方法六采用复相关系数法,得出的最终分值差异较小,方法三和方法四是信息熵权和复相关系数的组合赋权,综合考虑了指标的变异程度和独立性,最终分值差异介于上述两组之间。

(2)方法的一致性。对标化后的综合评价值作组间一致性检验,检验方法采用组内相关系数(ICC)法。利用SPSS软件Scale下的Reliability Analysis功能对六组得分值作一致性检验,ICC=0.9875,ICC的95%的可信区间为0.9645～0.9896,可认为这六组综合评价值一致性很好,比较贴近五县金融生态相对优劣的实际。

(3)方法的互补性。每种方法都有其自身的优点和缺点,它们的适用场合也并不完全相同。通过将具有同种性质综合评价方法组合在―起,就能够使各种方法的缺点得到弥补,而同时兼有各方法的优点。基于加权分层的BP神经网络模型通过对各种方法的组合,可以达到取长补短的效果。通过两组比较,其一为方法一与方法三、方法四,其二为方法二与方法五、方法六,可发现,原始指标层采用组合赋权所得分值介于原始指标层采用熵值法和复相关系数法所得分值之间,更接近于实际。

对某省某五县2007年度指标数据的实证结果表明,基于熵值法和复相关系数法的层次BP神经网络模型在方法的区分度、一致性及互补性方面都有较好的表现,能够有效地综合各方法的优点,反映这五县金融生态的真实情况。

三、结论

本文将组合赋权法和神经网络模型综合评价有机结合运用在区域金融生态的综合评估中,不仅结合了区域金融生态影响因素的多层次和复杂性,将以往分别使用的层次分析法与神经网络综合评价法结合在一个分析模型中,而且将多层次与复杂性的分析模型首次应用于区域金融生态评估,以便为改善区域金融环境提供可靠的决策依据。

基于加权分层的BP神经网络模型的区域金融生态评估方法能够充分利用样本指标的有关信息,通过高度的非线性映射,揭示区域金融生态状况与其相关影响因素之间的内在作用机理,从根本上克服传统线性加权的过于简化和单一方法的顾此失彼。此方法具有自学习性、自适应性和很强的容错性,而且整个评价过程和步骤非常容易实现编程并在计算机上进行运算分析,具有较高的合理性和适用性,使评估结果更有效、更客观。但是样本数据本身的真实性、层次分析法专家打分、BP神经网络训练样本的选取等问题,也应当引起高度重视。只要能采取有效的措施和算法处理好这几个问题,那么基于加权分层的BP神经网络模型的区域金融生态评估方法不失为区域金融生态评估方法中较好的一种。

参考文献:

[1]白钦先等.金融可持续发展研究导论[M].北京: 中国金融出版社,2001.

[2]周小川.完善法律制度,改进金融生态[N]. 金融时报, 2004,12.

[3]徐诺金.论我国的金融生态问题[J].金融研究,2005,(2).

[4]匡国建.完善金融生态法律制度的思考[J].金融研究,2005,(8).

[5]湖南大学金融管理研究中心. 2007年度株洲市县域金融生态评估报告[N]. 株洲日报. 2008,09.

[6]李扬等.中国城市金融生态评估[M].北京:人民出版社,2005.

[7]程亚男等.区域金融生态评估指标体系研究[J].金融理论与实践,2006, (1).[8]

[8]郭金龙.复杂系统范式视角下的金融演进与发展[M].北京:中国金融出版社,2007.

[9]周志平等. 金融生态的层次结构与金融资源均衡配置:张家界个案分析[J]. 金融研究,2005,(11).

[10]杜栋等.现代综合评估方法与案例精选[M].北京:清华大学出版社,2008.

[11]谢庆健.区域金融生态现状分析:来自安徽、江西、山东等省的调查报告[J]. 中国金融, 2006,(4).

[12]徐小林.区域金融生态评估方法[J].金融研究,2005,(11).

[13]马经等.广东区域金融生态实证研究[J].南方金融,2006,(11)

[14]杨子强,商业银行要重视对金融生态的研究利用[N].金融时报,2005-01-11.

[15]周小川.法治金融生态[J].中国经济周刊,2005,(3).[17]

[16]Detragiache, Enrica&Demirguc-Kunt,Asli.Monitoring banking sector fragility: a multivariate logic approach with an application to the 1996 - 1997 banking crises [J].Policy ResearchWorking Paper Series 2085, TheWorld Bank. 1999.

[17]Jiang Yaping,Xu Zuxin,Yin Hailong.STUDY ON IMPROVED BP ARTIFICIAL NEURAL NETWORKS IN EUTROPHICATION ASSESSMENT OF CHINA EASTERN LAKES.Conference of Global Chinese Scholars on Hydrodynamics.

[18]张瑞怀.基于BP神经网络模型的农村金融生态综合评估[J].金融理论与实践,2006,(10) .

[19]张志元等.区域金融可持续发展的城市金融生态研究[J]. 金融研究,2006,(6).

[20]柳林, 杨竹清. MATLAB6.5辅助神经网络设计. 北京: 电子工业出版社,2003.

第9篇：神经网络反向传播过程范文

水工隧洞一般都有过水要求，加上其复杂的地质条件，因此正确的进行围岩分类后采取相应的支护措施将对保证隧洞稳定性起决定性的作用。围岩分类是一类非线性的综合判定问题，用人工神经网络方法来判别水工隧洞围岩类别是一种新的尝试和新的方法。

1．围岩分类的判定依据

水工隧洞围岩工程地质分类应以控制围岩稳定的岩石强度、岩体完整程度、张开度、地下水力状态和主要结构面产状等五项因素综合评分为依据，围岩强度应力比为限定依据，见表1。

表1围岩工程地质分类依据

指标名称评价因素

岩石强度（A1）采用岩块的单轴抗压强度（MPa）

岩体完整程度（A2）采用完整性系数Kv

张开度（A3）考虑结构面的连续性、粗糙度和充填物

地下水状态（A4）考虑地下水的发育程度，用单位洞长单位时间的涌水量

主要结构面产状（A5）采用结构面走向与洞轴线的夹角

以上五个因素是控制围岩稳定性的主要因素，围岩的分类标准见表2。

表2围岩工程地质分类标准

评价因素围岩类别

Ⅰ（稳定）Ⅱ（基本稳定）Ⅲ（局部稳定性差）Ⅳ（不稳定）Ⅴ（极不稳定）

A1（MPa）>200100~20050~10025~50<25

A20.9~1.00.75~0.90.5~0.750.25~0.5<0.25

A3（mm）<0.50.5~11~33~5>5

A4(L/min·10m)<2525~5050~100100~125>125

A5(o)90~7575~6060~4545~30<30

2.水工隧洞围岩分类的人工神经网络模型

神经网络系统是由大量的、简单的处理单元广泛的互相连接而形成的复杂的网络系统。人工神经网络模型最基本的有两大类：一类是以Hopfield网络模型为代表的反馈型模型，它具有非线性和动态性；另一类是以多层感知器为基础的前馈模型。其中BP(BackPropagation)网络是目前应用最广泛的多层前馈神经网络模型。本文采用BP网络模型。

2．1BP神经网络模型及其算法

BP神经网络由输入层、隐含层和输出层三层感知器组成，每层由若干个神经元组成。输入层接受信息，传入到隐含层，经过作用函数后，再把隐结点的输出信号传到输出层输出结果。节点的作用函数选用Sigmoid函数，即：

（1）

BP神经网络采用误差逆传播反学习算法。学习过程由正向传播和反向传播组成。在正向传播过程中，输入信号由输入层经隐含层处理后传向输出层，每一层神经元的状态只影响下一层神经元的状态。如果在输出层得不到一个期望的输出，则转向反传播，将输出信号的误差按原来的连接通路返回，通过修改各层神经元的权值，使得误差信号最小，得到合适的网络连接权后，便可对新的样本进行识别。BP网络学习过程具体步骤如下：

（1）初始化，设置网络结构，赋初始权值；

（2）为网络提供一组学习样本，包括M个样本对（），输入向量，输出向量，n、m分别为输入层和输出层神经元个数，；

（3）对每个学习样本P进行（4）~（8）；

（4）逐层正向计算网络各节点的实际输出：

(2)

其中，为神经元i、j之间的权值；为前层第i个神经元的实际输出，为式（1）给出的函数；

（5）计算网络输出误差：

第P个样本的输出误差为(3)

其中，，分别为输出层第j个神经元的期望输出和实际输出。

网络总误差为；(4)

（6）当E小于允许误差或达到指定迭代次数时，学习过程结束，否则进行误差逆向传播，转向（7）；

（7）逆向逐层计算网络各节点误差：

对于输出层，(5)

对于隐含层，(6)

其中代表后层第个神经元。

（8）修正网络连接权：，其中为学习次数，为学习因子，值越大，产生的振荡越大。通常在权值修正公式中加入一个势态项，变成：

(7)

其中，a称为势态因子，它决定上次学习的权值变化对本次权值更新的影响程度。

2．2围岩分类的BP模型

在以表2中数据为基础进行网络训练前，须对表中指标作如下处理：Ⅰ、Ⅴ类对应的指标取其界限值或平均值；Ⅱ、Ⅲ、Ⅳ类对应的指标取其平均值。作上述处理后，可以得到网络训练模型的5个学习样本，如表3。

表3围岩类别识别模型的学习样本

类别样本类别A1A2A3A4A5

P1Ⅰ2000.950.52582.5

P2Ⅱ1500.8250.7537.567.5

P3Ⅲ750.62527552.5

P4Ⅳ37.50.3754112.537.5

P5Ⅴ250.25512530

以上表中5个类别样本作为神经网络的学习样本，在输入层和隐含层各设置一个特殊单元作为阈值单元，其值设为1。模型结构如下图1所示。

图1围岩类别分类的BP网络模型

设围岩类别为P1、P2、P3、P4、P5这5个类别样本的预期输出矢量，各分量定义为

网络训练时，当所有样本在网络输出节点的实际输出与网络期望输出之间的最大误差小于预先给定的常数，即时学习结束。

网络经过15000次训练，每个样本的网络输出与期望输出最大误差为0.2，绝大部分在0.1之内。应用训练后的BP模型划分新的围岩类别样本，等判定围岩类别样本W经网络变换后输出O与各期望输出比较，设，。

如果，则，，即隧洞围岩类别样本属于级。

3．沙湾隧洞的围岩分类应用实例

东深供水改造工程沙湾隧洞位于深圳市北东面内15公理处，区域地势东高西低。工程区域周围沉积岩、岩浆岩和变质岩三大岩类均有出露。隧洞线路地带分布的地层，除洞口沟谷部位为第四系松散堆积层外，其余均为侏罗系中统塘夏群碎屑岩，基本为单斜构造，但末端因受深圳断裂带影响，岩层产状较为紊乱，地质条件复杂多变。

隧洞开挖后，测得三种围岩地段的力学性质和环境条件，取三个样本为a、b、c。用BP人工神经网络判定该工程隧洞围岩类别。

根据水利水电工程地质勘察规范，隧洞围岩类别分为5级：Ⅰ（稳定）、Ⅱ（基本稳定）、Ⅲ（局部稳定性差）、Ⅳ（不稳定）、Ⅴ（极不稳定）。对照学习样本各特征变量，用训练好的BP模型对a、b、c三个样本进行判定，其结果见表4。

表4沙湾隧洞三组样本实测指标与围岩类别判定结果

指标名称实测指标值

abc

岩石强度（A1）2845100

岩体完整程度（A2）0.220.50.55

张开度（A3）341

地下水状态（A4）1208025

主要结构面产状（A5）305060

围岩类别判定结果ⅤⅣⅢ

4．结论

水工隧洞围岩类别判定，不仅影响因素多，而且具有很大的模糊性和不确定性。人工神经网络是一门新兴的交叉学科，它具有联想、记忆功能和判别识别的模糊性等优点，用它来进行围岩类别分类，不需对输入输出指标的关系作任何假设，这种关系是神经网络从实例中自适应学习而获得的，大大减少了人为因素的影响，省去了事后的经验判断。实践证明，它在理论和应用上都是可行的和有实际意义的。

参考文献