公务员期刊网 精选范文 神经网络基本原理范文

神经网络基本原理精选(九篇)

前言:一篇好文章的诞生,需要你不断地搜集资料、整理思路,本站小编为你收集了丰富的神经网络基本原理主题范文,仅供参考,欢迎阅读并收藏。

神经网络基本原理

第1篇:神经网络基本原理范文

摘要:工程造价估算是招标投标中的重要一环,探寻一套快速、简捷、实用的工程造价估算方法已经成为建筑行业的迫切需要。为了建设工程造价估算技术的发展及文联面临的问题,提出在建设工程造价估算技术系统中应用人工神经网络技术来提高估算精确度,并且给出系统的设计模型。

关键词:人工神经网络;工程造价;造价估算

人工神经网络(ArtificialNeuralNetworks,简写为ANNs)也简称为神经网络(NNs)或称作连接模型(ConnectionistModel),它是一种模范动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。人工神经网络具有自学习和自适应的能力,可以通过预先提供的一批相互对应的输入-输出数据,分析掌握两者之间潜在的规律,最终根据这些规律,用新的输入数据来推算输出结果,这种学习分析的过程被称为“训练”。

一、神经网络的建立

虽然人们还并不完全清楚生物神经网络是如何进行工作的,但还是幻想能否构造一些“人工神经元”,然后将这些神经元以某种特定的方式连接起来,模拟“人脑”的某些功能。

在1943年,心理学家W. McCulloch和数学家W. Pitts合作,从数理逻辑的角度,提出了神经元和神经网络最早的数学模型(MP模型),是神经网络研究的开端,更为后面的研究发展奠定了基础。经历了半个多世纪,神经网络度过了萌芽期、第一次期、反思低潮期、第二次期、再认识与应用研究期五个阶段。目前,神经网络已成为涉及多种学科和领域的一门新兴的前沿交叉学科。

神经元分为分层网络和相互连接型网络。所谓分层网络,就是一个网络模型中的所有神经元按功能分层,一般分为输入层、中间层(隐含层)、输出层,各层按顺序连接,隔层之间均采用的是全互连接,但对于同一单元间,不互相连接。分层网络可细分为简单前向网络、反馈前向网络和层内互相连接的网络。人工神经网络结构是一种多层的网络结构,一个典型的前向网络。

某个神经元 j 的输入―输出关系为

其中,θj为阀值,ωji为连接权,f(•)为变换函数,也称活化函数(activation function)

对于人工神经网络模型,我们只可能在某种程度上去描述我们所了解的情况。同样,人工神经网络也只可能是在某种程度上对真实的神经网络的一种模拟和逼近。

二、在工程造价中的运用

成都市工程造价计价模式后选取了基础类型、结构类型、工期、层数、建址、层高、内装修、门窗、单位造价等10个影响工程造价和工程量的特征作为模型的输入。考虑到各个工程中门和窗数量差别很大为提高估算的精度我们把门数量和窗数量作为输入,其数量在工程施工图纸上很容易查得,不需作复杂的计算。对于其他文字性表达的工程特征需转变成数字后作为网络的输入。

很明显的看出,测试样本总体误差率比较小,平均误差为283%,基本满足估算要求,随着工程资料的不断积累,选取有代表性的数据作为样本,误差将不断缩小。

意义:

通过这次研究,我们了解了人工神经网络的基本原理,即通过误差反向传播建立多层前馈网络的学习收敛过程,该过程主要包括三个层次,即输入层、隐含层和输出层。在训练中通过计算输出值与期望值之间的误差,来求解输出层单元的一般化误差,再将误差进行反向传播,求出隐含层。并了解了基于人工神经网络之上的建设项目的投资估算模型,了解了平滑指数法、类比系数法、模糊数学估算法的基本原理与其自身的优势与不足,也让我们更深刻地认识到,人工神经网络,作为90年代逐渐被运用的人工智能技术之一,能像一个经验深厚的造价师,根据工程类型、特征及其相关情况,结合数据和经验,准确的估算出其造价。我们也通过计算验证了模型的可行性。对于我们从事建筑造价的大学生来说,是一次难能可贵的研究机会,能够较深层次的了解行业中的专业知识。随着中国改革开放和市场经济的不断深入,中国建筑企业在面临很好的机遇的同时,也面临着严峻的考验。现在的市场竞争机制已表现得越来越明显,他要求我们提高效率,尽快拿出自己招投标方案,但是传统的预算方法以及现行的计算软件都必须花费较长的时间才能计算出结果,而且计算的结果准确度还不是很高。怎样解决这个问题,成了建筑界的热门话题。同时作为建设方的业主,他们同样对快速预算很感兴趣。因为确定工程造价是建设工作中十分重要的一环,在不同阶段有着不同的方法。如建设前期的工程造价估算、初步设计阶段编制概算、施工图设计阶段编制预算,特别是建设前的估算是我们工作的重点,因为它是我们进行成本控制的起点。对于建设单位而言,它们不仅能在进行设计招标之前大致确定该工程的造价,而且还能在工程施工招标前定出合理的标底。可见快速预算有其很现实的发展研究背景。近几年许多学者都在这方面努力探索,并取得了很好成果。 神经网络和模糊数学的快速发展应用为工程快速预算提供了很好的思路。我们通过查阅资料了解了模糊数学和神经网络的结合原理,认识了基于模糊神经网络和工程预算原理的工程快速估价的模型,并通过住宅建筑估价模型的建立,说明模型的实现方法且验证其实用性。这次研究对于行业经验不足的我们十分宝贵,我们通过书籍等资料更加全方位的了解了我们未来所讲从事的行业的知识,为我们以后的工作做了良好的铺垫,积累了宝贵财富,我们将在了解这些专业知识之后熟练地运用,以更好地促进行业的发展。(西华大学;四川;成都;610039)

参考文献:

① 汪应洛、杨耀红,工程项目管理中的人工神经网络方法及其应用[J].中国工程科学.2004,6(7):26-33.

② 袁曾仁,人工背景:神经网络及其应用[M]清华大学出版社,1991

第2篇:神经网络基本原理范文

1公路工程造价估算概述

1.1 公路工程造价估算的重要性

公路工程造价估算作为公路工程管理的重要组成部分其重要性主要体现在如下几个方面。

第一,公路工程造价的估算是实现工程成本控制的基础。其中工程施工前期造价估算、施工前的编制预算以及施工图设计阶段的编制预算等环节作为工程造价估算的核心,同样是公路工程施工成本控制的起点,因此,实现公路工程造价的合理估算是实现工程成本控制的重要前提条件。

第二,公路工程造价的估算可以为施工企业成本控制计划方案的制定提供重要的参考依据。施工企业通过工程造价的估算可以寻找到降低工程成本的有效途径,从而为工程施工过程中施工成本的控制提供正确的方向。

第三,公路工程造价的估算可以帮助施工企业在进行设计招标前可以确定工程的大致造价。这样一来,施工企业在招标的过程中就可以有效避免中间商的欺诈以及保标等恶意行为的发生。

1.2 传统公路工程造价估算中存在的问题

尽管工程造价估算在公路工程建设中越来越受到人们的重视,但是由于受各方面因素的影响,在传统公路工程造价估算中还存在一系列的问题,其中我国传统公路造价估算中主要存在如下几个方面的问题:一是相关规章制度的限制,造价估算结果往往与投标报价相差悬殊;二是预算结果与概算结果差距较大,不利于工程实际造价的控制和确定;三是缺少对工程造价估算的有效监督机制,从而使最终的造价结果变的十分不确定;四是由于各参与方利益的问题,在进行工程造价估算时很难早到平衡点,以至于造价估算精度不能得到有效的保证。

2认识模糊神经网络

2.1 模糊数学概述

(1)模糊数学的概念,我们通常说的模糊就是指一些模棱两可的、即可能又不可能、即是又不是的概念。而模糊数学就是要用数学的方法来表示那些模糊概念发生的可能性的大小,换句话讲就是明确那些模糊概念所处的状态,从而利用数学的思想来解决那些模棱两可的、不确定的实际问题。

(2)模糊数学的数学描述,一般模糊数学的数学描述,多采用的是类似与集合的数学表示方法。与集合的区别就在于模糊数学在表示集合元素时需要附带一个称为隶属函数值的参数,其中该参数的值是隶属函数与元素的值进行运算的结果。

2.2 神经网络概述

(1)神经网络的概念,所谓的神经网络是一个借鉴物理和生物技术来实现的用来模仿人类大脑神经细胞结构和功能的系统,与人类的大脑结构相似,它也由大量的模拟神经元所组成的,而且这些神经元之间相互连接,并行工作,作为一个系统协同完成一系列复杂的信息处理活动。

(2)神经网络的基本原理,神经网络在结构和功能上都是模拟人脑的神经系统来进行设计和实现的,它同时作为模拟生物神经元的一种计算方法,其基本原理是这样的,与生物神经元的基本原理相似,用那些具有突的网络结点来接受信息,并不断的将接受到的信息累加起来,这些信息有些是抑制神经元,有些则是激发神经元,对于那些激发神经元,一旦积累到一定的阈值后,相应的神经元便会被激活,被激活的神经元就会沿其称为轴突的部件向其它神经元传递信息,并完成信息的处理。

2.3 模糊神经网络概述

模糊神经网络是模糊数学和神经网络有效结合的应用研究成果。其中在模糊神经网络中模糊数学的应用体现在它可以根据那些假定的隶属函数以及相应的规律,用逻辑推理的方法去处理各种模糊的信息。

3模糊神经网络在公路工程造价估算中的应用

3.1 基于模糊神经网络的公路工程造价估算方法的实现

将模糊神经网络应用于公路工程造价估算方面,是近年来公路工程造价估算发展的特点和重点。从本质上来看,模糊神经网络就是一个系统,它即有输入又有输出,与公路工程的造价估算十分相似,因为公路工程造价估算就是在输入公路工程施工的一系列要求和特点后输出相应结果的,所以与模拟神经网络所提供的输入输出机制非常相似,其中结合模糊神经网络的原理,基于模糊神经网络的公路工程造价估算方法的实现过程如下。

第一,构建已施工公路工程的造价信息库,其中包括应经施工的公路工程的各种特征因素以及工程造价等其他各方面的材料。

第二,结合拟建工程的施工需求来确定其包括评价指标等在内的各种特征因素的数据取值。

第三,按照模糊数学的思想法在已施工公路工程的造价信息库中选取若干个(至少三个)与拟建工程最相似的已施工的工程,将其作为神经网络进行学习和训练的基础数据。其中,将信息库中公路工程的各种特征因素值的隶属度作为神经网络的输入向量,信息库中公路工程的造价值作为神经网络的输出向量。

第四,将拟建公路工程的各种特征因素值的隶属度作为神经网络的输入向量,通过神经网络的学习后所得到的输出向量即为拟建公路工程的造价估算值。

第五,建立公路施工工程造价信息数据,编制神经网络学习的算法通用程序。将学习训练的基础数据输入神经网络,然后合理设计学习率,经过一定次数的迭代运算,有效提高公路工程造价估算结果的精度。

3.2 基于模糊神经网络的公路工程造价估算方法的优点

基于模糊神经网络的公路工程造价估算方法有效的克服了传统上工程造价估算方法的一系列缺点,与传统的工程造价估算方法相比,其显著优点就在于造价估算的迅速以及估算结果的精确。其中该方法的优点可以概括为如下几点。

第一,模糊神经网络中所采用的模糊数学可以对公路工程造价估算中的模糊信息进行有效的处理,通过对已竣工的公路工程和计划施工的公路工程的相似度进行定量化描述,从而使模糊的公路工程造价问题得以模型化。

第二,基于模糊神经网络的公路工程造价估算方法的估算结果科学合理,因为该方法采用的是基于数学模型的数学计算分析,所以其结果受人为因素的影响较小。

第三,模糊神经网络中所采用的神经网络模型对公路工程造价的估算具有很好的适应性,与传统的造价估算方法相比,该方法能更好的适应公路工程造价的动态变化。

第四,基于模糊神经网络的公路工程造价估算方法是借助计算机来完成的,所以还具有运算速度快和运算精度高的优点。

4结语

由于影响公路工程造价的因素比较多,而且各因素的构成比较复杂,计算相对繁琐,所以公路工程的造价估算具有很大的模糊性。对于使用传统的工程造价估算方法而言,公路工程造价的估算将是一项非常复杂的工作。然而结合模糊数学和神经网络的理论思想,利用工程之间所存在的相似性,使用基于模糊神经网络的公路工程造价估算方法可以迅速的得出精确的工程造价估算结果。

第3篇:神经网络基本原理范文

【关键词】 功率预测 短期预测 均方根误差

发电与用电必须实时平衡是电力系统运行的重要特点,只有这样系统才能保证安全和稳定。因而无论在国内还是国外,电网调度部门主要负责电力系统的调频、调峰、安排发电计划和备用容量等业务。对于新能源发电方面,尤其以光伏和风电为代表,当其在电力系统中达到较高透率时,准确预测其输出功率不仅有助于调度部门提前调整调度计划来减轻光伏风电间歇性对电网的影响,而且还可减少备用容量的安排,从而降低系统运行成本。因此,新能源功率预测在电网调度领域占有举足轻重的地位,更精确的预测风能、太阳能发电功率有利于制定合理的电力调度计划。

1 国内外研究现状

对新能源发电功率预测技术的研究较早起源于国外,尤其以丹麦、德国、瑞士、西班牙和日本等国的相关大学和科研机构为代表。上世纪90年代丹麦开始大力发展风电,促使了其不同公司或高校开始研究新能源功率预测问题。[1]相继产生了多个产品,如Riso实验室开发了Prediktor系统,丹麦技术大学开发出WPPT(Wind Power Prediction Tool)系统,而后的用于风电功率预测的Zephry系统就是由Prediktor和WPPT整合而来,另外由ENFOR公司研发的用于光伏功率预测的SOLARFOR系统也比较有代表性;作为国际上较早大面积应用新能源的德国,其Oldenburg大学开发了Previento系统,德国太阳能研究所开发了风电功率管理系统(WPMS);西班牙Joen大学建立了19kW的光伏发电站验证其发电预报准确率[2],通过人工神经网络算法,以实测的光伏板温度、日照辐射强度为输入值,以其I/V曲线为目标函数,训练神经网络的多层传感器,求解出逼近实际工况的I/V曲线,建立了发电功率日照强度、板温之间的函数关系,经过验证,该系统2003年发电量预测值与实测值的历史相关系数高达0.998。国内方面光伏发电量预测技术研发起步较晚。华北电力大学[3]结合光伏组件数学模型和保定地区气象资料,模拟了30MW光伏电站发电量数据,利用支持向量机回归分析方法进行功率预测,但该方法无实际光伏电站的实况发电量数据,缺乏实验验证,对实际光伏电站发电量预报的指导意义有限。华中科技大学[4]利用该校屋顶光伏并网发电系统资料进行研究,通过2005―2010年不同季节气象因素与发电量之间的相关分析,得出光伏发电量与辐照度的相关性最大、温度次之、风速再次之。

2 功率预测方法及分类

为提高功率预测精度,国内外研究机构都在尝试各种新的预测方法,主要的功率预测方法分类如(图1)。

时间序列分析是持续预测法中的一种,其认为风速、辐照强度预测值等于最近几个风速、辐照强度历史数据的滑动平均值,通常只是简单地把最近一点的观测值作为下一点的预测值。该模型的预测误差较大,且预测结果不稳定。改进的方法有ARMA模型法、卡尔曼滤波法。

人工神经网络方法被广泛用来解决非线性问题的建模方法。它由大量简单元件相互连接而成的复杂网络,具有高度的非线性,能够进行复杂的逻辑操作的非线性关系。其具有很多优良性能,如非线性映射能力、自组织性和自适应性能力、记忆联想能力、容错能力等。

按照风电或光伏功率预测的时间尺度可分为中长期、短期和超短期预测。对于中长期预测或更长时间尺度,主要用于风光电场或电网的检修维护计划安排等的预测。对于30分钟~72小时的预测,主要用于电力系统的功率平衡和经济调度、电力市场交易、暂态稳定评估等称为短期功率预测。一般认为不超过30分钟的预测为超短期预测。从预测模型建立角度考虑,不同时间尺度的预测有本质区别:0~3小时的预测主要由大气条件的持续性决定,所以如果不通过数值天气预报也能得出较好的预测结果,如采用可得到更好结果。对于时间尺度超过3小时的预测,不考虑数值天气预测无法反应大气运动的本质,所以难以得到较好的预测结果,所以通常的预测方法都采用数值天气预报的数据。

基于物理方法的功率预测流程示意图如下(以风功率预测为例)。首先通过数值天气预报得到风速、风向等气象数据,再根据电场周围的地理信息参数(等高线、粗糙度、障碍物、温度分层等)采用软件计算得到风机轮毂高度的风速、风向、气温、气压等参数,最后根据风机功率曲线计算得到风电场输出功率。因为在不同的风向和温度条件下,即使风速相同,风电场输出功率也不相等,因此风电场功率曲线是一族曲线,同时还应考虑风电机组故障和检修的情况。对整个区域进行风电功率预测时,可对所有的风电场输出功率进行预测,然后求和得到区域总功率。

基于统计方法的风电/光伏的功率预测不考虑风速/辐照变化的物理过程,根据历史统计数据找出天气状况与风光电场出力的关系,然后根据实测数据和数值天气预报数据对电场输出功率进行预测。

两种方法各有优缺点。物理方法无需大量的测量数据,但对大气的物理特性及风/光电场特性的数学描述要求较高,这些描述方程求解困难、计算量大。统计方法无需对求解方程,计算速度快,但需要大量历史数据,采用机器学习方法对数据进行挖掘与训练,得到气象参数与风/光电场输出功率的关系。目前的趋势是将两种方法混合使用,称之为综合方法。

3 三种预测方法的对比

通过应用三种统计预测算法于某案例中对其预测精度进行了对比。案例以某岛屿上的分布式风光电站发电量为检验对象,该电站由25台30kw并网光伏逆变器、5台50kw风机组成,合计1000kw。选取2013年4月份的历史功率数据和历史数值天气预报数据作为模型建立依据,5月份发电量作为预测对象(因为该区域4,5月份天气变化相对最小),并采用同时段的历史功率数据对模型的预测结果进行验证。

3.1 ARMA预测模型

3.1.1 ARMA模型的基本原理

ARMA模型也称为自回归滑动平均模型,是研究时间序列的重要方法之一,是由自回归与滑动平均两种模型“混合”而成。常用于长期追踪资料的研究和用于具有季节变动特征数据的预测中,所以可将其应用于风电光伏功率预测领域。

3.1.2 预测结果及误差分析

运用ARMA模型分别对5月1日9时0分至5月31日18时00分进行预测,得到原始风电光伏总功率和预测功率。预测结果如(图3、4)所示。

常见的预测误差的评估方法有平均绝对误差,均方根误差,相关系数等。均方根误差放大了出现较大误差的点,能更好的反映光伏电站预测模型的准确度,因此本文采用均方根误差RMSE对模型的误差进行评估。

其中,N-测试样本数;P-装机容量。

通过Matlab的计算,我们得到各项指标结果如表1。

3.2 卡尔曼滤波预测模型

3.2.1 模型基本原理

卡尔曼滤波法运用了滤波的基本思想,利用前一时刻预报误差的反馈信息及时修正预报方程,以提高下一时刻的预报精度。要实现卡尔曼滤波法预测风光功率,首先必须推导出正确的状态方程和测量方程。因已通过时间序列分析建立了风电功率时间序列的ARMA模型,故可将ARMA模型转换到状态空间,建立卡尔曼滤波的状态方程和测量方程。

3.2.2 预测结果及误差分析(如图5、图6)

通过Matlab的计算,我们得到各项指标结果如(表2)。

3.3 小波神经网络预测模型

对于上文的ARMA模型和卡尔曼滤波模型都属于线性模型,都必须先对模型结构做出假设,然后对模型参数的估计得到预测值。因此,模型结构的合理与否,直接影响到最终预测的精度。由于风光电场功率具有高度的不确定性,因而单一的线性预测模型不足以挖掘其功率数据中的所有信息。而神经网络具有自学习、自组织和自适应性,可以充分逼近任意复杂的非线性关系,所以本文选择小波神经网络方法对风光功率进行非线性预测研究。

3.3.1 小波神经网络法基本原理

小波神经网络是一种以BP神经网络拓扑结构为基础,把小波基函数作为隐含层节点的传递函数,信号前向传播的同时误差反向传播的神经网络。小波神经网络的拓扑结构如图7。

3.3.2 模型建立

首先采集四月份一整月的光伏风电功率数据,每隔15min记录一个时间点,共有960个时间节点的数据,用前四月份30天的功率数据训练小波神经网络,最后用训练好多的神经网络预测之后的功率数据。基于小波神经网络的功率预测算法流程图如图8所示。

小波神经网络的拓扑结构如图9所示。

小波神经网络训练:通过数据训练小波神经网络,网络反复训练100次。

神经网络网络测试:用训练好的神经网络预测风光功率,并对预测结果进行分析。

3.3.3 预测结果

利用Matlab处理数据并进行计算,我们得到基于小波神经网络的功率预测结果(图10、11)。

预测结果分析:

本文采用了ARMA模型、卡尔曼滤波预测算法和小波神经网络算法对该岛的分布式风光电功率数据样本进行了预测。分析表1~表3预测效果评价指标,我们得到以下认识:小波神经网络模型中我们得到预测结果:超短期预测精确度误差最小达到到7%,短期预测精确度误差最小达到到9%,表明小波神经网络的预测结果已经相当精确。对小波神经网络预测曲线与线性预测模型的预测曲线进行对比,可以看到:神经网络对于光伏风电功率的描绘更加平缓。

4 结论与展望

在对国内外文献广泛调研的基础上,较为全面地论述了风电、光伏功率预测技术的研究现状和最新动态,对当前功率预测技术方法进行了总结归纳,建立了针对某岛屿分布式风光互补示范工程的高精度发电功率预测模型,成功实现了分布式电源总输出(光伏风电)的精确预测,实验运行结果表明:该系统能够准确预测次日短期和未来4小时超短期光伏发电出力,短期和超短期预测的月平均均方根误差分别为9%和7%。

为了进一步提高功率预测精度还需要提高数值天气预报质量,从而得到精度更高更丰富的区域气象数据。因此需要尽快建立我国数值天气预报商业化服务,进一步完善风电光伏功率预测系统,提高预测精度。

参考文献:

[1]BOSSANYI E A. Short-term wind prediction using Kalman filters[J]. Wind Engineering, 1985,9(1):1-8.

[2]Almonacid F, Rus C, Perez P J,et al.Estimation of the energy of a PV generator using artificial neural network [J]. Renewable Energy, 2009, 34(12):2743-2750.

第4篇:神经网络基本原理范文

[关键词] 客户需求 预报 RBF神经网络

一、引言

在经济全球化的激烈竞争中,客户需求预报在企业决策中发挥着重要的作用,客户需求预报主要是预报未来一段时间内客户对某产品的需求数量和发展趋势。产品需求信息的提前准确获取,可以缩短产品的上市时间并提高客户满意度。同时客户需求预报也是解决不确定需求物流配送问题的一个重要方法,通过客户需求预报可以将不确定需求问题转化为确定需求问题。本文采用RBF神经网络对客户需求进行预报,以期得到有效结果。该研究有利于了解RBF神经网络在客户需求预报问题中的应用价值。

二、基于RBF神经网络的客户需求预报

RBF神经网络是以径向基函数作为隐含层神经元激活函数的三层前向型神经网络,RBF网络的优越性主要在于具有最佳逼近和全局逼近的性质,因此可以用于预测、识别、函数逼近和过程建模等问题。RBF神经网络的拓扑结构如图1所示。第一层为输入层,由信号源节点组成,输入层节点只传递信号到第二层;第二层为隐含层,隐含层采用径向基函数作为网络的传递函数,隐含层节点数视所描述问题而定,从输入层空间到隐含层空间的变换是非线性的;第三层为输出层,它对输入模式的作用作出响应,输出层节点计算由隐含层节点给出的基函数的线性组合。整个RBF网络可以看作是非线性基函数的线性组合。

RBF神经网络输出层第j个节点的输出值计算公式如下所示:

;式中RBF网络的传递函数采用高斯函数,表示输出层第k个节点的输出值,表示隐含层第i个节点到输出层第j个节点的连接权值,x表示神经网络的输入向量,表示隐含层第i个节点的中心,M表示隐含层节点总数,表示欧氏函数,表示偏置量,表示隐含层中心宽度。

基于RBF神经网络的客户需求预报包括训练样本的选取、待测样本的选取与RBF神经网络需求预报等三部分组成。根据客户需求历史信息,采用此预报方法可以得到相应的预报结果。此预报方法各组成部分的关系如图2所示。

本文选取客户需求数据作为训练样本数据:以某客户需求发生时间t(1)、t(2)、…、t(n)对应的客户需求量d(1)、d(2)、…、d(n)作为训练样本。当RBF神经网络完成训练学习后,就可以对未来某时刻的客户需求量进行超前预报。

三、计算示例

为了验证此预报方法的有效性,以国内某公司某产品的销售数据为例,对此产品的需求量进行了预报。此产品的需求数据如下表所示:

本文选取2003年~2006年的历史需求数据组成训练样本,采用提出的RBF客户需求预报方法对2007年的产品需求量进行超前预报。2007年客户需求量的超前预报值和误差如表2所示:

由表2可知,采用基于RBF神经网络的预报方法对客户需求量进行超前一个月至十二个月预报,其平均误差为3.27%。

四、结束语

本文介绍了RBF神经网络的基本原理,描述了客户需求信息训练样本和待测样本选取等内容,提出了基于RBF神经网络的客户需求预报方法。最后以某公司的产品销售数据为例,采用此预报方法对其产品需求进行了超前一个月至十二个月的预报,平均预报误差小于4%,证明了此方法的可行性和有效性。

参考文献:

[1]朱道立龚国华罗齐:物流和供应链管理[M].上海:复旦大学出版社, 2001

[2]宋华:现代物流与供应链管理案例[M].北京:经济管理出版, 2001

[3]魏海坤:神经网络结构设计的理论与方法[M].北京:国防工业出版社,2005

[4]田景文高美娟:人工神经网络算法研究及其应用[M].北京: 北京理工大学出版社,2006.7

[5] 高玮. 新型进化神经网络模型[J].北京航空航天大学学报,2004, 30(11):79-83

第5篇:神经网络基本原理范文

[关键词]人工神经网络;旅游物流;需求预测

[DOI]1013939/jcnkizgsc201538051

1引言

旅游物流对广西地区经济的发展至关重要,准确把握、预测旅游物流需求有助于有关部门制定合理的旅游物流规划、促进国民经济可持续发展、提高居民生活水平。国内学者通过一定的方法和模型确定了影响旅游物流能力的关键要素,为旅游物流需求的预测提供了一定的理论基础,而在物流需求预测方面也提出了很多如时间序列模型、灰色预测、回归分析等具有创新性和实践意义的方法。由于旅游物流具有的独特性和负责性使得这些模型及分析方法在前提条件、适用范围和侧重点的选取方面具有一定的困难,因此在实际应用中各有利弊。人工神经网络可以将定量或定性的信息等势的分布贮存于网络内的各神经元,有很强的鲁棒性和容错性,通过建立基于人工神经网络的预测模型,利用Braincell软件进行计算以期达到精确预测旅游物流需求的目的。

2旅游物流的需求界定

经过多年的发展,关于旅游物流需求的定义至今仍没有一个令各方满意的结论。物流服务贯穿了整个旅游活动过程中,旅游物流可以看作为了使旅游消费者获得更好地满足感和旅游体验,与旅游相关的主体提供让旅游消费者更为畅通流动的旅游服务,与此相应的旅游物流的能力指提供的旅游服务内容以及相关主体使用物流设施对旅游物流活动进行计划、组织、协调和控制的能力,到旅游物流的具体环节,可以从涉及旅游者的吃、住、行、购、游、娱等方面界定旅游相关主体运用物流设施为游客提供旅游服务的能力。文中对旅游物流需求的预测可以从往年的旅游物流能力方面进行预测,通过准确的预测旅游物流需求可以较好地规划未来年份旅游业发展方向,对物流设施和设备进行准确的投入,减少资源的浪费及设施投入不足的状况。

旅游物流能力是指旅游服务主体向旅游消费者从“吃、住、行、购、游、娱”6个方面提供服务的能力,旅游物流需求可根据这6方面来选取指标,但是旅游物流需求预测的准确性不仅受到旅游物流的独特性的制约,还受到一些客观性条件的影响。如物流统计制度不健全,目前,我国仍没有建立系统全面的物流统计制度,更没有涉及旅游物流领域;物流统计没有涉及物流活动的全过程;物流统计指标过于单一。此外,国内只有基本的货物运输量和货物周转量统计,其他与物流相关的指标没有公开的统计资料,也没有权威的统计方法和基础数据,致使物流需求预测不能通过直接指标来衡量需求规模的大小。

3基于神经网络的旅游物流需求预测模型的建立

神经网络具有非线性、曲线拟合能力、学习能力和抗干扰能力,是一种通用的非线性函数逼近工具。通过对BP神经网络的训练,特别适用于构造非线性预测函数,而且精度可达到预定的要求。

31预测领域中的BP神经网络模型简介

BP神经网络通过正向输入,反向传播误差不断迭代的学习过程,直到误差减到可以接受的程度。一般包括输入层、隐含层和输出层的单隐含层网络就能以任意精度表示并揭示任何连续函数所蕴含的非线性关系。其中:

(1)工作信号正向传播。输入信号从输入层经过隐含层,传向输出层,在输出端产生输出信号,这是工作信号的正向传播。在信号的正向传播过程中网络的权值是固定不变的,上一层神经元的只影响下一层神经元的状态,即正向影响。如果在输出层不能得到期望的输出,则转入误差信号反向传播。

(2)误差信号反向传播。网络的实际的输出与所期望的输出之间差值即为误差信号,误差信号由输出端开始逐层向前传播,即误差信号的反向传播。在误差信号反向传播中,神经网络的权值根据误差的反馈进行调节。通过不断地对权值的修正,使实际输出更加接近期望输出。

(3)预测神经网络流程。通过了解工作信号与误差信号的传播方向,可以清楚地了解预测神经网络的工作流程。预测开始时神经网络读入样本、权值,通过计算输入层的输入得出结果传递到输出层,在输出层进行计算,最后在计算输出值与期望值的误差。若误差小于确定值则计算结束,若误差大于确定值则继续回到前两层进行权值调整,把调整后的权值重新输入到模型中,直到误差小于设定的确定值。

本文应用Braincell神经网络软件来实现神经网络的计算与分析。

32BrainCell软件及实现

321BrainCell 神经网络基本原理

BrainCell 神经网络采用误差反向传播学习算法,算法从两个方面(信号的前向传播和误差的反向传播)反复进行迭代学习,与神经网络预测模式基本原理相同。

322BrainCell 神经网络实现步骤

(1)数据的预处理和后处理。为方便的计算减少误差,保证数据同一量纲,需要将数据归一化为区域[0,1]之间数据。在实际的预测模型中当数据接近0或1的时候训练效果会明显下降。因此,为了避免数据落入最大饱和区,保持数据的原有特征,根据经验将数据规范到[015,085]来进行修正。模型中采用反归一化处理输出数据。

(2)网络层数目的确定。由Kolmogorov定理可知,含有一个神经元隐含层的三层神经网络可以从任意精度逼近一个从输入到输出的映射关系,因此在Braincell神经网络中采用含有单隐层的三层神经网络[2]。

(3)网络节点的确定。输入层节点的多少与评价指标个数是相对应的。

(4)网络训练。假设训练样例是形式(x,y),其中x为输入向量,y为输出值。N为输入节点数,M为输出层节点数。从单位i到单位j的输入表示xij,单位i 到单位j的权值表示Wij。一是创建具有N 个输入单位,M 个输出单位的BrainCell 神经网络;二是用随机数(0 或1)初始化某些数字变量网络权值Wij;三是对于第k个训练样例(a,b),把入跟着网络前向传播,并计算网络中每个单元x的输出Qx,使误差沿着反向传播;四是对于每个输出单元u,计算它的误差项;五是对于每个隐含单元h,计算它的误差项;六是利用误差项更新调整每个网络权值;七是重复三到六点,直到完成指定的迭代次数或者是其误差值达到可接受的范围。

33神经网络的旅游物流需求预测模型的建立

331模型中数据指标确定

目前我国仍没有健全的物流统计制度,因此实际工作中收集旅游物流需求数据十分困难。这里采用间接指标法――利用与旅游物流需求相关的经济指标来建立旅游物流需求的经济指标体系,通过数学的方法进行总结与推导,确定旅游物流需求模型。

旅游物流需求是一种派生需求,这种需求的大小与其本身发展有着密切的关系。从宏观层面上考虑主要有内外两部分因素:旅游业自身发展的状况及外部环境的影响。从微观层面来说,旅游业自身发展的状况是旅游物流需求的关键因素。旅游业产值越高,旅游物流需求增长随之增加,反之亦然。由此,本文选取旅游总收入和接待人数作为预测旅游物流需求的指标。其次,影响旅游物流的其他关键因素就是旅游行业本身所投入的设施、人员、公路铁路旅客周转量等因素。根据旅游物流能力的理解从“吃、住、行、购、游、娱”等方面进行指标的选取,如“吃、住”方面使用餐饮住宿从业人数、星级饭店数目衡量;“行”使用公路、铁路旅客的周转量来衡量等;“游”则使用旅行社从业人数等方面来衡量。这些因素都对行业的产值有较大的影响。因此,在模型中可将这些相关经济指标作为旅游物流需求规模的影响因素。由此可选择如下输入层指标:星级饭店数X1、接待入境旅游者平均每人消费额X2、餐饮住宿业从业人数X3、旅行社从业人数X4、铁路旅客周转量X5、公路旅客周转量X6、旅游部门游船年末实有船数X7,旅游部门旅游客车年末实有数X8,共有8个。而把旅游业的年收入Y1与年接待入境旅游者人数Y2作为物流需求预测的目标。

332数据来源

本文选取的数据资料来源于广西壮族自治区历年统计年鉴、中国统计年鉴、中国旅游年鉴,如表1所示。根据样本数据选取原则,将2005年和2012年的数据作为网络测试样本,最后用训练好的神经网络预测2014―2016年的物流需求规模。

333广西旅游物流需求的BP人工神经网络模型

(1)样本数据的归一化处理。选取X1,X2,X3,X4,X5,X6,X7,X8作为广西旅游物流需求预测BP人工神经网络模型的输入,Y1,Y2为BP网络的输出。根据BP 的本身特点,对输入层数据进行归一化时,采用如下公式:y=log[JB((]x[JB))]/10。对输出层数据则使用归反一化处理,公式如下:P=log[JB((]tT[JB))]/10。

(2)网络节点的确定。根据构建好的评价指标体系,可以确定输入层的节点数为8,输出层的指标数为2。

(3)网络训练。以traindx作为训练函数,利用matlab计算。可知在最大训练次数为200次,目标误差为001,学习率设置为003,误差曲线收敛于目标001,进过45次迭代后,网络达到目标要求,训练误差图见下图。

训练误差图

通过设置的数据,使用Braincell软件对数据进行训练,选取全部数据作为样本数据组,2010―2013年的样本作为将预测样本,输入模型可得2010―2013年的预测值见表2。

据表3可以看出,预测效果较好,一般来说,对于经济指标的预测,误差能够控制在3%以内就算比较准确。因此,基于与旅游物流相关的其他经济数据来建立BP神经网络模型预测旅游物流需求有一定的实用价值。

4结论

根据人工神经网络理论建立的旅游物流需求预测模型,通过Braincell神经网络的自学习特征,运用traindx函数进行训练,在训练过程中对权值进行不断修正,误差比率控制合适的在范围内,使网络的实际输出向量逐渐地接近期望的输出值。最后把仿真的预测结果与真实量进行初步比较分析,得出的结果能够证明使用神经网络模型对旅游物流的预测精度较高。因此可以得出以下的结论:用BP神经网络建立模型,可以准确地把与旅游物流相关的经济数据与目标本身的需求量进行结合,可得到较为精准的旅游物流需求预测值。由此可以推断,人工神经网络作为高度的非线性体系,能够对经济系统中个变量之间的非线性关系进行高精度的预测,将其运用在物流领域中的应用具有更加广阔的发展潜力。

参考文献:

[1]王新利,赵琨基于神经网络的农产品物流需求预测研究[J].农业技术经济,2010(2):64-66

[2]秦立公,韦金荣等基于BrainCell 的B2B 电子商务供应链协同绩效评价体系[J].中国集体经济,2014(15):112-113

[3]张圣楠,郭文义,等基于MATLAB的BP神经网络的设计与训练[J].内蒙古科技与经济,2005(17):96-98

[4]熊勋人工神经网络在环境质量评价和预测中的应用研究[D].武汉:华中科技大学,2009

[5]白平,陈菊红基于旅游物流能力的西部旅游发展研究[J].新疆大学学报,2013(41):16-17

[6]秦立公,王东,等旅游景区物流能力优化研究[J].现代商业,2010(24):47

第6篇:神经网络基本原理范文

只有清楚地了解电梯控制系统的运行原理才能够及时准确的诊断出电梯故障原因,因此清楚的了解电梯运行原理,每一个电梯维修人员必须要做到。电梯运行过程总体上可分为以下几个阶段:第一、登记层外召唤信号和登记内选指令阶段;第二、电梯门关闭或者电梯按照系统指令停运阶段;第三、启动阶段;第四、在到达信号记录的楼层前进行减速制动;第五、平层开门阶段。在整个过程中电梯需要从外界接收信号并处理,然后完成相应的指令或者输出信号,由此可以将电梯看作是一个完整的独立的系统,只需要外界给予相应的信号就可以自动的做出动作。电梯系统内部复杂的构件紧密的结合在一起,正是如此才使得电梯系统故障具有了复杂性、层次性、相关性以及不确定性的特点。

二、神经网络技术基本原理

生物学上的神经是由一个个简单的神经元相互连接进而形成了复杂的庞大的神经系统,同理,神经网络就是由大量简单的处理单元相互连接形成的复杂的智能系统。单独的处理单元类似于一个神经元,是一个可以接受不同信息但是只输出一种信息的结构单位。神经网络系统与生物学神经系统相似的是具有自我修改能力,它可以同时接收大量的数据并进行统一的分析处理,进而输出相应的处理结果。这就使得神经网络系统具有了高度容错性、高度并行性、自我修改性、学习性以及高度复杂性,也正是由于这些特性才使的利用神经网络技术能够及时准确的查明电梯故障原因并得出故障解决方案。电梯故障诊断中应用的神经网络模型分为三个层次:输入层、接收外部信号或者是电梯自我检测信息(如载重信息);隐含层、对接收到了大量数据进行相应的分析处理;输出层、将记录着动作命令的数据传送出来。在电梯出现故障时,首先可以通过神经网络模型快速确定故障发生在哪一层达到节约时间的目的。但是神经网络也会因为收敛速度过于慢、训练强度太大或者是选择的网络模型不好等问题导致诊断结果受到影响。

三、神经网络模型在电梯故障诊断中的应用分类

神经网络模型已经成为了如今电梯故障诊断中应用最广泛的技术模型,相比于传统方式它具有诊断速度快、故障原因命中率高的优点,因此引起了各方面专业人士的强烈关注,并在他们的不懈努力下得到了发展与创新。它跨越多个专业领域、通过对各种复杂的高难度工作的不断的发展与改进出现了越来越多的应用模型,下面主要介绍了当前应用最普遍的BP网络模型,并且简单的引入并介绍了近年来新兴的模糊神经网络模型和遗传小波神经网络模型。

(一)BP网络模型

BP神经网络作为神经网络应用最广泛的一种,它多应用的误差反向传播算法使其在模式识别、诊断故障、图像识别以及管理系统方面具有相对先进性。基于BP网络的电梯故障诊断技术就是通过学习故障信息、诊断经验并不断训练,并将所学到的知识利用各层次之间节点上的权值从而表达出来。BP网络系统的主要诊断步骤主要可以分为三步。第一步:对输入输出的数据进行归一化处理,将数据映射到特定的区间。第二步:建立BP网络模型,训练BP网络模型。第三:通过已经训练好的网络模型对原来的样本进行全面的检测。算法步骤:a、在一定的取值范围内对数据进行初始化;b、确定输入值数值大小,计算出预期输出量;c、用实际输出的值减去上一步得到的数值;d、将上一步得到的误差分配到隐含层,从而计算出隐含层的误差;e、修正输出层的权值和阈值,修正隐含层的权值;f、修正隐含层的阈值,修正隐含层和输入层的权值。

(二)遗传小波神经网络模型

遗传算法运用了生物界的优胜劣汰、适者生存的思想对复杂问题进行优化,适用于复杂的故障,起到了优化简化问题的作用。对局部数据进行详细的分析是小波法最大的特点,所以它被誉为“数字显微镜”。遗传算法小波神经网络就是运用小波进行分解的方法分解模拟故障信号,将得到的数据进行归一化,将归一化后的数值输入到神经网络模型中。它融合了神经网络、小波分析和遗传算法三者所有的优点。基于遗传小波神经网络的电梯故障诊断的一般步骤为:测试节点信号采样、小波分解、故障特征量提取、归一化得到训练样本集、遗传算法优化、得到故障类型。遗传小波神经网络模型在故障原因复杂、数据信息量巨大的电梯系统的应用中能够发挥更大的作用。

(三)模糊神经网络模型

模糊神经网络模型就是创新性的将神经网络与模糊理论结合到一起。它采用了广义的方向推理和广义的前向推理两种推理方式。与其它两种模型不同的是,它的语言逻辑、判断依据和结论都是模糊的。但是它的数据处理能力还有自我学习能力并没有因此而变差,反而更加丰富了它的定性知识的内容。在处理实际问题的过程中,首先要建立所有可能发生的故障的完整集合,其次将所有的故障发生原因归入到同一个集合中去,最后就是建立故障和原因的关系矩阵。分别叫做模糊故障集、模糊原因集、模糊关系矩阵。相较于BP网络模型,这种模型更加的简单易行,充分发挥了神经网络和模糊逻辑的优点,不会因为故障原因过于复杂而失去诊断的准确性,在原本丰富定性知识和强大数据处理能力的基础上具有了很大的自我训练能力。

四、结语

第7篇:神经网络基本原理范文

关键词:模拟电路;故障诊断;模糊数学;bp网络;模糊bp网络

0引言

电路故障是指在规定的条件下,电路工作时它的一个或几个性能参数不能保持在要求的上、下限之间,其结构、组件、元器件等出现性能减退、老化、破损、断裂、击穿等现象,丧失了在规定条件和环境下完成所需功能的能力。

长期以来,学界对模拟电路工作特点的研究已相当深入,但对于故障诊断方法的研究却困难较大,这是由于模拟电路本身的特性决定的:1)输入激励和输出响应都是连续量,模拟电路中的故障模型复杂,量化难度大;2)模拟电路信号量程宽,不管电压、电流的量程还是频率都可达十几个数量级,测量难度大;3)模拟电路中的元器件参数具有容差,导致电路的故障状态的模糊性,而无法准确定位;4)模拟电路中存在广泛的反馈回路和非线性问题,使计算的难度更加复杂。因此,学界提出了许多模型和方法来完成对某些符合特定条件的模拟电路的故障诊断。其中神经网络法的使用就相当普遍,在硬和软故障诊断中都有应用,因为神经网络的技术优势针对模拟电路故障诊断有较好的适用性,这主要体现在:1)神经网络的大规模并行处理特点,大大提高了诊断效率;2)自适应与自组织能力使神经网络在学习和训练中改变权重值,发展出新的功能。同时,模糊数学也与神经网络相结合,这是利用了模糊数学对待诊断模拟元器件的故障不确定性进行量化处理,能够有效克服模拟电路元器件因为容差、非线性及噪声造成的电路参数模糊性。

本文的研究目的就是分别利用单纯bp神经网络和模糊bp神经网络的方法建立模拟电路故障诊断模型,利用电路仿真收集电路不同工作状态下的关键点电压,代入诊断模型并得到诊断结果。根据各网络的结果分析比较各诊断模型的优缺点,找出模糊数学对改进模拟电路故障诊断模型的具体表现。

1模糊神经网络的故障诊断模型

1.1典型模糊神经网络诊断模型介绍

图1显示的是一个典型的模糊神经网络模型,该模型由原始知识获取(fundamental knowledge acquire,fka)、特征参数处理(characteristic parameter produce,cdp)、知识提取(knowledge extracted,ke)、经验知识库(experience knowledge base,ekb)、学习样本集(learning sample set,lss)和模糊神经网络(fuzzy neural networks,fnn)共6个模块共同组成,其工作流程是:

图1 典型模糊神经网络诊断模型

1)原始知识获取模块通过对电路工作原理进行分析,模拟或仿真各类故障发生时输入和输出参数,从而获取原始知识(x,y),将其传入知识提取模块中供系统学习,所得经验集存入经验知识库中;

2)将原始知识和已经存放在经验知识库中的经验知识(初始库可为空)一起输入学习样本组织模块中,进行学习样本的构建,合成训练样本集为(x1,y1);

3)将(x1,y1)输入到模糊神经网络模块,学习训练,并在达到指定精度后停止;

4)将从模拟电路中获得的实测参数xc输入至特征参数提取模块中,完成数据分析和处理,输出特征参数数据xc';

5)将特征参数数据输入到学习收敛后的模糊神经网络中,进行诊断推理,得出诊断结果yc';

6)将得到的实测数据集(xc',yc')输入学习样本组织模块,动态增强模糊神经网络的自适应能力;

7)将得到的实测数据集(xc',yc')输入知识提取模块,进行分析和处理,如能提取出经验知识,则归入经验知识库中[1]。

1.2模糊神经网络结构

模糊神经网络的结构应该包括4层,如图2所示。

模糊层的作用是将输入量进行模糊化。每一个模糊层节点对应一个该论域中的模糊子集和隶属函数。该层接收精确数值输入,经过模糊化计算得出对应的隶属度并输出。

图2 模糊神经网络结构图

输入层、隐含层和输出层共同构成一个完整的神经网络。输入层不具有运算功能,它只是将所感知的输入值精确传递到神经网络中;隐含层的作用相当于特征检测器,提取输入模式中包含的有效特征信息,使输出层所处理的模式是线性可分的,该层节点是模糊神经元,与输入层间的连接权值是随机设定的固定值;输出层节点也是模糊神经元,与隐含层之间采用全连接方式,其连接权值是可调的,作用是输出用模糊量表示的结果[2]。

1.3输入层、输出层和隐含层节点数确定

输入层的个数代表了电路故障诊断的关键测试点的个数n1,输出点为电路所具有的潜在故障模式种类数n3。

根据输入层和输出层的个数,隐含层节点数n2的确定有以下4种经验公式[3]:

(1)

(为0~10之间的常数)(2)

(为0~10之间的常数)(3)

(4)

2模糊数学和神经网络的算法介绍

2.1模糊数学和隶属度函数

模糊数学的作用是对测试点测得的电压信号进行特征提取——模糊化处理。因为在模拟电路测试中,参数值会随着故障原因的不同和故障阶段不同而发生变化,所以在进行数据处理时常用方法是使用精确事实规则。即用正态分布函数作为隶属度函数表示“大约为a”的模糊概念,此外还有如三角分布和梯形分布等[4]。在使用中,正态分布使用较多,其中的a是该测试点的理想状态工作点,b为该测试点在各种可能状态下的工作电压均方差。

2.2bp神经网络与算法

图3bp神经网络模型结构图

反向传播网络(back-propagation network,简称bp网络),是一种有隐含层的多层前馈网络。每一层均有一个或多个神经元节点,信息从输入层依次经各隐含层向输出层传递,层间的连接关系强弱由连接权值w来表征。bp算法是一种监督的学习,基本原理是梯度最速下降法,中心思想是调整权值使网络总误差最小。通过连续不断地在相对于误差函数斜率下降的方向上计算网络权值和偏差值的变化而逐渐逼近目标的。每一次权值和偏差的变化都与网络的误差的影响成正比,并以反向传播的方式传递到每一层。bp网络模型结构如图3所示。

以bp神经网络模型结构图为例进行bp算法推导,其输入为p,输入神经元有r个,隐含层内有s1个神经元,激活函数为f1,输入层内有s2个神经元,对应的激活函数为f2,输出为a,目标矢量为t。

1)隐含层输出:(i=1,2,…,s1)(5)

2)输出层输出: (k=1,2,…,s2) (6)

3)定义误差函数:(7)

4)输入层的权值变化量:(8)

其中:

同理可得:(9)

5)隐含层权值变化有: (10)

其中:

同理: (11)

bp网络经常使用的是s型的对数、正切激活函数或线性函数[5]。

3电路故障诊断算法验证

图4 共集-共射电路的直流通路图

例:如图4所示的直流通路图,电阻的标称值如图中所注。利用multism软件在直流状态下进行多次monte carlo分析仿真该电路[6],并考虑电阻的容差影响,取40个样本作为模糊神经网络的训练样本,另取5个样本为测试样本。设电阻r1~r5的容差值为-5%~5%。测试点选为a、b、c、d和e五点,所测电压值为va、vb、vc、vd和ve。

表1 部分电路实验样本原始数据

表2 测试样本原始数据

表1列举了40组电路实验样本原始数据的11组,包含了该电路在11种工作状态下的五个关键点电压值,所以n1=5,n2=11,隐含层的节点数可以依据公式2.3确定为12个,其中a为5。

表2则列举了5组测试样本的原始数据。

步骤一:数据模糊化

根据用正态分布函数作为隶属度函数表示“大约为a”模糊概念的思路,可以分别得到各测试点上电压隶属度函数的参数值。

a1=5.57、a2=4.97、a3=4.9、a4=5.7和a5=5.69以及b1=4.3729、b2=4.4817、b3=3.9091、b4=4.2870和b5=3.7944。

由各测试点的隶属度函数可得到网络的训练样本见表3。

表3 神经网络部分输入、输出训练样本

步骤二:将训练样本输入神经网络进行训练

将全部40个原始值和模糊化值的输入样本和对应的输出样本分别输入bp神经网络中进行训练。

步骤三:将测试样本输入神经网络进行检测

将全部5个原始值和模糊化值的输入样本和对应的输出样本分别输入已经训练好的bp神经网络中,输出诊断结果见表4。

表4 输出诊断结果

表4中的数据是经过故障诊断后得到的结果,在此只是各随机选用了一组数据加以比较说明。通过对故障诊断的试验观察和结果的比较可以作出以下分析。

1)模糊化数据能够有效减少神经网络的收敛次数。如在bp网络诊断中,使用模糊化数据的迭代次数由886减少到263次,收敛速度明显加快;

2)模糊化数据能够有效提高神经网络训练的效果。通过表4中数据的对比可以发现对于相同的神经网络,经过模糊化数据的训练,其准确性更高。这主要表现在电路所对应的状态结果普遍高于未经模糊化数据训练的网络得出的结果;同时,其他状态对应的机率更低,皆低于0.1,且更多值为0,说明数据模糊化能使神经网络的诊断结果更集中,正确率更高,有效性更加明显。

4结论

通过分别采用bp网络和模糊bp网络建立了电路故障诊断模型,对电路相同工作状态参数的诊断结果进行比较,得出了模糊数学对提高电路故障诊断模型精度和有效性效果明显的结论。模糊数学和神经网路理论的组合有效地提高了模拟电路故障诊断模型的收敛速度,提高了故障诊断的工作效率,还提高了诊断的准确性,有效性得到了充分显示。

参考文献:

[1] 吕律,魏蛟龙.基于模糊神经网络的板级电路故障诊断研究[j].计算机与数字工程,2003(3):21-23.

[2] 李国勇.智能预测控制及其matlab实现[m].北京:电子工业出版社,2010.

[3] matlab中文论坛.matlab神经网络30个案例分析[m].北京:北京航空航天大学出版社,2010.

[4] 朱大奇.电子设备故障诊断原理与实践[m].北京:电子工业出版社,2004.

第8篇:神经网络基本原理范文

关键词:网络安全态势预测; CMAES优化算法; RBF神经网络; 时间序列预测

DOI:1015938/jjhust201702026

中图分类号: TP3930

文献标志码: A

文章编号: 1007-2683(2017)02-0140-05

Abstract:A method for network security situation prediction is proposed, where the covariance matrix adaptation evolution strategy algorithm (CMAES) is used to optimize the parameters of the radial basis function neural network forecasting model (RBF), which makes the forecasting model have superior ability, and can quickly find out the rules of the complex time series The simulations results show that the proposed method can accurately predict the network security situation, and has better prediction accuracy than traditional prediction methods

Keywords:network security situation prediction; covariance matrix adaptation evolution strategy algorithm; Radial basis function neural network; time series prediction

0引言

随着网络技术的广泛使用和快速发展,网络系统开始呈现出越来越复杂的趋势。所有复杂的系统都要面临严峻的安全问题,网络平台也不例外,任何一个小的漏洞都有可能被黑客利用,从而导致整个网络的崩溃。传统的安全技术属于被动防御技术,例如入侵检测系统是在攻击来临时进行识别并作出反应。相比之下,管理人员更需要一种能够宏观描述并预测网络整体状况的技术,以此能够做到未雨绸缪主动防御。针对这个问题,Bass T 在1999年提出了网络安全态势的概念[1-2],他指出网络安全态势是一组能够反映网络系统宏观状态的数值,通过它可以让管理人员快速的了解网络运行的基本情况。获取并处理网络安全态势的技术称为网络安全态势感知[1,3-7],它包括3个层次[8]:①网络底层态势要素的提取(态势提取);②网络安全态势的评估(态势理解);③网络安全态势的预测。态势要素的提取主要依靠神经网络和支持向量机等分类技术将威胁网络安全的数据分类,然后在由网络安全态势评估技术按照不同攻击种类的重要程度加权平均得出网络安全态势值[9]。当收集到一段时间的历史网络安全态势值后,就可以建立预测模型预测未来的网络安全态势。可以看出,网络安全态势预测技术是网络安全态势感知中最为重要的环节,本文要解决的就是网络安全态势预测问题。

目前,已经有很多预测模型用于网络安全态势预测,例如灰色预测模型[10]、GABP预测模型[11]、RBF预测模型[12]、HMM预测模型[13]、EvHMM预测模型[14]以及HBRB预测模型[15-16]等。灰色预测模型是利用灰色理论对含不确定信息的系统进行预测的模型,但是它只能反映系统发展的大致趋势,并不能精确预测未来的数值。HMM、EvHMM以及HBRB等预测模型将安全态势视为隐含行为,优化过程复杂且具有s束条件,不适用于实时性要求高的网络系统。

神经网络模型是网络安全态势预测中最常用的方法,但是由于在训练模型的过程中需要优化大量的参数,且传统的优化算法往往会在优化过程中陷入到局部最优点,所以神经网络预测模型并不能精确的预测样本数量小且规律性不强的网络安全态势。

针对上述问题,本文提出利用CMAES算法对RBF神经网络的参数进行优化,从而提高网络安全态势预测的精度。CMAES算法全称是协方差矩阵自适应进化策略[17-18],是目前最受关注的优化算法之一,它在高维非线性优化问题上表现良好,能够利用较少的个体快速收敛到全局最优点。RBF全称是径向基神经网络,它具备良好的泛化能力和逼近性能,并且可以处理复杂的非线性系统。RBF解决了BP的局部最小值问题,并已成功应用到众多的工程领域[19-24]。将两者结合到一起,可以克服神经网络模型的缺点,增加全局优化能力,提高预测精度。

本文的组织结构为:在第一节中,介绍了RBF及CMAES的相关概念及基本原理。在第二节中提出了CMARBF预测模型。在第三节中,利用所提出的方法对实际网络平台的安全态势进行预测,并将结果和其他传统方法进行了比较。在第四节中,对CMARBF预测模型进行总结。

1基本概念

11RBF神经网络的基本原理

RBF神经网络模型在结构上与BP相同,都属于前馈型式神经网络。区别在于RBF的隐层只有一个且使用径向基函数作为隐层神经元的激活函数,RBF的隐层可以将输入变换到高维空间中,从而解决低维空间线性不可分的问题。RBF神经网络模型具备良好的全局最优和逼近性能,并且结构不复杂,收敛速度快,可以作为系统辨识的、非线性函数逼近等领域的有力工具。典型的RBF神经网络模型结构如图1所示。

利用CMARBF预测网络安全态势的基本步骤如下所示:

Step1: 利用公式(9)确定模型的历史样本;

Step2: 确定RBF神经网络的初始参数Ω0;

Step3: 确定初始迭代次数t=0和最大迭代次数tmax;

Step4: 确定CMAES算法的初始⑹;

Step5: 建立形如公式(11)优化目标函数;

Step6: 进入循环:while t

Step 61: 利用公式(3)以Ωt作为期望meant生成新的种群;

Step 62: 利用公式(4)得到新的种群期望meant+1;

Step 63: 利用公式(5)(6)(8)更新种群的协方差矩阵,得到Mt+1;

Step 64: 利用公式(9)更新步长,得到st+1;

Step 65: 计算新种群的目标函数值,选出最优个体(参数)Ωbest;

Step 66: 重复执行step 61,直到t=tmax跳出循环;

Step7: 以Ωbest作为RBF神经网络的参数,历史样本做为训练数据,对RBF进行训练;

Step8: 用训练RBF模型对安全态势预测。

3仿真实验

31背景描述

我们以真实的网络平台为背景(如图3所示),收集了三个月共92天的攻击数据,并将它们利用层次化评估方法求出92天的网络安全态势值。

图3描绘的是某高校真实网络环境,全网可分为内网和DMZ区两大部分。其中内网包括图书馆、宿舍、行政楼和教学楼;DMZ区包括各类服务器及数据库。攻击数据的收集在防火墙及核心交换机上完成。

当作为网络安全要素的攻击数据收集完毕后,可以由专家确定各安全要素的权重,在利用常用的层次化评估方法获得全网的网络安全态势值,如图4所示:

从图4可以看出,该网络平台的网络安全态势在整体上呈现一定的规律,每个月的中期攻击强度增大,月底逐渐减小,但是在局部,态势值有一定的随机性。为了利用前述的CMARBF模型去预测网络安全态势值,我们将上述数据通过公示(9)生成了89组样本,前60组作为训练样本,后29组作为预测样本。模型的初始参数见表1:

32比较实验

为验证所提模型有效性,选取了没有优化RBF模型和GARBF模型与CMARBF模型比较,比较结果如图5和表2所示:

从图5和表2可以看出,CMARBF的预测精度要高于其他方法。

4结论

所提出的CMARBF预测模型是将新的进化算法CMAES引入到RBF模型中,利用CMAES高效的寻优能力去解决高维模型中参数优化问题。两者的结合使得神经网络的结构和参数更加合理,具有更好的预测能力。本文将所提方法应用于网络安全态势预测领域,得到了很好的效果。比较实验结果表明,CMARBF模型的预测精度高于其他传统方法。在今后的工作中,我们会继续探索更适应与网络安全态势预测的新方法。

参 考 文 献:

[1]BASS T Intrusion Detection System and Multisensor Data Fusion: Creating Cyberspace Situation Awareness[J]. Communications of The ACM, 2000, 43(4): 99-105

[2]王庚, 张景辉, 吴娜 网络安全态势预测方法的应用研究[J]. 计算机仿真, 2012, 29(2): 98-101

[3]胡冠宇, 乔佩利 基于云群的高维差分进化算法及其在网络安全态势预测上的应用[J]. 吉林大学学报(工学版), 2016, 46(2): 568-577

[4]鲁颖欣, 王健, 齐宏卓 模糊判断在网络安全风险评估中的应用研究[J]. 哈尔滨理工大学学报, 2014, 19(1):36-39

[5]高青波, 胡冠宇, 徐泽群 并行计算平台的网络安全态势感知系统[J]. 科技创新与应用, 2015(15): 4-5

[6]HU G Y, QIAO P Cloud Belief Rule Base Model for Network Security Situation Prediction[J]. IEEE Communications Letters, 2016, 20(5): 914-917

[7]HU G Y, ZHOU Z J, ZHANG B C, et al A Method for Predicting the Network Security Situation Based on Hidden BRB Model and Revised CMAES Algorithm[J]. Applied Soft Computing, 2016, 48:404-418

[8]王慧强, 赖积保, 胡明明等 网络安全态势感知关键技术研究[J]. 武汉大学学报-信息科学版, 2008, 33(10): 995-998

[9]陈秀真, 郑庆华, 管晓宏等 层次化网络安全威胁态势量化评估方法[J]. 软件学报, 2006, 17(4): 885-897

[10]马杰, 任望, 薛东军等 灰色灾变模型在计算机网络安全态势预测中的研究[C]. 第三届信息安全漏洞分析与风险评估大会,2010

[11]胡明明, 王慧强, 赖积保 一种基于GABPNN的网络安全态势预测方法[m]. 北京:中国科技论文在线, 2007

[12]任伟,蒋兴浩,孙锬锋 基于RBF神经网络的网络安全态势预测方法[J]. 计算机工程与应用 2006 31: 136-139

[13]MUTHUMANI N, THANAMANI A S Optimizing Hidden Markov Model for Failure PredictionComparison of Gaine’s Optimization and Minimum Message Length Estimator[J]. Int J Comput Sci Eng, 2011, 3(2): 892-898

[14]RAMASSO E Contribution of Belief Functions to HMM with an Application to Fault Diagnosis[J]. In: IEEE International Workshop on Machine Learning and Signal Processing, Grenoble, France, 2009: 2-4

[15]HU G Y, QIAO P L Cloud Belief Rule Base Model for Network Security Situation Prediction [J]. IEEE Communications Letters, 2016, 20(5): 914-917

[16]HU G Y, ZHOU Z J, ZHANG B C, et al A Method for Predicting the Network Security Situation Based on Hidden BRB Model and Revised CMAES Algorithm[J]. Applied Soft Computing, 2016, 48: 404-418

[17]HANSEN N The CMA Evolution Strategy: a Comparing Review Towards a New Evolutionary Computation[J]. Advances on estimation of distribution algorithms, 2006, 75-102

[18]HANSEN N, KERN S Evaluating the CMA Evolution Strategy on Multimodal Test Functions[J]. Parallel Problem Solving from Nature PPSN VIII, 2004, 282-291

[19]同光, 桂卫华 基于粒子群优化神经网络观测器感应电机定子电阻辨识[J]. 电机与控制学报, 2015, 19(2):89-95

[20]王建敏, 董小萌, 吴云洁 高超声速飞行器 RBF 神经网络滑模变结构控制[J]. 电机与控制学报, 2016, 20(5):103-110

[21]张旭隆, 曹言敬, 邵晓根 基于边界约束RBF网络的SRM磁链特性在线建模[J]. 电机与控制学报, 2015, 19(2):83-88

[22]宋清昆, 李源松 RBF神经网络锅炉燃烧系统建模[J]. 哈尔滨理工大学学报, 2016, 21(1):89-92

第9篇:神经网络基本原理范文

【关键词】人工神经网络 BP算法 故障诊断 发动机

近年来,汽车越来越多地出现在普通百姓家庭。发动机系统是汽车的心脏,大部分零件处于高温、高压的工作环境且处在高速运动当中,设备复杂、参数多,其故障的发生率高,诊断起来困难繁琐,本文针对这一问题,在掌握发动机运行流程后,引入了BP神经网络故障诊断方法,并适当改进,测试结果表明,该方法可靠有效实用。

3 自适应BP网络实例应用

3.1 网络输入输出向量及参数的选取

由汽车维修专家提供典型发动机系统故障现象及相应的故障原因实例作为训练样本。以故障类型X=(x1,x2,x3,x4)作为输入,故障原因R=(r1,r2,…,r12)作为输出,建立故障模式与故障原因之间的映射关系。如表1所示。

3.2 网络的创建、训练与检验

按照样本的模式对,确定输入层节点个数为4,输出层节点个数为12。输出节点值的大小反映了故障出现的可能程度。而隐含层节点的个数可参照经验公式选取:其中为输出节点数,n为输入节点数,为1至10的常数。

将故障类型及原因分析表中的文字描述进行转换并编码,就得到样本训练表,如表2所示。

选取网络的初始学习率=1,动量因子=0.01,初始学习率调整因子β=1,训练过程中根据误差变化实时调整学习率,取β=0.9(误差变大时),β=1.1(误差变小时)。

采用Matlab软件编写程序对样本进行训练。

3.3 误差分析与判定

利用同一组样本对改进的BP算法和传统BP算法分别进行测试,并对照研究,进行误差分析。表3为阶段性均方误差所需要的训练次数对比,图1为增加动量项的BP算法对网络训练误差的影响,图2为采用自适应学习率BP算法对网络训练误差的影响,可以直观地看出,两种方法都可以极大地加快网络的训练过程,将两种方法结合到一起,则效果更好,如图3所示。

需要注意的是,建议学习率调整率不能取值太大,使步长平稳,同时设定学习率的最大值,超过后就不再调整,防止出现过调。

4 结论

本文把基于BP神经网络的故障诊断技术引入汽车发动机故障诊断系统,通过增加动量项和自适应调节学习率两种方法来对基本的BP网络学习算法进行改进,可以极大地加快BP 神经网络收敛过程,提高学习速度。通过分析,人工神经网络能够在发动机系统的监测及诊断中发挥较大的作用,并且在设计诊断工具和改进诊断方式中有一定的借鉴功能。

参考文献

[1]韩力群.人工神经网络理论、设计及应用[M].北京:化学工业出版社,2002.

[2]黄勇,郭晓平.基于改进BP神经网络的柴油机故障诊断研究[J].汽车科技,2009(03).

[3]张冉,赵成龙.改进BP网络在汽轮发电机组故障诊断中的应用[J].计算机仿真,2011(07).

[4]张延林,佟德军.BP神经网络的汽车故障诊断研究[J].自动化仪表,2009(04).

[5]禹建丽,卞帅.基于BP神经网络的变压器故障诊断模型[J].系统仿真学报,2014(06).

[6]姜蕊.基于改进BP神经网络的速度预测模型[J].交通工程,2013(04).

[7]陈怀琛,吴大正,高西全.MATLAB及在电子信息课程中的应用[M].北京:电子工业出版社,2006(03).

相关热门标签