神经网络的鲁棒性精选(九篇)

前言：一篇好文章的诞生，需要你不断地搜集资料、整理思路，本站小编为你收集了丰富的神经网络的鲁棒性主题范文，仅供参考，欢迎阅读并收藏。

第1篇：神经网络的鲁棒性范文

关键词：液压泵轴承 故障 诊断

轴承的平均使用寿命是10000小时，大于此就需要更换新的；滚柱表面变色或者有划痕，也要更换。更换下来的轴承应注意型号和英文字母，但没有仪器是无法检测出轴承的游隙柱塞泵轴承一般采用大载荷容量轴承，更换时候最好购买原厂家规格的产品，但若换为另一品牌，并且保持载荷容量和轴承的精度等级，需要请教对轴承有经验的人员查表更换。

一、液压泵轴承故障的特征提取

在机械系统中，有故障就会引起系统的附加振动。振动信号很适合进行故障诊断，因为它是包含丰富信息的动态信号，但若固有信号或外界干扰对故障信号的干扰很大，那么关键是要从振动信号中提取有用信号。

(1)振动的平均能量特征

假定在液压泵泵体上的振动加速信号为：a(t)={a1(t), a2(t),...， an(t)}，它是故障信号以泵体传输后的信号。

振动信号的有效值由特征参数代表，反映振动的平均能量。根据统计学理论，振动的时域信息可以通过振动的均方根反映：

(2)振动信号的峰值特征

反映振动信号中周期性脉动的特征量，峰值特征量为Pp=max{a(t)}。

(3)倒谱包络特征

设为故障激励信号f(t)，传输通道的脉冲响应为h(t)，由傅里叶变换得：

，变换得：

其中，τ称为倒频率，(τ)为倒频谱。

由上得出故障激励信号特性和传递通道的特性被分离，故障激励信号与传递通道信号一般在不同的倒频区，突出故障振动信号的特性。

当轴承滚柱及流动面的内、外环滚道上出现损伤，滚道的表面受到破坏，根据摩擦学理论，每当滚子滚过损伤点，都会产生一次振动。选用以上抗干扰能力强的特征为故障诊断特征参数，可以克服轴承故障信号较弱且容易被液压泵固有振动淹没的困难。

二、集成BP网络进行故障诊断的原理

求解问题的领域特征决定了神经网络的组织结构，为了减少故障诊断系统的复杂性和网络学习时间，将故障诊断知识集合分解为若干子集合。每个逻辑上独立的子集合再分解为几个规则子集，每个规则子集是一个逻辑上独立的子网络的映射，通过规则子集间的联系、子网络的权系矩阵来组织网络。独立地运用BP学习算法在各个子网络分别进行学习训练。由于分解后的子网络变得规模小了，所以使训练时间大为减少。

利用集成BP网络对液压泵轴承故障诊断的信息处理能力，即BP算法和神经元的非线性机理特性，如图1所示。

图1BP网络故障诊断示意图

图2中每一个子网络由BP算法各自学习，学习后的结果最后集成到控制网络。BP子网络的学习算法如下：

图2集成BP网络示意图

将能量特征、幅值特征和倒谱包络特征每一个特征参数值的映射到神经网络输入输出层的单个节点上，进行正则变换，则：

xi=0.8(x-xmin)/(xmax-xmin)+0.1

为了避免Sigmoid函数输出值极端化，比如学习无法收敛的问题，则需要把特征参数正则到(0.1，0.9)之间，得到每个神经元的加权值和阈值：

其中，i代表前一层，j代表当前层，wij代表连接权值，cj代表当前节点的阈值，fj代表输出。而对于轴承故障诊断系统，若选取6个特征参数，即内滚道和滚柱的振动能量、振动峰及倒谱包络，则：

子网络输出层有一个节点，集成BP网络输出有多个节点，可以用集成BP网络的输出节点组合，表示一种状态，从而对多故障诊断与识别。

三、神经网络鲁棒性的研究

第2篇：神经网络的鲁棒性范文

关键词：卷积神经网络；自动编码器；非监督训练；多尺度分块；目标识别

中图分类号：TP391.41文献标志码：A英文标题

0引言

对图像中目标的精确和鲁棒识别是模式识别及人工智能领域的核心内容，在道路监控、战场侦察、精确打击等领域中有着重要的作用和广泛的前景。近年来，随着深度神经网络成为机器学习新的热点，基于卷积神经网络（Convolutional Neural Network，CNN）的图像识别算法因其较强的鲁棒性和突出的识别率被学术界和工业界所重视。

Alex等[1]提出基于大型深层CNN的自然图像识别算法，在ImageNet数据集上取得了很高的识别率；Dan等[2]提出了基于多核的CNN，并采用GPU并行运算的方法在三维NORB数据集上取得了很好的识别效果。以上算法虽然都取得了较高的目标识别率，但是由于算法采用有监督的训练方式，需要大量标签数据对网络权重进行调整，当数据量较小时会导致模型前几层网络无法得到充分训练，故只能针对含标签数据较多的大型数据集。针对此问题，目前主流的解决方法是采用特征提取算法对CNN的滤波器集进行非监督的预训练。文献[3]采用稀疏编码提取训练图像的基函数作为CNN的初始滤波器；文献[4]将独立成分分析（Independent Component Analysis，ICA）应用于CNN的预训练阶段，利用ICA训练滤波器集合，使识别率得到了一定提高。然而无论是稀疏编码还是ICA，其特征提取的效果都比较一般，应用于预训练阶段对算法识别率的提升也比较有限。所以如何更好地选择滤波器的预训练算法仍是十分困难的问题。

除了预训练外，影响CNN识别率和鲁棒性的关键参数还有滤波器的尺寸和下采样层的采样间隔。滤波器尺寸反映了CNN对输入图像局部特征的提取情况，文献[5]证明滤波器尺寸对最终识别结果有很大影响，并给出了单层条件下相对最优的滤波器尺寸。下采样层主要负责对特征进行模糊，从而获得平移、尺度等不变性。采样间隔反映了模糊的程度，间隔越大模糊越严重，模糊后的特征保持的全局空间信息就越少。文献[6]证明当采样间隔较小时，即使经过2次卷积和2次最大下采样（maxpooling），网络输出的激活值仍能重构出与原始输入看似相同的图案。然而下采样间隔过小会导致不变性丧失，过大则会损失大量细节信息，两者均会导致识别率的下降。

针对以上问题，本文提出基于多尺度分块卷积神经网络（MultiScale Convolutional Neural Network， MSCNN）的图像目标识别算法。首先利用稀疏自动编码器（Sparse AutoEncoder，SAE）对卷积神经网络的滤波器进行非监督预训练，通过最小化重构误差获得待识别图像的隐层表示，进而学习得到含有训练数据统计特性的滤波器集合，预训练效果相比ICA更好。其次提出多尺度分块的方法构建卷积神经网络，为了增加鲁棒性并减小下采样对特征表示的影响，对输入图像进行多尺度分块形成多个通路，并设计相应尺寸的滤波器进行卷积运算，将不同通路下采样后的输出进行融合从而形成新的特征，输入softmax分类器完成图像目标的识别。最后通过大量实验对比MSCNN算法与经典算法在通用图像识别任务中的识别率和鲁棒性差异，从而验证算法的有效性。

4仿真实验及分析

本文使用STL10公开数据集以及从全色波段的QuiekBird遥感卫星和GoogleEarth软件中截取的遥感飞机图像数据集进行测试实验，将所有图片变为64×64像素的RGB图。选择STL10数据集的原因是因为其含有不包含标签的训练集，可用于本文的非监督预训练算法，且图像中包含更多类内变化。STL10共10类目标，本文选用其中的4类目标进行实验。选择遥感飞机图像数据则是为了验证本文算法在遥感图像解译方面的可用性。该数据集包含5类遥感飞机，共400幅。实验时随机选取遥感飞机图像库中50%的图像作为训练样本，其余作为测试样本。本文的实验环境为CPU2.8GHz、内存3GB的计算机，实现算法的软件为Matlab（2011a）。

4.1算法识别率对比测试

MSCNN的各通路尺寸参数设置如图4所示，每个通道使用300个滤波器，滤波器初始值按照不同通道感受野大小利用稀疏自动编码器预训练得到。编码器设定为3层，稀疏参数ρ设定为0.05，训练周期为400。卷积神经网络的下采样方式采用最大下采样（max pooling）。

按照上述参数设置，通路1输出特征维度为2700，通路2输出特征维度为4800，通路3输出特征维度为4800，MSCNN输出特征维度总共为12300。所有算法的训练周期均为50。传统CNN参数设定与通路1参数设定相同，同样使用300个滤波器，滤波器初始值通过随机初始化得到。输出特征维度为2700。实验结果如表1所示。

从表1可看出，加入LCN的CNN较未加入的CNN对两种数据集的识别率有一定的提高，说明了加入LCN对目标识别率是有一定的贡献的；在两种数据集上MSCNN相比原始CNN都拥有更高的识别率。MSCNN通路1虽然参数设置与CNN相同，但在相同训练周期下识别率较加入LCN的CNN又有一定提高，说明了非监督预训练对识别率提高的有效性。对于STL10数据集，可看出通路2的识别率在3个通路中最高，通路3则最低，这是因为通路3输入的图像尺寸最小，而STL10类内变化很大且目标不全在图像中心，故识别率有所下降。通路之间进行两两累加后识别率都有所提高，在3个通路共同作用时识别率最高，达到83.5%。对于遥感飞机图像集而言，可看出3个通路中通路2的识别率最高，这是因为遥感飞机图像集均为飞机图像，不同类别之间的全局特征差异并不明显，而局部特征更能表示不同的飞机类别。通路3由于输入尺寸较小，识别率稍有下降。同样的，不同通路之间的叠加都让识别率有所提升，最终MSCNN三通路特征融合后的识别率达到了96.5%，完全满足对于可见光遥感图像目标识别的需求。

从表1还可看出，本文算法在3个通路CNN的情况下的识别率较1个通路或2个通路的CNN的识别率高，由此可以推断3个通路CNN所提取的特征具有较强的泛化能力和鲁棒性。此外3个通道能够兼顾不同的尺度，使模型能提取到尺度不同的特征。

4.2算法鲁棒性实验

为验证MSCNN的鲁棒性，在数据集中选取不同类别的图像对其进行平移、尺度、旋转变换，然后计算MSCNN输出的第一层全连接特征与图像变换后输出特征之间的欧氏距离，根据距离的大小可以衡量输出特征对于目标变化的鲁棒性，欧氏距离越小就说明特征对于目标变化越不敏感，鲁棒性就越好。对于STL10选取四类目标进行实验，对比算法为CNN；对于遥感飞机图像集随机选取10幅进行实验，并取距离的平均值，对比算法为ICA和CNN。测试结果如图6～7所示。

图6中虚线表示传统CNN算法得到的结果，实线则表示MSCNN得到的结果，从图6可看出：无论是面对平移、尺度还是旋转变换，MSCNN算法最终输出的特征向量变化率均小于CNN算法，证明其鲁棒性要好于CNN。

从图7也可看出：本文算法对于遥感飞机图像集的平移、尺度、旋转均表现出良好的鲁棒性，相比而言ICA提取的特征鲁棒性较差，目标图像微小的变化就导致了特征较大的改变。本文算法鲁棒性较好首先是因为MSCNN采用非监督的预训练方式，训练得到的滤波器含有更多图像不变性特征；其次是因为MSCNN采用多尺度输入，小块图像输入在一定程度上相当于另一种局部特征，这些特征相比全尺寸输入拥有更好的不变性；最后是MSCNN采用了局部对比度标准化，对于亮度变化较大和存在噪声的目标图像鲁棒性明显增强。

另外，本文算法采用了多通路多尺度分块的方法，必然会使网络参数增加，从而会使训练时间比较耗时；但在测试阶段，输入样本的计算仅包含一些简单的卷积和下采样，算法复杂度并没有因为通道的增加而增加，因此在测试阶段的实时性较传统的CNN并没有太大变化。

5结语

本文提出了MSCNN算法在卷积神经网络的基础上通过非监督预训练滤波器的方法解决传统卷积神经网络前几层无法得到有效训练的问题。针对传统神经网络对于复杂背景图像识别率不高的问题，利用多尺度输入图像增加局部不变信息，利用不同尺寸滤波器卷积搭配不同下采样间隔的方法在获得特征不变性的同时不至于丧失目标的细节信息，有效提升了识别率和鲁棒性。与经典算法的对比实验结果表明：该方法能够有效识别可见光自然图像和遥感图像，并对平移、尺度和旋转变换具有较强的鲁棒性。

参考文献：

[1]

ALEX K， ILYA S， HINTON G E. ImageNet classification with deep convolutional neural networks[EB/OL]. [20150210]. http：//papers.nips.cc/paper/4824imagenetclassificationwithdeepconvolutionalneuralnetworks.pdf.

[2]

DAN C， UELI M， JURGEN S. Multicolumn deep neural networks for image classification[C]// Proceedings of the 2012 IEEE Conference on Computer Vision and Pattern Recognition. Piscataway， NJ： IEEE， 2012： 3642-3649.

[3]

KAVUKCUOGLU K， SERMANET P， BOUREAU Y， et al. Learning convolutional feature hierarchies for visual recognition[EB/OL]. [20150210]. http：//cs.nyu.edu/～ylan/files/publi/koraynips10.pdf.

[4]

KAVUKCUOGLU K， RABZATO M， FERGUS R， et al. Learning invariant features through topographic filter maps[C]// IEEE Conference on Computer Vision and Pattern Recognition. Piscataway， NJ： IEEE， 2009： 1605-1612.

[5]

COATES A， LEE H， NG A Y. An analysis of singlelayer networks in unsupervised feature learning[C]// Proceedings of the 14th International Conference on Artificial Intelligence and Statistics. Piscataway， NJ： IEEE， 2011： 215-223.

[6]

ZEILER M D， FERGUS， R. Visualizing and understanding convolutional neural networks [C]// ECCV 2014： Proceedings of the 13th European Conference on Computer Vision. Berlin： Springer， 2014： 818-833.

[7]

BALDI P， LU ZHIQIN. Complexvalued autoencoders [J]. Neural Networks， 2012， 33：136-147.

[8]

HAYKIN S.神经网络与机器学习[M].3版.申富饶， 徐烨， 郑俊， 译. 北京： 机械工业出版社， 2011：81-89.（HAYKIN S. Neural Networks and Learning Machines[M]. 3rd ed. SHEN F R， XU Y， ZHENG J， translated. Beijing： China Machine Press， 2011：81-89.

[10]

LECUN Y， BOTTOU L， BENGIO Y. Gradientbased learning applied to document recognition [J]. Proceedings of the IEEE， 1998， 86（11）： 2278-2324.

[11]

DERMANET P， LECUN Y. Traffic sign recognition with multiscale convolutional networks [C]// Proceedings of the 2011 International Joint Conference on Neural Networks. Piscataway， NJ： IEEE， 2011： 2809-2813.

[12]

GONG Y C， WANG L W， GUO R Q， et al. Multiscale orderless pooling of deep convolutional activation features[C]// ECCV 2014： Proceedings of the 13th European Conference on Computer Vision. Piscataway， NJ： IEEE， 2014： 392-407.

[13]

JARRETT K， KAVUKCUOGLU K， RANZATO M， et al. What is the best multistage for object architecture？[C]// Proceedings of the 2009 IEEE 12th International Conference on Computer Vision. Piscataway， NJ： IEEE， 2009： 2146-2153.

[14]

BOUVRIE J. Notes on convolutional neural networks [EB/OL]. [20150210]. http：//math.duke.edu/～jvb/papers/cnn_tutorial.pdf.

Background

This work is partially supported by the National Natural Science Foundation of China （61372167， 61379104）.

ZHANG Wenda， born in 1991， M. S. candidate. His research interests include pattern recognition and artificial intelligence.

第3篇：神经网络的鲁棒性范文

为降低神经网络的冗余连接及不必要的计算代价，将量子免疫克隆算法应用于神经网络的优化过程，通过产生具有稀疏度的权值来优化神经网络结构。算法能够有效删除神经网络中的冗余连接和隐层节点，并同时提高神经网络的学习效率、函数逼近精度和泛化能力。该算法已应用于秦始皇帝陵博物院野外文物安防系统。经实际检验，算法提高了目标分类概率，降低了误报率。

关键词：神经网络；量子免疫克隆算法；目标分类；冗余连接；网络优化

中图分类号： TP273

文献标志码：A

Quantum-inspired clonal algorithm based method for optimizing neural networks

Abstract：

In order to reduce the redundant connections and unnecessary computing cost， quantum-inspired clonal algorithm was applied to optimize neural networks. By generating neural network weights which have certain sparse ratio， the algorithm not only effectively removed redundant neural network connections and hidden layer nodes， but also improved the learning efficiency of neural network， the approximation of function accuracy and generalization ability. This method had been applied to wild relics security system of Emperor Qinshihuangs mausoleum site museum， and the results show that the method can raise the probability of target classification and reduce the false alarm rate.

Key words：

neural network； quantum-inspired clonal algorithm； target classification； redundant connection； network optimization

0 引言

神经网络已经被广泛地应用于模式分类、函数逼近、信号预测等各种领域，是近年来的研究热点之一[1-2]。在应用过程中，研究人员发现，当神经网络的规模过大会产生连接数量冗余大、计算代价过高的问题，降低了大规模神经网络的实用性。针对此问题，研究人员提出了多种方法在保持神经网络的前提下优化神经网络的结构和参数权值。Leung等[3-4]改进了传统的遗传算法（Genetic Algorithm， GA）并将其应用于神经网络的结构和权值优化过程，利用遗传算法的快速收敛性来提高神经网络的学习速度，其缺点在于当目标函数维数过大时容易陷入局部最优。Xiao等[5]使用混合优点（Hybrid Good Point， HGP）优化前向神经网络的参数和结构，避免权值陷入局部最优，但其对网络结构的优化没有达到最优。Shu等[6]提出正交模拟褪火（Orthogonal Simulated Annealing， OSA）算法， 使用褪火算法和正交算法的优点来同时优化神经网络结构和参数，其算法收敛速度快、鲁棒性好，缺点则在于计算代价较大。杜文莉等[7]提出了使用量子差分进化（Cooperative Quantum Differential Evolution， CQGADE）算法来优化神经网络权值，使用量子遗传算法优化网络结构和隐层节点数，算法综合了量子遗传算法和量子差分算法的优点，收敛速度快，但其缺点在于需要同时协同两种算法的优化结果，算法复杂度较高，且容易陷入局部最优。Tsai等[8]提出混合田口遗传算法（Hybrid Taguchi Genetic Algorithm， HTGA），将传统的GA与Taguchi方法结合起来，使得算法具有鲁棒性好、收敛性快等优点，但其缺点在于获得最优解的计算代价较大。

量子免疫克隆算法[9-12]（Quantum-inspired Immune Clonal Algorithm， QICA）也称为量子遗传算法（Quantum Genetic Algorithm， QGA），其将量子搜索机制和免疫算法克隆选择原理相结合，利用量子编码的叠加性和随机性构造抗体，利用遗传算法的克隆操作产生原始种群和克隆子群实现种群扩张，使搜索空间扩大，提高了局部搜索能力；同时借助全干扰交叉操作避免陷入局部最优。QICA采用了多状态量子比特编码方式和通用的量子旋转门操作， 引入动态调整旋转角机制和量子交叉[11]。QICA在组合优化问题中具有良好的表现。

针对上述问题，提出了使用量子克隆免疫算法对神经网络的结构和连接权值同时进行优化，通过产生具有一定稀疏度的连接权值对网络隐层数量和连接权值进行优化，提高了算法的效率和收敛速度，避免了算法陷入局部最优。

1 带开关权值的神经网络模型

在经典的神经网络理论中，网络结构在初始化后便不再变动，仅通过权值的变化来计算产生结果，这种算法增加了神经网络的结构复杂性，在实际应用中增加了计算结果的代价。Leung等[3-4]提出了带开关权值的神经网络，通过调整开关的通断就能调整神经网络的结构和连接数量，从而减少计算代价。带开关权值的神经网络模型如图1所示[7]。

2.2 权值计算及优化方法

根据量子克隆免疫理论，将神经网络权值计算及优化过程分为以下四个过程。

2.2.1 权值抗体初始化

量子克隆免疫算法是基于量子计算和遗传算法组成的，其抗体的编码方式采用量子比特编码。一个抗体中的量子位的状态是不确定的，可以为0或1，其状态表示为式（5）：

3.1 算法复杂度分析

量子克隆免疫算法的实质是通过量子理论的随机特性提供丰富的种群数量，并通过使用遗传算法对种群进行淘汰和进化，因此其算法的复杂度等于种群生成算法的复杂度：假设神经网络有x个输入，其隐层节点数量为N，输出为y，则网络中的输入与隐层节点间的连接权值ω的数量为：x*N，隐层节点与输出层的连接权值v的数量为：N*y。种群生成需要对所有节点进行权值初始化，并将随机位置的n（nN）个节点的权值设置为0， 其算法复杂度为O（n2）。而克隆免疫算法在种群克隆及抗体选择过程中使用遗传算法，因此其算法的复杂度与传统遗传算法相同，其算法复杂度也为O（n2）。因此，使用量子免疫克隆的神经网络优化算法的复杂度为O（n2）。

3.2 非线性函数逼近

选取复杂交互非线性函数（Complicated Interaction Function，CIF）：

其中0

选取样本700组，其中500组用于训练，其余200组用于检测性能。神经网络的初始隐层神经元设置为20个，初始网络结构为：2-20-1，初始连接权值为随机值。在此条件下验证不同稀疏度条件下对CIF的二维逼近效果如图3所示。

图3显示随着稀疏度的不断降低，神经网络的逼近能力有所减弱，逼近误差则逐渐增大。这主要是因为神经网络中的连接权值数量降低，造成神经网络的适应性差。具体逼近效果见表2。

从表2中可以看出，隐层节点数量直接影响着神经网络的性能。高稀疏度条件下的计算量大，但逼近精度高；低稀疏度条件下的计算量小，但逼近精度较差。实验表明当稀疏度大于0.6时，算法的逼近精度高于90%，优化后的网络具有较好的非线性逼近能力。当神经网络隐层节点数量低于12时逼近精度大幅下降，说明此时神经网络处理信息的能力也随之大幅减弱，隐层节点的最合适的数量为12～14个，这也符合文献[14]的实验结果。

图4为不同稀疏度下，算法适应度的收敛情况。可以看出量子克隆免疫算法具有很好的收敛特性，算法收敛速度很快，能够在很短的进化次数内收敛至极值，且稀疏度越低，神经网络的连接权值数量越少，算法收敛速度越低，最优适应度越差。

表3为相同条件下，不同算法的最优计算结果，包括目标分类的准确度、隐藏层节点数量等。可以看出，当稀疏度高于0.8时，本文算法收敛性和适应度均优于混沌粒子群（Chaotic Particle Swarm Optimization，CPSO）[15]、粒子群优化算法（Particle Swarm Optimization，PSO）[16]、混合田口遗传算法[Hybrid Taguchi-Genetic Algorithm，HTGA][8]等其他算法，说明算法具有很好的收敛速度、寻优精度和鲁棒性。

3.3 微地震信号目标分类

实验场地选择在秦始皇兵马俑博物馆内K9901号坑旁。所有传感器节点沿公路一侧直线部署，距离公路1m左右。可能产生地震波的活动物体包括人员行走、机动车和挖掘活动。将采集到的微地震信号进行滤波、分帧、特征提取等处理后输入至神经网络进行模式识别。

系统对传感器采集到的数据进行分帧，并使用功率谱二次分析[17]算法对其进行处理，最后将经过预处理的数据输入至神经网络对其进行分类。根据其活动特点，将输出目标分为三类：人员活动、挖掘活动以及机动车辆活动。传感器采集到的三类活动的经典波形如图5所示。

表6中给出了算法的最优计算结果，包括不同稀疏度条件下神经网络的隐藏层节点数量、最优适应度以及分类准确率等。可以看出，算法能够有效减少冗余的隐藏层节点数量，并降低节点连接数量。算法的稀疏度越高，其适应度越好，其分类的准确性越好，但稀疏度高带来的则是计算代价增大、计算复杂度增加。当稀疏度低于0.7时，算法的适应度变差，目标的识别率为90%，在实际应用过程中带来了误判率较高的问题，降低了实用性。因此在秦始皇帝陵博物院野外文物安防系统中使用了稀疏度为0.7的算法对模式识别的神经网络进行优化。

4 结语

本文提出了基于量子免疫克隆算法的神经网络优化算法，该算法在训练神经网络优化权值的同时删除了冗余连接和多余的隐层节点，实现了神经网络结构和网络权值的优化。通过经典非线性函数逼近和目标识别检验，算法能够有效地优化神经网络，提高神经网络的优化效率，减少计算复杂度。使用优化后的神经网络已经用于秦始皇帝陵博物院野外文物安防系统中。

参考文献：

[1] QIAO H， ZHOU Y，SHAO N， et al. Software reliability prediction based on learning vector quantization neutral network[J]. Journal of Computer Applications， 2012，32（05）：1436-1438.）（乔辉，周雁舟，邵楠，等.基于学习向量量化神经网络的软件可靠性预测[J].计算机应用，2012，32（5）：1436-1438.）

[2] PAN Y， DENG Y， ZHANG Q， et al. Deterministic prediction of wavelet neural network model and its application[J]. Journal of Computer Applications，2013， 33（4）：1001-1005.（潘玉民，邓永红，张全柱，等.小波神经网络模型的确定性预测及应用[J].计算机应用，2013，33（4）：1001-1005.）

[3] LEUNG H F，LAM H F， LING S F， et al. Tuning of the structure and parameters of neural network using an improved genetic algorithm[C]// Proceedings of the 27th Annual Conference of IEEE Industrial Electronics Society. Piscataway： IEEE，2001：25-30.

[4] LEUNG H F， LAM H F， LING S H， et al. Tuning of the structure and parameters of a neural network using an improved genetic algorithm[J]. IEEE Transactions on Neural Network，2003，14（1）：79-88.

[5] XIAO C， CAI Z， WANG Y， et al. Tuning of the structure and parameters of a neural network using a good points set evolutionary strategy[C]// Proceedings of the 9th International Conference for Young Computer Scientists. Piscataway： IEEE， 2008：1749-1754.

[6] SHU L， HO S Y， HO S J. Tuning the structure and parameters of a neural network using an orthogonal simulated annealing algorithm[C]// Proceedings of the 2009 Joint Conferences on Pervasive Computing. Piscataway： IEEE，2009：789-792.

[7] DU W， ZHOU R， ZHOU L， et al. Cooperative quantum differential evolution algorithm based method for optimizing neural networks[J].Journal of Tsinghua University： Science and Technology， 2012，52（3）：331-335.（杜文莉，周仁，赵亮，等. 基于量子差分进化算法的神经网络优化方法[J].清华大学学报：自然科学版，2012，52（3）：331-335.）

[8] TSAI J， CHOU J， LIU T. Tuning the structure and parameters of a neural network by using hybrid Taguchi-genetic algorithm[J]. IEEE Transactions on Neural Network， 2006，17（1）：69-80.

[9] LI Y， JIAO L. Quantum-inspired immune clonal algorithm and its application[C]// Proceedings of the 2007 International Symposium on Intelligent Signal Processing and Communication Systems. Piscataway： IEEE， 2007：670-673.

[10] JIAO L， LI Y， GONG M，et al. Quantum-inspired immune clonal algorithm for global optimization[J]. IEEE Transactions on Systems， Man and Cybernetics， Part B： Cybernetics， 2008，38（5）：1234-1253.

[11] ZHOU C， QIAN F. Improvement of quantum genetic algorithm and its application[J]. Journal of Computer Applications， 2008，28（2）：286-288.（周传华，钱峰.改进量子遗传算法及其应用[J].计算机应用， 2008，28（2）：286-288）

[12] ZHOU Q， JIANG S， ZHAO X， et al. Improved quantum genetic algorithm and its application in test data generation[J]. Journal of Computer Applications，2012，32（2）：557-560.（周绮，姜淑娟，赵雪峰，等.改进的量子遗传算法及其在测试数据生成中的应用[J].计算机应用，2012，32（2）：557-560.）

[13] QIAO J，LEE Y G， SCOTT D S， et al. Self-organizing radial basis function network for real-time approximation of continuous-time dynamical systems[J]. IEEE Transactions on Neural Networks，2008，19（3）：460-474.

[14] HAN H， QIAO J， BO Y， et al. On structure design for RBF neural network based on information strength[J]. Acta Automatica Sinica， 2012，38（7）：1083-1090.（韩红桂，乔俊飞，薄迎春，等.基于信息强度的RBF神经网络结构设计研究[J].自动化学报， 2012，38（7）：1083-1090.）

[15] ZHAO L. Fuzzy identification and neural networks learning based on cooperative PSO algorithm[D]. Shanghai： Shanghai Jiao Tong University，2008.（赵亮.基于协同PSO算法的模糊辨识与神经网络学习[D].上海：上海交通大学，2008.）

第4篇：神经网络的鲁棒性范文

关键词：电力系统；人工智能；模糊控制；神经网络

引言

伴随着社会的不断进步，用户对电能的要求也在不断提高:安全、可靠、优质、环保。电力系统在实际工作中也确实存在一些技术难题：首先，电力系统是一种复杂大系统，系统参数包含着诸多的不确定因素，并且具有很强的非线性；其次，电力系统应当具有较强的鲁棒性能，以克服系统中的扰动，而且系统对多目标寻优的控制方法要求也较高；最后，复杂系统是由多个子系统相互影响、关联组成，电力系统需要将多个局部的控制系统相互连接，综合控制。因此，这一系列尖端的技术难题需要应用更为先进的自动化控制技术即智能控制技术。

1智能控制技术

控制理论的不断发展，为人类带来了更加先进的自动化技术，使得人们设计的控制系统稳定、可靠、智能、高效。典型的智能控制技术包括：模糊控制、人工神经网络、专家系统、遗传算法等。

1.1模糊控制。模糊控制是基于模糊数学理论的一种控制方法。传统的控制理论能够解决模型明朗、确定的系统的控制问题。但当面对类似于电力系统的复杂、模型不确定、因素多的大系统传统的控制方法就无法高效地解决控制问题。为了克服上述问题，科研人员提出了用模糊数学的理论来解决一些复杂系统的控制问题。模糊控制是一种非线性的控制理论。它采用的是理论与实际相结合的方法解决实际的问题。一般模糊控制技术包含如下几个部分：定义变量、模糊化、知识库、逻辑判断及反模糊化。而其中的逻辑判断部分运用模糊逻辑、模糊推论方法进行分析，得到最优的模糊控制输出。

1.2人工神经网络。人工神经网络（ArtificialNeuralNetworks，简写为ANNs）也简称为神经网络（NNs），此类数学模型模仿动物神经网络的组成，进行分布式信息处理。通过调整系统内部的各个节点之间的联系，最终达到控制系统的目的。强鲁棒性、非线性特性、自组织自学习的能力和并行处理能力是人工神经网络基本特性，受到了人们的普遍关注。人工神经网络在工作前先对控制准则学习，减少系统工作过程中发生错误动作的概率。控制的准确性可以经过学习之后逐渐完善，提高系统正确动作的权值。

1.3专家系统。专家系统实际上是一个包含着某个专业领域内的大量人类专家知识的一种智能计算机程序系统。该系统通过程序模拟人类专家应用其丰富的知识经验进行分析、解决问题的过程，最终解决复杂的控制系统的问题。专家系统中的知识库是反映系统性能的主要部分，系统在解决问题时是通过模拟专家的思维来实现的。用户在使用过程中可以通过不断完善专家库来提高专家系统的性能。专家系统通过反复比对系统的输入信息，与专家系统中的知识库的规则进行匹配，最终找到能使数据库的内容与实际的目标的规则。在改善动态品质和提高远距离输电线路能力的问题上，卢强等人提出了利用最优励磁控制手段，研究成果指出：利用最优励磁控制方式，可以使大型机组取代古典励磁方式。

2智能控制技术在电力系统的应用

2.1模糊控制技术在继电保护领域的应用。电力系统中的继电保护装置具有这重要的意义，继电保护装置的可靠工作能使电力系统稳定、可靠、安全的运行。对继电保护装置的故障识别与诊断越来越严苛，电力系统中庞大复杂的故障现象，普通的识别系统无法准确及时地解决问题。因此，采用先进的人工智能技术进行电力系统的继电保护装置的故障识别与诊断的工作更加迫切。应用模糊控制技术监视电力系统中变压器的工作状态，根据变压器的参数的变化，结合已知的输入输出，利用模糊控制技术进行变压器的故障诊断。利用最小二乘法的原理将变压器的一些参数，例如电介质的损耗、泄漏电流、绝缘电阻、变压器的吸收比等参数作为模糊控制的输入。将这些输入参数通过一定的规则进行量化，作为模糊输入的矩阵，再将变压器的状态分为合格、不合格、故障等按照规则量化得到输出的模糊矩阵。参考其他一些实际经验中的数据作为扩展出来的输入输出矩阵，应用最小二乘法的迭代运算得到输入与输出的关系矩阵。应用得出的输入输出的关系矩阵就可以对一些变压器的试验信息进行分析，诊断。

2.2神经网络在电力系统故障诊断中的应用。在电力系统故障诊断的过程中，神经网络将系统的故障报警信息作为神经网络的输入量。神经网络的输出是电力系统故障诊断的结论。应先让神经网络进行学习，对其输入特定的故障报警，建立一个全面的故障报警样本库。通过样本库不断对神经网络系统进行训练，使得系统对不同的故障报警输入产生相应的权重，最终能够输出准确的故障诊断的结果。神经网络故障诊断技术不仅可以应用在电网的故障诊断方面，还可以用于电力设备的故障诊断、电力系统中的变压器的故障诊断等。神经网络的算法多种多样较为常用的有BP神经网络算法，迭代步长算法，以及变步长法等。在辐射型配电系统中采用BP神经网络，用ANN模拟各个地区不同电弧电阻下的故障情况，测量阻抗量应用BP神经网络判断电力系统出现的问题。该方法能够有效解决由于电弧引起的测量阻抗不准确，导致保护系统不能正常工作的问题。专家系统在电力变压器其的故障诊断的应用电力系统中已经有多个部分在控制过程中建立出了数学模型，但是依然存在一些复杂的、规律性不明显的系统无法抽象出具体的数学模型。这就需要专家系统解决相应的问题。专家控制系统在电力系统中多用于分辨系统的故障报警的状态，进行分析，提出故障的应急解决方案以及系统的恢复控制方案。专家系统中的知识库用于提供解决问题的知识，应用推理机使用该专家的知识库。知识库可以根据变压器的不同故障分为多个子系统，例如油位、负荷、温度等。推理机调用程序根据当前的状态，按照规定的规则调用系统的特定知识。推理机调用知识库中的数据时可以采用正向推理、反向推理、混合推理。经过反复的匹配直到找出故障的原因，故障原因可能是多个，将找出的多个原因组合为一个相互关联的矩阵。最终实现了经过专家系统做出的故障诊断分析。

3总结

人工智能技术是一项新颖先进的技术。在电力系统中应用人工智能技术是电力自动化发展的必然趋势。针对类似于电力系统的具有非线性、多参数、不确定因素多的复杂大系统，人工智能技术拥有更加优越的控制性能。模糊控制、神经网络、专家系统等控制理论已经渐渐的成熟，在生产生活的多个方面已经有了越来越多的应用。经过人工智能技术的不断完善，电力系统自动化的不断深入，人工智能对电力系统的控制会使电力系统运行更稳定、更经济，鲁棒性能更优越。

参考文献

[1]朱亮亮,王艳.基于人工智能的电力系统自动化控制[J].科技致富向导,2014,09:300.

[2]丘智蔚.基于人工智能的方法对智能电网进行安全改进[D].华南理工大学,2014.

[3]冯宗英.配电网状态估计及量测系统的鲁棒性配置研究[D].山东大学,2014.

第5篇：神经网络的鲁棒性范文

Abstract: This paper put forward the scheme of adaptive control performance based on recursive type of wavelet neural network. This algorithm reduces computation, simplifies the control structure, and can control the structural parameters of system as the operation change of servo drive system to improve the performance of servo drive system to the parameters, while also better to improve the steady state performance of the servo drive control system. The simulation results verify the effectiveness and feasibility of the control system plan.

关键词:感应电动机;伺服驱动系统;自适应控制;递归型小波神经网络

Key words: induction motor;servo drive system;adaptive control;recursive type of wavelet neural network

中图分类号:TM3 文献标识码:A文章编号:1006-4311(2010)28-0121-01

0引言

电动机的内部参数具有慢时变特性,驱动系统易受到外界扰动,尤其是直线电动机驱动系统,电动机转子与负载之间没有辅助的缓冲装置,外界的干扰影响大,所以在实际应用中,须采用具有较强鲁棒性的控制方法。针对参数变化特点及不确定的扰动性,为了保证系统的鲁棒特性,采用滑模的变结构控制在电力传动领域受到了广泛的应用。系统一旦进入滑模运动状态,对系统干扰和参数变化具有完全的自适应性及不敏感性。这种新兴技术具有广阔的应用场所,但切换控制作用产生的抖振问题还没有得到解决,这样必然会影响轨迹的跟踪精度,因而给实际应用带来一定问题。针对电动机模型参数变化和外界的扰动对控制系统的特点,在电机矢量控制的基础上,提出了基于递归型小波神经网络的自适应控制方法。

神经网络具有在任意精度的逼近复杂函数的能力和信息综合能力等诸多的优点,在很多领域得到了广泛的应用。神经网络本身就具有自适应和在线学习能力,在解决要求很高的非线性和不确定性问题方面就有巨大的潜力,所以在伺服驱动领域也受到了很大的关注。在信号处理和分析过程中,小波理论受到了各个领域的专家和学者广泛的关注研究。小波理论运用到神经网络,充分发挥各自的优点,进而构成了小波神经网络,这样必然会给神经网络带来新的生命力。神经网络根据结构可以分为两大类:前馈型网络和递归型神经网络。在感应电动机实际应用中遇到的各种扰动有:内部参数的扰动、外部负载的干扰与各种不确定的波动,运用递归型小波神经网络就表现出良好的控制性能。

1基于递归型小波神经网络的自适应控制系统

伺服糸统是一种用机械位置或角度作为控制对象的自动控制系统。交流伺服系统具有良好的性价比得到了广泛地应用,如需要精确定位的工业装备、生产线、木材加工、纺织和印刷等行业早已经成为交流伺服系统的主要应用领域。因此在感应电动机的转矩与磁链解耦的基础上提出了具有动态性能的神经网络自适应控制方案。本文就是在转矩与磁链控制的基础上,提出的采用神经网络自适应控制器的伺服驱动系统。

在没有扰动的情况下,运用以前的位置速度控制器,就可以得到满意效果,但是在实际应用中会遇到不同的扰动,这中传统的控制方案就不能得到满意的控制效果。为了解决这个问题,运用递归型小波神经网络控制代替位置速度控制。R为期望运行指令;θn为期望的位置;vn为速度轨迹。小波神经网络参数训练采用δ和BP算法的学习机制,能量函数定义如为:

e=r-yJ=e (1)

由于各种反向传播算法的影响,每层的权值调整律用下式来描述被反向传播的误差项

δ=-=-=- (2)

?驻w(N)=-?浊=-(?浊)()

=?浊?啄()(3)

则输出层权值调整迭代方程为

w(N+1)=w(N)+?驻w(N)(4)

2仿真结果

系统的参数可以通过输入与输出的数据,采用最小二乘法等系统辨识工具估计出来。为了说明控制方案的可行性,仿真模型参数的选取如下:Kt=0.5N•m/A

提出的递归型小波神经网络控制器作为异步电动机伺服驱动系统的位置速度控制器,为了说明其优越性,对整个伺服控制系统运用MATLAB做了仿真研究,同时给出了这种控制器与传统的PID控制器、前馈型的神经网络控制器仿真结果的比较分析。

设被控对象的近似数学模型为:

y(k)=,

所选的输入信号为一时变信号:

rin(k)=[0.4sin(2πt)+0.6sin(3πt)] /30

3结束语

在感应电动机矢量控制的基础上,针对感应电动机伺服驱动系统,提出了用递归型小波神经网络控制器代替传统的位置速度PID控制器,其集成了小波与动态神经网络的各自优点,神经网络的收敛速度大大提高:参数的在线学习机制采用delta自适应律并结合了BP算法和梯度下降法,学习算法简单,节省了大量的计算量;系统具有很强的自适应学习能力,当被控对象出现参数波动时,仍能保证跟踪精度,对系统外部的负载扰动具有很强的抑制能力。由该控制器组成的控制系统具有良好的鲁棒性、良好的稳定性、良好的动静态特性等,仿真结果验证了其有效性。这些优点对于内部参数变化、非线性耦合及外部扰动大的交流伺服驱动系统是一种有效的控制策略。提出的控制策略稍加改动很容易推广到其他的交流伺服驱动系统中。

参考文献:

第6篇：神经网络的鲁棒性范文

Abstract： The artificial neural network has a strong nonlinear mapping ability， has been applied to various fields such as pattern recognition， intelligent control， image processing and time series etc.， in this paper， the heuristic improvement of BP algorithm was proposed aimed at the deficiencies of BP algorithms， and a common type of improvement was introduced aimed at the main drawback of the genetic algorithm through analysis and research on genetic neural network model and its algorithm.

关键词： BP算法；神经网络；遗传算法；改进

Key words： BP algorithm；neural network；genetic algorithm；improvement

中图分类号：TP39 文献标识码：A 文章编号：1006-4311（2012）34-0209-02

1 BP神经网络

1.1 BP神经网络概述 在神经网络模式识别系统中，应用最广泛的要算是BP网络，它是基于误差反向传播算法的一种具有非线性连续转移函数的多层前馈网络。由于多层前馈网络的训练经常采用误差反向传播算法，人们常把多层前馈网络直接称为BP网络。

BP算法可以小结为以下三个步骤：

①通过网络输入反向传播：

a0=p

am+1=fm+1（Wm+1am+bm+1），m=0，1，…，M-1

a=aM

②通过网络将敏感性反向传播：

sm=Fm（nm）（Wm+1）Tsm+1，m=M-1，…，2，1

③使用近似均方误差的BP算法更新权值和偏置值：

Wm（k+1）=Wm（k）-αsm（am-1）T

bm（k+1）=bm（k）-αsm

1.2 BP神经网络存在的问题 尽管BP网络有很多显著的优点，但也存在着一定的局限性。其主要问题如下：

①随着训练样本维数的增大，使收敛速度缓慢，从而降低学习效率。

②从数学角度上看BP算法是一种梯度最速下降法，这就可能出现局部极小值的问题，而得不到全局最优。

③网络中隐节点个数的选取缺乏理论指导，尚无明确的定义。

由于BP神经网络存在局部性，因此利用BP网络进行模式识别时，所得网络模型的参数容易陷入局部极小，因此需要对BP神经网络容易陷入局部极小的缺陷进行改进。

2 遗传算法

2.1 遗传算法概述 遗传算法（Genetic Algorithm——GA）正是以达尔文的自然进化论与遗传变异理论为基础的求解复杂全局优化问题的仿生型算法。该算法摒弃了传统的搜索方式，模拟自然界生物进化的过程，采用人工进化的方式对目标函数空间进行随机导向优化搜索。遗传算法求解问题的基本思想是：从问题的解出发的，将问题的一些可行解进行编码，这些已编码的解即被当做种群中的个体，每个个体实际上是染色体带有特征的实体；个体对环境适应能力的评价函数就是问题的目标函数；模拟遗传学中的杂交、变异、复制来设计遗传算子，用优胜劣汰的自然选择法则来指导学习和确定搜索方向；对由个体组成的中却进行演化，利用遗传算子来产生具有更高平均适应值和更好个体的种群，经过若干代后，选出适应能力最好的个体，它就是问题的最优解或满意解[1]。

2.2 遗传算法的缺陷及改进 遗传算法作为一种通用性好、鲁棒性强的新型优化搜索算法，为求解很多困难的问题打开了局面，但是在实际应用中，存在着：①早熟问题；②局部搜索能力差；③控制参数难以确定缺陷。

针对上述问题，目前已经提出的一些改进方法，概括起来主要有如下几种类型：

①改进遗传算法的使用技术或者组成成分，如选用适合问题特性的编码技术、优化控制参数等。

②采用混合遗传算法，即融合一些优化方法来提高遗传算法运行效率。如将遗传算法和模拟退火算法、爬山法等方法结合的混合遗传算法。

③采用非标准的遗传操作算子，如记忆算子、顶端增强算子等。

④采用动态自适应技术，在遗传过程中自适应的调整控制参数和编码精度，在保持种群多样性的同时保证遗传算法的收敛。

⑤采用并行遗传算法。

3 BP算法与遗传算法的结合

BP神经网络的学习是基于梯度下降法的，由于该算法搜索速度缓慢以及对初始值的依赖，导致存在局部最小值问题。而遗传算法作为一种具有较强全局搜索能力的算法，其搜索能够遍及整个寻优空间，因此容易接近全局最优解；且遗传算法有很强的鲁棒性，不要求目标函数连续可微，甚至不要求目标函数具有显函数形式，只要求问题可以计算[2]。因此将擅长全局搜索的遗传算法和具有很强局部寻优能力的BP算法结合起来，可以避免局部极小值问题并提高收敛速度，很快获得全局最优解。本文利用改进的遗传算法对BP神经网络同时进行权值和阈值的同步学习优化，提高算法的收敛速度和收敛精度，构造了一个能够获得待求问题满意解的三层GA-BP神经网络。

3.1 GA-BP神经网络的模型 GA-BP神经网络的基本构造思想就是先通过遗传算法在解空间中搜索到一个较优的网络形式，再利用BP算法在这个较优的解空间内定位最优解或满意解[3]；具体地说就是先通过遗传算法对最佳的网络权值和阈值做快速的全局性搜索，当群体收敛至全局最优解附近区域时，以群体中的最优个体作为BP算法的初始点，利用BP算法进行进一步的局部搜索，同步学习网络的权值和阈值。当几代内遗传算法进化的目标函数不再减小或目标函数小于预设值时，表示两种算法需要进行切换。由于在实际应用中，求得的网络目标误差函数往往为人们预先设定的一个满意值，因此利用这种GA-BP顺序寻优的方法是切实可行的。

3.2 BP算法与GA-BP算法的仿真比较 利用传统的BP算法及本文提出的GA-BP算法分别对两种算法的时间收敛曲线进行对比研究，考虑故障诊断问题。应用样本训练后的节点连接权值，向网络输入待诊断的样本征兆参数，计算得出网络的实际输出值，根据输出值的大小，从而确定故障的类别。

BP算法与GA-BP算法的训练误差曲线如图1和图2所示。

GA-BP算法训练后的总误差为0.000417。通过两个实验时间训练曲线可以得出，基于GA-BP算法的神经网络能够有效地实现故障预测数据的训练，具有较快的学习速度及一定适用性。

4 总结

本文针对BP算法训练多层前馈网络模式识别系统的缺陷，提出了结合遗传算法的BP改进算法——GA-BP算法，并建立了对应的模式识别系统模型。然后利用该模型对实际的问题进行了模式分类训练和测试，测试结果表明GA-BP算法有效克服了网络训练时容易陷入局部极小值，导致网络训练失败的不足。

参考文献：

[1]杨南达，李世平.遗传算法研究[J].兵工自动化，2008，27（9）：60～62.

第7篇：神经网络的鲁棒性范文

【关键词】智能技术；电力系统自动化；应用

当前，常见的几种智能技术，在电力系统自动化控制中的引入运用，解决了传统方法难以解决的复杂系统的控制问题，从而有效提高电力系统自动化控制的适应性，降低控制系统的造价成本。

1.电力系统自动化的简述

为确保电力系统安全、平稳、经济运行，对电力系统的各个元件、局部、全系统，采用具有自动检测、决策和控制功能的装置，通过信号和数据传输的系统，就地或远距离进行自动监视、调节和控制等，从而达到合格的电能质量。在一般的情况下，电力自动化系统主要构成有调度自动化、变电站自动化和配电网自动化。

2.电力系统自动化中的智能技术

智能技术是具备学习、适应及组织功能的行为，能够对于问题产生合适求解问题的响应，解决传统鲁棒性控制和自适应控制无法解决出令人满意结果的，非线性、时变性和不确定性的控制问题。目前，智能技术尚处于发展阶段，但它已受到人们的普遍重视，广泛应用到电力系统各个领域中，并取得了一定的实效。

2.1专家系统的控制技术

专家系统在电力系统中的应用范围很广，它是一种基于知识的系统，用于智能协调、组织和决策，激励相应的基本级控制器完成控制规律的实现。主要针对各种非结构化问题，处理定性的、启发式或不确定的知识信息。如：电力系统恢复控制、故障点的隔离、调度员培训、处于警告或紧急状态的辨识、配电系统自动化等。以智能的方式求得受控系统尽可能地优化和实用化，并经过各种推理过程达到系统的任务目标。虽然取得到广泛应用，但存在如难以模仿电力专家的创造性等局限性。一般而言，专家控制系统应用比较大的原因还因为这种方法可适用范围广，而且能够为电力系统处于各种状态提出辨识，根据这种具体情况来给出警告或是提示，在这样的情况还能够进行控制和恢复。虽然专家系统得到一定的应用，但是还是存在一定的局限，这种局限包括对于创造性的难以模仿，而只是对于浅层知识的应用，缺乏很有效的深层的模仿和方针，对于复杂的模拟就难以适应。因此，在开发专家系统方面应注意专家系统的代价/效益分析方法问题，专家系统软件的有效性和试验问题，知识获取问题，专家系统与其他常规计算工具相结合等问题。

2.2模糊逻辑的控制技术

模糊方法是一种对系统宏观的控制，十分简单且易于掌握，为随机、非线性和不确定性系统的控制，提供了良好的途径。将人的操作经验用模糊关系来表示，通过模糊推理和决策方法，来对复杂过程对象进行有效控制。通常用“如果…，则…”的方式来表达在实际控制中的专家知识和经验，不依赖被控对象模型、鲁棒性较强的。模糊控制技术的应用非常广泛，与常规控制相比，模糊控制技术在提高模糊控制的控制品质，如：稳态误差、超调等问题，自身的学习能力还不完善，要求系统具有完备的知识，这对工业智能系统的设计是困难的。如模糊变结构控制，自适应或自组织模糊控制，自适应神经网络控制，神经网络变结构控制等。另一方面包含了各种智能控制方法之间的交叉结合，对电力系统这样一个复杂的大系统来讲，综合智能控制更有巨大的应用潜力。现在，在电力系统中研究得较多的有神经网络与专家系统的结合，专家系统与模糊控制的结合，神经网络与模糊控制的结合，神经网络、模糊控制与自适应控制的结合等方面。这些模糊方法的运用因其可使用范围广，目前已经在自动化控制中被广泛应用。

2.3神经网络的控制技术

神经网络是一种介于符号推理与数值计算之间，适合用作智能控制的数学工具。神经网络从m维空间到n维空间，复杂的非线性映射、学习能力为解决复杂的非线性系统控制问题，提供了有效的途径。在神经网络中，知识是通过学习例子分布存储，当个别处理单元损坏时，不会影响整个系统的正常工作，是对非线性系统具有最好的控制性能。目前，主要集中在神经网络模型、结构、学习算法的研究，硬件的实现等。

2.4线性最优控制技术

线性最优控制技术是现代控制重要组成部分。目前，在大型机组方面，直接用最优励磁控制手段代替古典励磁方式，不但提高了远距离输电线路输电能力，而且同时改善动态的品质。另外，在发电机制动电阻的最优时间控制方面，最优控制技术也获得了成功的应用。它是诸多现代控制技术中应用最多、最为成熟的一个分支。

2.5综合智能控制技术

综合智能控制重要的技术发展方向是智能集成化。一方面，可将多项智能技术相互结合于一体，不在单独运用，各取优势。如模糊技术和神经网络的结合，神经网络与模糊控制的结合，神经网络与专家系统的结合等，这些都在电力系统自动化控制中研究的较多，如可用神经网络与模糊逻辑良好结合的技术基础，去处理同一系统内的问题，神经网络处理非结构化信息，模糊系统处理结构化的知识等。另一方面，自动化控制智能技术与传统的自适应控制的结合，如：神经网络、模糊控制与自适应控制的结合等。目前，国内已有控制专家已着手发展研究，既能有效处理模糊知识又能有效学习的模糊与神经网络集成技术，这必将为电力系统智能控制的发展提供新的途径。

3.结束语

当前，像电力系统这样一类复杂的不确定性工业过程，对其有效控制，关键在于自动化控制智能技术应具有较强的知识处理能力，包含知识学习和利用，推理和决策等方面。在未来电力系统的发展进程中，随着计算机的广泛应用，控制技术的深入研究，自动化控制智能技术将朝着全面智能化的方向发展。从而实现智能性工作环境，减少人员的值守，甚至于无人值班。同时，也有效的促进与提高电力系统平稳、安全和经济的运行。

【参考文献】

第8篇：神经网络的鲁棒性范文

关键词：进化算法；人工智能；短期电力负荷预测；进化算法

中图分类号：TP181；TM727 文献标识码：A

0 引言

电力负荷预测是指利用电力历史负荷的特点和其它相关因素的影响，找寻电力负荷中自身存在的周期性的规律，并挖掘出出未来的发展趋势，由此预测出未来某特定时刻的负荷数据[1]。短期负荷预测是指预测未来一月、未来一周、未来一天，甚至于未来一天24小时中任意时刻的负荷值。准确的短期负荷预测是电力系统安全经济的调度、规划的保证，是电力系统稳定运行的前提，是社会正常生产和人民安定生活的保障。

随着全球不可再生资源的不断减少及环境污染的日益增加，将风能、太阳能等新能源发电系统形成的分布式能源接入传统电网中的新型电网――智能电网（smart grid）由此产生。智能电网将信息技术、通信技术、计算机技术以及各种输、配电硬件设施集成为一整体，通过先进的信息技术，实现配电网智能、弹性、自愈等功能[2]。

无论是国外还是国内，配电自动化都是智能电网的核心。配电自动化实际上是实现配电设备正常运行及事故状态下监测、保护、控制、用电和配电管理的现代化[3]。短期电力负荷预测则是实现配电管理、故障处理等问题的前提。因此为了达到精确地配电自动化，高精度的短期负荷预测必不可少。

1 问题的分析及解决

智能电网的“互动、自愈、安全、经济、清洁、节能、高效”等要求导致了短期电力负荷预测更为复杂[4]。不同的区域，不同的发电形式及用户端的引入都导致了电网运行环境的复杂性。环境一旦变化（比如事故，分布式电源的启停），智能电网的短期负荷预测模型必须能自适应这些变化，从而得到高逼近的预测值以辅助电网的调度、管理等操作，确保电力系统的正常运作。因此，智能电网环境下的短期电力负荷预测应具有高度自适应性和智能性的特点。

另外，智能电网中AMI虽然为负荷预测提供了所需的数据，但在庞大的数据集成时，有可能引入不良数据的干扰，并且复杂的通信网络（数据传输环节）也提高了数据的出错风险[5]。因而，智能电网的短期负荷预测中数据的预处理不可或缺。

针对智能电网短期电力负荷预测的异常数据较多、智能性较强和自适应要求较高的特点，本文通过下面三个途径进行实现：（1）采用自动的不良数据辨识方法，采用统计学的数学方法来剔除噪声数据；（2）通过算法的比较，对人工智能算法进行仿真比较，得到较优的短期电力负荷的支持向量机预测基本模型；（3）对比优化算法，采用进化算法完成人工智能模型的参数的寻优，形成算法的组合，提高模型的精度和自适应性。

2 数据处理

输入数据的处理为预测模型提供了干净、准确的数据，减少预测算法的处理量，提高预测效率和预测精度。本文按照以下步骤完成数据预处理：

步骤1：从数据库中读取短期电力负荷表；

步骤2：缺失值的处理。检查待识别日的负荷数据数值是否为空值，若为空值，则定义缺失值为：

（1）

其中 表示第 天时刻的负荷值， 为相应的权值，且 ，本文分别取 ；

步骤3：垂直方向异常数据识别。计算出8个同一季度、同一周期日型同一时刻点 的历史负荷的均值 和方差

：

（2）

（3）

然后计算出每天 时刻数据的偏离率：

（4）

最后确定偏离率大于阈值的点为异常点。

步骤4：垂直处理。相邻的周期类型一致的负荷数据的加权均值取代噪声数据：

（5）

步骤：5：水平方向异常数据识别。将一天96点数据依次排列，按式（6）求出第一个序列 ：

（6）

然后按式（7）求出新一组序列：

（7）

从而形成负荷的估计序列为：

（8）

接着计算 对 的偏离率 ：

（9）

最后确定偏离率大于阈值的点为异常点。

步骤6：水平处理。利用估计序列的负荷值代替异常数据：

（10）

步骤7：归一化处理，部分数据显示见表1；

步骤8：重建数据表，将处理后的负荷数据与其它所需输入属性放入其中；

步骤9：为保证训练数据的统一性，将数据表扩充，得到输入数据，以一组为例如表2。

3 人工智能预测算法

随着智能电网的研究，电力系统规模日益增大，电力系统变化也越来越复杂。人工智能方法以计算机技术为基础，具有很好的智能性。它不仅能够实现非线性曲线的高度拟合，而且可以体现出许多不确定因素的影响，这就保证了该方法对不确定变化的适应性[6]。目前应用最为广泛和成熟的方法是人工神经网络[7]（artificial neural network，ANN）和支持向量机[8]（support vector machine，SVM）。鉴于人工智能算法的特点，本文以人工智能算法建立预测的基础模型。

人工智能算法建立预测模型的过程类似于机器学习的过程。以训练样本为人工智能模型的输入，利用人工智能技术的学习算法实现模型参数的确定，由此得到人工智能预测模型，如图1所示。

采用人工智能进行短期负荷预测的算法为：

步骤1：确定训练样本集；

步骤2：设定预测算法的初始参数值；

步骤3：利用预测算法中的训练过程训练预测算法的模型参数；

步骤4：输入测试样本，得到预测输出值。

4 进化算法

人工智能算法初始参数采用固定值难以收敛到全局最小且易受人为因素影响，所以单一的人工智能方法高度自适应智能电网环境。

进化算法EA（evolutionary algorithms）与传统的优化算法相比，是高鲁棒性和广泛适用性的全局优化方法。算法具有自组织、自适应、自学习的特性，能够不受问题性质的限制，有效地处理传统优化算法难以解决的复杂问题。常见的进化算法有遗传算法[9]（GA）和粒子群算法[10]（PSO）。近年来云进化算法[11]（cloud based evolutionary algorithm，CBEA）称为进化算法中的热点。本文以这三种算法分别优化比较。图2为进化算法的算法流程。

采用进化算法进行参数优化的步骤为：

步骤1：确定进化算法的所需的初始参数值；

步骤2：随机的产生初始进化群；

步骤3：将初始进化个体代入待优化的模型中，采用交叉验证误差的方式评价进化个体的适应度；

步骤4：按照进化算法规则产生子代的进化群；

步骤5：最优进化个体代入模型得到最优模型；

步骤6：将测试样本输入代入最优模型，求出待测点输出；

步骤7： ；返回步骤1，滚动预测出 ；

步骤8：输出所有预测值。

5 模型的建立及仿真

智能电网的短期电力负荷预测模型首先由人工智能算法建立出基础的预测模型，以历史负荷和上一轮预测负荷与实际负荷的误差，求出初始预测负荷 ，然后以 与 的交叉验证误差的的函数作为进化算法的适应度，根据适应度的大小选择最优的模型参数 和 ，代入人工智能算法得出最优的预测模型，由此预测出未来负荷。该预测模型的结构框图见图3。

本文通过实验仿真LSSVR、BP神经网络和RBF神经网络的短期电力负荷预测模型，并对预测结果进行比较以选择出最适于智能电网的预测算法。其仿真结果如图4所示。

Fig.4 Prediction results based on 3 kinds algorithms of AI

比较图4，可以看出LSSVR比BP神经网络和RBF神经网络的预测曲线更贴近实际值。

本文将三种算法预测一个点的时间统计为表3，由此分辨模型的实时性。

由表3可知，由于LSSVR算法的参数较少，所以LSSVR的时效性远远高于BP神经网络和RBF神经网络。另外因为本文在BP神经网络中多加了一个隐含层，相对的隐层单元数也增加了，使得时效性最差。

接着本文将BP神经网络、RBF神经网络和LSSVR的预测结果进行统计，得到表4。通过表4评价模型的预测精度。

分析表4， LSSVR的预测结果的合格点百分比分别高于BP神经网络和RBF神经网络9.85%和19.13%，所以LSSVR对该系统进行负荷预测时，高度相符的数据最多，误差的平均值就最小；而LSSVR在MSE上则比BP神经网络和RBF神经网络分别低0.0769和0.1434，表明了预测误差波动较小，显示了预测模型LSSVR较高的精度；另外，从准确率上看，LSSVR比BP神经网络和RBF神经网络分别高7.69%和14.34%，同样说明了LSSVR预测的精度最高。综上，采用LSSVR进行短期负荷预测的效果最好。

接着以LSSVR为基础模型，采用CBEA、GA和PSO实现模型参数的优化，得到CBEA_LSSVR、GA_LSSVR和PSO_LSSVR组合预测模型。其预测结果图如图5所示。

观察图5表明CBEA_LSSVR的预测结果曲线比GA_LSSVR和PSO_LSSVR的预测结果曲线更能代表实际负荷曲线，预测效果最好。

观察表5，CBEA_LSSVR与PSO_LSSVR的预测时间相差无几，但是比GA_LSSVR的预测时间稍短，时效性稍高。这是因为CBEA_LSSVR的算法采用实数编码，并减少了遗传和变异的操作。

分析表6，CBEA_LSSVR预测模型的预测结果在合格点百分比、MSE和准确率三个方面比GA_LSSVR和PSO_LSSVR预测模型的预测结果分别提高了2.6%和4.89%、-0052和-0.01534、0.53%和0.54%，由此可知CBEA_LSSVR短期电力负荷预测模型比GA_LSSVR和PSO_LSSVR短期电力负荷预测模型的预测精度高。另外，多次实验发现CBEA_LSSVR预测曲线几乎没有变化，鲁棒性高。

6 总结

本文首先采用人工智能算法预测短期负荷，从精度和时效性两方面选择最优的基础模型；然后通过CBEA_LSSVR与GA_LSSVR及PSO_LSSVR预测模型进行对比，发现CBEA_LSSVR具有更快的收敛速度、更好的鲁棒性和更高的预测精度，是智能电网的短期电力负荷预测的首选。

参考文献：

[1] 牛东晓， 曹树华， 卢建昌， 等. 电力负荷预测技术及其应用[M]. 北京：中国电力出版社， 2009： 1-9.

[2] 余贻鑫， 栾文鹏. 智能电网[J]. 电网与清洁能源， 2009，25（1）： 7-11.

[3] 龚静. 配电网综合自动化技术[M]. 北京：机械工业出版社， 2008： 1-40.

[4] 张炜桀. 智能电网环境下的电力负荷预测[D]. 成都： 西南交通大大学， 2011.

[5] 王建军. 智能电网环境下的自适互动智能负荷预测研究[J]. 陕西电力， 2010，38（5）： 11-15.

[6] Thessalonike， Constantine D. Spyropoulos. Methods and Applications of Artificial Intelligence[C]. Greece， Ai， Hellenic Conference， 2002

[7] Niu Dongxiao， Xing Mian， Meng Ming. Research on ANN Power Load Forecasting Based on United Data Mining Technology[J]. Transactions of China Electrotechnical society， 2004， 19（9）： 62-68.

[8] Long Wen， Xu Songjin. Short-term Load Forecasting Based on LSSVM with Mutative Scale Chaos Optimization Parameters [J]. Water Resources and Power， 2011， 29（11）： 186-188， 76.

[9] 牛东晓， 刘达， 陈广娟， 等. 基于遗传优化的支持向量机小时负荷滚动预测[J]. 电工技术学报， 2007， 22（6）：148-153.

[10] Ning Lu， Jianzhong Zhou， Yaoyao He， et.al. Particle Swarm Optimization for Parameter Optimization of Support Vector Machine Model[C]. The Second International Conference on intelligent Computation Technology and Automation， 2009， 283-286.

[11] Gao Ying. An optimization algorithm based on cloud model[C]//2009 International Conference on Computational Intelligence and Security， IEEE computer society， 2009： 84-87.

基金项目：

安徽工业大学研究生创新研究基金（项目编号2011029）。

作者简介：

第9篇：神经网络的鲁棒性范文

关键词：变风量空调系统 智能控制

变风量空调系统亦称为VAV系统，它是通过改变送风量，从而与空调区负荷的变化相适应。其工作原理是当空调区负荷变化时，系统末端装置自动调节送入房间的送风量，确保室内温度保持在设计范围内，从而使得空气处理机组在低负荷时的送风量下降，空气处理机组的送风机转速也随之降低，达到节能的目的。空调系统是一个多输入多输出、非线性，不确定的系统，很难找到一个精确的数学模型。为了使变风量空调系统能够在随机复杂的自然环境中以最优、最节能状态运行，这就对变风量空调系统中的控制环节提出了较高要求。

一、模糊控制

模糊控制是以模糊集理论为基础的一种新兴控制手段，它是一种非线性控制，利用模糊集理论设计的，无需知道被控对象精确的数学模型。

变风量空调系统由冷热水机组、空气处理机组、风阀及风管、送（回）风机以及空调房间构成。

控制系统一般可以分为五部分：室内温度控制；室内正压控制；送风静压控制；送风温度控制；新风量控制。

这五部分相互独立又相互间有很强的耦合性。当某个房间的温度下降，该房间的末端装置的风阀就会关小，从而导致总风管内的送风静压升高，其他房间的送风量增加。此时这些房间末端装置的风阀就会关小以恒定各自的送风量。这又导致系统静压进一步升高。当静压达到一定程度时静压控制器就降低送风机的转速以减小风量，回风机风量也随之减小。系统静压又回到原来的水平，这样各末端装置的风阀又开始开大。由于系统的压力变化必将影响到新风量的变化，从而导致送风温度的变化。这时，系统处在一种频繁的调节当中。送进室内的风量也是忽大忽小。因此变风量系统对控制的要求比定风量系统要高，要建立一个合适那些工程控制的数学模型比较困难。目前VAV空调系统的控制方式基本上采用的是传统PID算法的DDC控制。然而，VAV空调系统是一个干扰大、高度非线性和不确定性的系统，这就使得依赖于精确模型基础的传统PID控制算法控制效果不够理想。近些年来，研究者提出了不同的控制策略和方法，较为常用的为PID控制和模糊控制组合成的控制器，组合方式分为如下两种。一种是串联结构。它利用模糊规则和模糊推理在线调整PID控制参数。此类控制器利用模糊逻辑推理得到修正量。此类控制器的空调系统的仿真结果表明，系统超调量比常规PID的大大减小，调节时间也缩短。另一种为并联结构。当偏差较小时，利用PID控制器；当偏差较大时，利用模糊控制器。这使系统具有较好的静态特性和动态特性。

二、神经元网络控制

神经网络是一个高度非线性动力系统，具有并行分布处理能力、高度鲁棒性和容错能力、分布存储及学习能力。其模型是以神经元的数学模型为基础来描述的。利用神经网络设计的具有自适应、自学习功能的单神经元控制器能够克服传统的PID调节器的参数在过程复杂且参数易变的空调系统中不容易实时在线调整的缺点，对提高空调系统的控制效果和鲁棒性有积极的意义。但是应用神经网络控制时需要大量的数据，数据的不足及其他客观原因的影响，实际的神经网络的学习速度较慢且系统的稳定性及学习算法也有待改进。

模糊控制善于直接表示知识，只接收结构化的语言规则信息。神经网络控制则学习数据隐含的知识，只接收数据样本信息。两者的结合取长补短，扩展了数据处理能力，既可处理结构化的语言规则信息，还能处理数据样本信息，便于更好地提高控制系统的智能性。在空调系统中输入输出变量多，这对神经网络的算法和总体结构影响不大。模糊控制结合神经网络控制能更好地解决非线性及耦合性问题，提高系统的动态性能。

三、小结

随着人们节能意识的增强和建筑节能工作力度的加大，对建筑对具有高能耗的空调系统节能控制提出了更高的要求。智能控制在中央空调系统的控制中表现出了很好的节能效果，具有广阔的发展前景，但是各种控制策略、控制算法都各有自己的优缺点。设计人员应该根据实际情况做出合理的选择，从而使中央空调系统既能满足人们的舒适性要求，也能够达到节能要求。

参考文献：

[1]黄翔等.空调工程[M].北京：机械工业出版社，2008.

[2]赵维.楼宇变风量空调系统的自适应模糊PID控制研究[J].重庆交通大学，2010.

[3]曹艳鹏，冀兆良.几种控制方式在空调系统运行节能中的应用[J].制冷 2010（29）.

[4]王金选.智能控制技术在智能建筑中的应用[D]. 华侨大学，2004.