前言:一篇好文章的诞生,需要你不断地搜集资料、整理思路,本站小编为你收集了丰富的人工神经网络的算法主题范文,仅供参考,欢迎阅读并收藏。
【关键词】BP神经网络;预测;误差
1.引言
许多金融学家和计量学家对发达国家成熟市场的波动性进行了广泛的研究,但是在对股市的预测上,由于人们在知识、能力、经验上存在着较大的差异,加之问题本身又具有很大的随机性和高度的非线性,即使是一些金融专家、炒股高手对出现的同一复杂行情进行分析,往往也会得出不同的结论。此外,传统方法还要事先知道各种参数,以及这些参数在什么情况下应作怎样的修正。这都给预测股市带来一定的困难。
基于以上股市预测的困难性,本文提出了人工神经网络的预测方法。随着计算机、人工智能尤其是专家系统的发展,人工神经网络技术逐渐成熟并开始应用于各个领域。人工神经网络(ANN,简称神经网络)作为一种由大量简单神经元广泛相互联接而成的非线性映射或自适应动力系统,恰好能有效解决股市预测处理中常见的困难,因此它很快在股市预测分析与处理领域得到了广泛的应用。
2.BP神经网络介绍
2.1 BP 网络算法的基本原理
2.1.1 标准的BP 网络算法的基本原理
BP(Back Propagation)网络是反向传播的多层前馈式网络,是目前使用最为广泛的一种人工神经网络。它的核心是BP算法,一种对于多基本子系统构成的大系统进行微商计算的严格而有效的方法,采用最小均方差学习方式。BP 神经网络的原理说到底就是给它一些输入变量,然后就有一个输出,输出值的情况与实际的情况进行比较,差多少,然后再进行网络的内部调整,属于有导师的学习规则,使得网络输出与实际逼近。
神经网络能学习和存贮大量的输入―输出模式映射关系,而无需事前揭示描述这种映射关系的数学方程。人工神经网络由非线性函数组成,而由一系列不同权重的线性过滤器组合而成:
2.1.2 BP网络算法的优化
由于常用的BP算法主要缺点为收敛速度慢,局部极值,难以确定隐含层和隐含层的个数,使得在实际应用中BP算法很难应用,因此,出现了许多改进算法。BP算法的改进主要有两种途径,一种是采用启发式学习方法;另一种则是采用更有效的优化算法,本文采用了动量法和学习率自适应调整的策略,从而提高了学习速度并增加了算法的可靠性。动量法降低了网络对于误差曲面局部极值的敏感性,有效地抑制了网络陷于局部极小。
2.2 BP神经网络的模型识别及步骤
模式通常指对事物的一种定量描述或结构描述,“识别”是指对客观事物按其物理特征进行分类。模式识别的基本原理就是从待识别对象和理想标本之间若干特征的相似性推断它们之间总体的相似性。BP神经网络模式识别过程分为训练阶段和模式分类阶段,分为初始化、数据与处理、网络训练以及模式分类四个步骤。以下利用实证分析来进行着四个步骤。
3.实例分析
下面以上证的某股600个交易日的股票价格收盘指数作为原始样本数据,对上述神经网络模型进行求解,预测20天的收盘价,与实际收盘价进行比较,并求出其误差:
式中,表示第日的实际收盘指数,表示第日的预测值,表示误差。主要按照如下几部分来处理:(1)准备600个数据的时间序列,进行归一化。BP神经网络中每个神经元的输出值由传递函数Sigmoid函数来计算,其输出值的范围是(0,1);(2)留出最后20个数据,作为预测检验使用;(3)绘制图像,包括实际值和预测值,能量函数;(4)分析实际和预测两曲线的趋势。
采用I-J-K学习模型,该模型是输入层I个神经元,隐层J 个神经元,输出层K个神经元。利用BP神经网络模型训练500次、800次、1000次的输出值和期望值以及能量函数(或者叫误差函数)E,结果见图1到图3。
通过上面的图示,可以看到用BP神经网络预测的效果比较明显,这说明该模型适用于短期预测吗,股市的波动在很多地区都是非常剧烈的,各种因素的综合作用也使得长期股指的变动具有极大的不确定性,使得预测变得很困难。而BP网络的算法原理和自学习的特点使其能够充分挖掘出隐含在样本数据中的规律性,实现从输入空间到输出空间的非线性映射,对样本数据进行精确的拟合。从而BP神经网络的方法对于股市上的一些很难看出规律的数据列的预测而言,无疑是一个比较精确的预测方法。
4.结论
本文介绍了股市的特点以及股市预测的困难性,提出了利用BP神经网络的方法来解决股市预测问题。文章介绍了BP神经网络算法的基本原理,BP神经网络算法的优化,BP神经网络模型识别及步骤,最后后以上海证券交易所每日股票价格收盘指数为分析对象,把原理应用于实际,利用BP神经网络对股票价格收盘指数进行了短期预测,并计算出预测值和实际值的误差。通过实验发现该模型收敛速度快,预测精度非常高,对预测短周期内股指波动具有较强的适用性。
参考文献
[1]高琴.人工神经网络在股市预测模型中的应用[J].微电子学与计算机,2007年第24卷第11期.
[2]周翠红,路迈西.线性回归与人工神经网络预测煤炭发热量[J].煤炭科学技术,第37卷第12期.
[3]尹庆双,奉莹.人工神经网络在第三产业就业分析中的应用[J].人口与经济,2009年第6期.
[4]邹文安,刘宝,姜波,杨春生.基于Excel 技术平台人工神经网络BP模型及应用[J].水文,第30卷第1期.
[5]康进,刘敬伟.非参数回归估计与人工神经网络方法的预测效果比较[J].统计与决策,2009年第23 期.
[6]杨本昭,田耕.基于人工神经网络的客户价值分类研究[J].科技管理研究,2007年第12期.
关键词: 人工神经网络BP算法改进BP算法倒立摆小车
1.引言
倒立摆系统是时变的、非线性、多变量和自然不稳定系统,在控制过程中,它能有效地反映可镇定性、鲁棒性、随动性和跟踪等许多控制中的关键问题,是检验各种控制理论的理想模型。人工神经网络BP算法,在多变量输入情况下具有精度高、实现快、算法简单、鲁棒性好等优点,从而满足了系统的要求[1]。
2.人工神经网络BP算法简介
人工神经网络(ANN)由于具有信息的分布存储、并行处理和自学习能力等优点,在信息处理、模式识别、智能控制等领域得到了越来越广泛的应用。近年来,已有多种ANN模型被提出研究,80%―90%的人工神经网络模型是采用BP网络或其改进形式,它是前向网络的核心部分,体现了网络最精华的部分[2]。标准的BP网络是根据Widrow―Hoff规则,采用梯度下降算法,主要由信息信号的正向传播和误差信号的反向传播两部分组成。
但BP网络存在需较长的训练时间、收敛于局部极小值等缺点,为此人们对BP算法进行了许多改进。改进主要有两类:一类采用启发式技术,如附加动量法、自适应学习率法;另一类是采用数字优化技术,如共轭梯度法、拟牛顿法、Levenberg―Marquardt(LM)法[3]。由于LM算法收敛速度最快,精度较高,且经过大量仿真实验分析比较,LM效果最好,故我们采用LM法对网络进行训练。
LM优化方法权重和阈值更新公式[4]为:
其中J为误差对权值微分的雅可比矩阵,e为误差向量,μ为一个标量。依赖于μ的幅值,该方法光滑地在两种极端情况之间变化,即牛顿法(当μ0)和著名的最陡下降法(当μ∞)。
3.神经网络控制器设计
3.1训练样本的选取
BP神经网络在未经任何训练的情况下,不能作为系统控制器使用。在实际仿真过程中,我们选择极点配置控制为BP网络的教师进行学习,经过试探训练,样本数为2000时结果较为合理,此时样本数据能够反映系统的基本特征,可以得到预期的仿真结果。极点配置-2+5i-2-5i-5+4i-5-4i;A=[0 1 0 0;0-0.0883167 0.629317 0;0 0 0 1;0-0.235655 27.8285 0];B=[0 0.883167 0 2.35655]’;C=[1 0 0 0;0 1 0 0;0 0 1 0;0 0 0 1];D=[0 0 0 0]’;p=[-2+5i-2-5i-5+4i-5-4i]; K=acker(A,B,p)。
3.2 BP网络结构
BP网络设计时,增加层数主要可以进一步降低误差,提高精度,但却使网络复杂化。而增加隐含层的神经元数也可提高误差精度,且训练效果更易观察和调整。为了使误差尽可能小,我们要合理选择初始权重和偏置,如果太大就容易陷入饱和区,导致停顿,一般应选为均匀分布的小数,介于(-1,1)。
根据需要,在网络初始化时,BP采用0.5*Rands函数初始化权值,权值初始值选在(-0.5,0.5),选取训练目标误差为0.0001,训练次数上限为5000次。通过多次仿真实验性能比较,选取[4 9 1]的单隐层神经网络结构,隐含层、输出层分别采用Tansig、Purelin函数,仿真实验表明变学习率训练算法训练时间长,5000次还不能达到所要求的精度,且系统容易发散,控制倒立摆效果不好,采用改进的LM训练算法对网络进行学习训练可以得到较好的控制效果且训练时间短。在实际仿真过程中,BP网络经过53次训练即达到了训练目标。
4.BP网络训练结果
图1分别给出了倒立摆小车位移、摆角和控制力的BP算法与极点配置算法仿真曲线对比图,仿真结果表明:相较极点配置,BP算法精度高、实现快、鲁棒性好,倒立摆小车在BP算法下只需2.5s左右就可以达到所设定精度的稳定效果,且超调量很小,满足了系统的要求。
5.结论
通过对人工神经网络BP算法的分析,笔者进行了倒立摆小车改进BP算法的控制系统仿真实验。仿真表明该改进BP算法收敛性好、计算量小,尤其在非线性和鲁棒控制等领域具有良好的应用前景。BP神经网络从理论上可以逼近任意非线性函数,所以它特别适合控制像倒立摆这样的严重非线性、多变量系统。
参考文献:
[1]于秀芬,段海滨,龚华军.基于人工神经网络BP算法的倒立摆控制研究[J].测控技术,2003,22(3):41-44.
[2]张志华,朱章森,李儒兵.几种修正的自适应神经网络学习算法及其应用[J].地球科学,1998,23(2):179-182.
[3]苏高利,邓芳萍.论基于Matlab语言的BP神经网络的改进算法[J].科技通报,2003,19(2):130-135.
关键词:BP算法;神经网络;工业品出厂价格指数
中图分类号:TP183 文献标识码:A文章编号:1006-4311(2012)08-0112-02
0引言
工业品出厂价格指数(PPI)是衡量工业企业产品出厂价格变动趋势和变动程度的指数,是反映某一时期生产领域价格变动情况的重要经济指标,也是制定有关经济政策和国民经济核算的重要依据。
工业品出厂价格指数的调查范围是工业企业出售给本企业以外所有单位的各种生产资料和直接出售给居民用于生活消费的各种生活资料。其中,生产资料包括原材料工业、采掘工业和加工工业3类;生活资料包括一般日用品、食品、衣着和耐用消费品4类。在PPI的结构中,生产资料所占的权重较大,超过了70%;生活资料所占的权重只有不到30%。因此PPI在很大程度上反映的是工业企业生产成本的高低。目前我国PPI覆盖了全部39个工业行业大类,涉及186个种类,4000多种产品。
我国现行的工业品价格指数是采用算术平均法编制的。其中除包括工业企业售给商业、外贸、物资部门的产品外,还包括售给工业和其他部门的生产资料以及直接售给居民的生活消费品。通过工业生产价格指数能观察出厂价格变动对工业总产值的影响。工业品出厂价格指数的计算公式为:工业品出厂价格指数=工业总产值总指数/工业总产量总指数×100%。我国目前编制的工业品出厂价格指数的4种分组:①轻、重工业分组;②生产资料和生活资料分组;③工业部门分组;④工业行业分组。权数计算资料来源于工业经济普查数据。工业品出厂价格指数的权数确定,采用分摊权数。
在市场经济活动中,资源配置是通过价格涨跌引导市场主体的经济活动来完成的。因此,价格的波动对经济运行会有很大的影响,价格总水平的波动也是一个重要的宏观经济现象。通常认为PPI反映的是工业品进入流通领域的最初价格,是制定工业品批发价格和零售价格的基础,而CPI反映的是居民购买消费品的价格。
为抑制通货膨胀,中央银行需要准确把握通货膨胀的先行指标,从而正确把握经济和物价的未来走势并进行前瞻性调控。根据价格传导规律,PPI对CPI有一定的影响。研究表明PPI引导了CPI变动,其原因是生产资料价格指数、生活资料价格指数和原材料、燃料和动力价格指数都引导了CPI变动,PPI可以作为我国通货膨胀的先行指标,政府和学者可以利用PPI预测通货膨胀[1-2]。PPI是一个非常复杂的、受诸多因素影响的非线性系统。如果采用传统的计量经济模型无法很好地提高预测精度。
目前对PPI预测的研究较少,鉴于PPI的时间序列是是非线性的,为了准确和客观地预测PPI,采用人工神经网络预测方法。人工神经网络是目前一种有效的预测方法,大量的仿真实验和理论研究已经证明BP算法是一种有效的神经网络学习算法,它具有很强的处理非线性问题的能力,近年来已经广泛应用到经济领域中。但在实际应用中,BP算法也暴露出一些自身的缺点,如算法容易陷入局部极值点,收敛速度慢等,这使得BP算法只能解决小规模的问题,求得全局最优的可能性较小,这样限制了BP算法在实际中的应用。因此应用改进BP算法的人工神经网络模型预测PPI。
1PPI预测模型的建立
人工神经网络是理论化的人脑神经网络的数学模型,是基于模仿大脑神经网络结构和功能而建立的一种信息处理系统。其信息的处理是通过学习动态修改各神经元之间的连接权值阈值来实现的。根据某一学习规则,通过修改神经元之间的连接权值和阈值,存储到神经网络模型中,建立输入层神经元与输出层神经元之间的高度非线性映射关系,并通过学习后的神经网络来识别新的模式或回忆过去的记忆。在各种神经网络模型中,80%-90%的模型采用误差反向传播神经网络(简称BP神经网络)或它的变化形式。BP神经网络是前馈网络的核心部分,体现了人工神经网络最精华的部分。1989年Robert Hecht-Nielson证明了对于任何的连续函数映射关系都可以用含有一个隐含层的BP神经网络来逼近。
BP神经网络具有非局域性、非线性、非定常性和非凸性,在信息处理方面具有如下显著特点:BP神经网络具有自适应和自组织能力,通过与外界环境的相互作用,从外界环境中获取知识,把环境的统计规律反映到自身结构上来,并能有机地融合多种信息。当外界环境发生变化时,只需输入新的资料让模型再学习即可很快跟踪环境的变化,可操作性强。BP神经网络模型的建立不需要有关体系的先验知识,主要依赖于资料,只需给网络若干训练实例,BP神经网络就可以通过自学习来完成,完全能够发现其隐含的信息,并有所创新。BP神经网络作为一个高度的非线性动态处理系统,具有很强的容错功能。由于神经元之间的高维、高密度的并行计算结构,神经网络具有很强的集体计算能力,完全可以进行高维数据的实时处理,同时也可以进行分布式联想存储。
工业品出厂价格指数(PPI)数据来源于《中国统计年鉴(2009年)》,PPI数据时间范围为1990年-2008年。在实际应用中,由于所采集的数据跨度较大,为提高训练速度和灵敏性以及有效避开Sigmoid函数的饱和区,一般要求输入数据的值在0-l之间。再有,为保证建立的模型具有一定的外推能力,最好使数据预处理后的值在0.2-0.8之间,把0-0.2和0.8-1.0的空间预留。下面是数据预处理和反预处理算法:①数据预处理法:y=(0.8-0.2)*(x-min(x))/ (max(x)-min(x))+0.2。②反预处理算法:x=(y-0.2)*(max(x)-min(x))/(0.8-0.2)+min(x)。其中:x是工业品出厂价格指数原始数据;y是预处理后的工业品出厂价格指数数据;max(x)和min(x)分别是工业品出厂价格指数原始数据取值范围的最大值与最小值。
我国历年PPI数据按顺序构成一组时间序列,利用时间序列分析方法对我国历年PPI数据时序进行检验识别,可知PPI数据服从4阶自回归模型AR(4),由此模型输入层单元数为4个,输出层单元数为1个。
适当的隐层数目及节点数决定于多种因素。如训练样本的多少、样本噪音的大小以及所面对问题的复杂程度。隐层在BP神经网络中起着很重要的作用,它具有高度的抽象功能,并可从输入单元中提取特征。隐层层数的选择与问题的复杂性有关,为了确保训练后人工神经网络模型的泛化能力和预测能力,应在满足精度要求的前提下取尽可能紧凑的网络结构。一个三层人工神经网络模型就可解决一般函数的拟合、逼近问题。因此三层人工神经网络能满足预报要求。由于BP网络在确定隐层单元数的问题上还没有成熟的理论可依,大都根据经验来定。目前比较有效的方法就是试错法。本文分别组建了隐层节点数从1-35的BP网络,为了防止出现过拟合现象,经过大量试算,最后根据试报效果,确定了较为理想的隐层单元数是6。
传统BP网络的学习算法实质上是一种简单的最速下降静态寻优算法,通常具有收敛速度慢、易陷入局部极小值和网络推广能力不强等方面的缺陷。本文采用MATI AB神经网络工具箱提供的改进快速学习算法,有效克服了传统BP网络学习算法的缺陷。Trainlm训练函数采用Levenberg-Marquardt优化方法,该训练函数的效率优于最速下降静态寻优算法。
2结果
利用1990年-2003年的我国PPI数据作为训练样本,采用改进BP算法的Trainlm训练函数进行训练构建的神经网络,然后采用2004年-2008年的PPI数据作为检验样本,利用训练好的BP网络对2004年-2008年的PPI进行预测,结果见表1。仿真实验表明我国PPI训练样本模拟值和实际值的平均相对误差为0.82%,模拟值和实际值的相关系数为0.994778;我国PPI检验样本预测值和实际值的平均相对误差为0.80%,预测值和实际值的相关系数为0.915313;2007年PPI预测值为102.6,PPI实际值为103.1,预测值和实际值的相对误差为-0.48%;2008年PPI的预测值为107.4,PPI实际值为106.9,预测值和实际值的相对误差仅为0.47%,这都与实际情况相近,结果较为满意。并对2011年和2012年的我国PPI做了预测,PPI预测值分别为107.3和107.6。
3结论
人工神经网络模型能够很好地捕捉我国PPI内在的规律性,无需设计任何数学模型,通过神经元之间的相互作用来完成整个人工神经网络的信息处理,并能得到很好的预测精度。
将人工神经网络模型应用于我国PPI预测,PPI预测值和实际值的平均相对误差为0.80%,预测误差小,PPI检验样本预测值与实际值的线性相关系数为0.915313,预测精度高,模型预测值和实际值能较好的吻合。
参考文献:
[1]孙红英,刘向荣,解玲丽.基于传导模型的2010年价格指数预测[J].辽宁工程技术大学学报(自然科学版),2010,5:941-944.
【关键词】自适应距离保护 人工神经网络 BP算法
一、引言
距离保护长期以来一直是复杂电网中高压输电线路最重要的也是应用最广泛的保护方案。这种保护有许多独特的优点,如能瞬时切除输电线80%~90%范围内的各种故障。但是有许多原因会影响阻抗的测量精度,从而影响测量阻抗的计算,使测量阻抗为短路阻抗与附加阻抗之和,从而会引起误动或者拒动。
基于这些问题,本文提出了人工神经网络。近年来,人工神经网络(ANN)逐渐得到电力系统研究人员的高度重视和广泛研究。人工神经网络是由众多的神经元广泛互联而成的网络。人工神经网络以其具有自学习、自适应、较好的容错性和优良的非线性逼近能力,广泛应用于模式识别和模式分类等方面。
本文所采用的三层前向神经网络的学习算法为反传学习算法,即BP算法,学习过程采用反向传播法。
二、基于人工神经网络的距离保护模型
BP网络模型也即多层前向网络(Multi-layer Feedforward Neural Network,MFNN),因其训练算法采用反向传播算法,也即BP算法。由于这种算法在本质上是一种神经网络学习的数学模型,所以,BP算法也通常暗示着神经网络的拓扑结构是一种无反馈的多层前向网络。
人工神经网络是由大量简单的基本元件——神经元相互连接而成的自适应非线性动态系统。一般而言,只要采用三层神经网络,而且对各层神经元数目不加限制,则可在模式空间构成任意复杂程度的几何图形,从而对任意复杂的对象进行分类。
人工神经网络含有输入层、输出层以及处于输入输出层之间的中间层。中间层有单层或多层,由于他们与外界没有直接联系,故也称为隐层。在隐层中的神经元也称隐单元。隐层虽然和外界不连接,但是他们的状态则影响输入输出之间的关系。BP网络的结构的每一层连接权值都可以通过学习来调节,它的基本处理单元(输入层)除外通常为非线性输入输出关系。
三、神经网络的训练及检验
本文通过EMTP仿真的数据预处理中得出了这两个子网络的权值和阀值矩阵中,用一些不同于训练样本的检测样本(本文在故障检测与选相子网络是用40组进行训练,13组进行检测的;对故障定位子网络是用35组进行训练,14组进行校验的)。每一个子网络的隐含层节点的数目,是在训练过程中根据最快的收敛速度和最好的精度标准通过多次采用不同的隐含层节点数目进行训练,反复比较,根据实际的收敛效果和计算精度来选择确定的。其中,故障检测与选相子网络(ANN1)的隐含层数目取为42个,故障定位子网络(ANN2)的隐含层数目取为33个。
在确定了两个子网络的隐含层以后,开始对故障检测和选相子网络(ANN1)和故障定位子网络(ANN2)采用BP算法进行训练。经过对子网络的多次训练,其训练过程是收敛的,其训练速度也是令人满意。
下面将2个子网络的部分训练样本、检验样本及检验结果。
在对第一个、第二个子网络故障检测与选相子网络其训练过程过程是收敛的,其训练速度也是令人满意的。
下面是子网络ANN1的训练样本和训练样本及检测样本。故障类型有:内部故障,A相接地、内部故障,B相接地、内部故障,C相接地、内部故障,两相短路、内部故障,两相接地短路、内部故障,三相短路。理想输出:1,0,0,0;0,1,0,0;0,0,1,0;0,0,0,1;0,0,0,1;0,0,0,1。检验结果:
0.9985,0.0378,0.0838,0.0230;0.0315,0.9988,0.0607,0.0121;0.1004,0.1718,0.9980,0.2715;0.2815,0.0499,0.0614,0.9864;0.2496,0.3688,0.0370,0.9798;0.0197,0.0551,0.0187,0.9981。
从上面可以清楚的看出,故障检测和选相子网络在各种故障情况下都能正确反映故障,并启动保护和正确选相。
在第二个子网络训练过程也是表明故障定位子网络ANN2也是收敛的,其训练速度也是令人满意的。
下面是故障定位子网络ANN2的训练样本和检验样本及结果举例。当故障点线路全长线路全长83%,故障类型分别为单相接地、两相故障、三相故障时,其理想输出为1、1、1;当故障点线路全长线路全长87%,其理想输出为0、0、0。检测结果:当故障点线路全长线路全长83%,输出:0.9867、0.9827、0.9572。当故障点线路全长线路全长87%,输出:0.1758、0.1820、0.1602。
从上面数据可以看到,故障定位子网络距离保护经过训练以后,基本能够正确的识别故障点位置。
四、结论
本论文针对传统距离保护在系统发生振荡和系统经过过渡电阻发生故障时,可能会误动或拒动等,因此,提出了基于BP人工神经网络自适应距离保护原理由两个相互独立的子网络来实现,即故障检测与选相子网络和故障定位子网络。两个子网络组成一个并行处理系统,经过大量的训练样本进行训练,投入实际运行线路中,根据本身需要提取输电线路的运行参数,对电力系统运行状态进行判断。研究结果表明,用人工神经网络实现最复杂的保护原理——距离保护是可行的,而且具有显著的优点。
参考文献:
[1]贺家李,宋从矩.电力系统继电保护原理(第三版)[M].北京:中国电力出版社,2001.
关键词人工神经网络;发展;应用
中图分类号:TP183 文献标识码:A 文章编号:1671-7597(2014)12-0003-01
随着科学技术的发展,各个行业和领域都在进行人工智能化的研究工作,已经成为专家学者研究的热点。人工神经网络就是在人工智能基础上发展而来的重要分支,对人工智能的发展具有重要的促进作用。人工神经网络从形成之初发展至今,经历了不同的发展阶段,并且在经济、生物、医学等领域得到了广泛的应用,解决了许多技术上的难题。
1人工神经网络概述
关于人工神经网络,到目前为止还没有一个得到广泛认可的统一定义,综合各专家学者的观点可以将人工神经网络简单的概括为是模仿人脑的结构和功能的计算机信息处理系统[1]。人工神经网络具有自身的发展特性,其具有很强的并行结构以及并行处理的能力,在实时和动态控制时能够起到很好的作用;人工神经网络具有非线性映射的特性,对处理非线性控制的问题时能给予一定的帮助;人工神经网络可以通过训练掌握数据归纳和处理的能力,因此在数学模型等难以处理时对问题进行解决;人工神经网络的适应性和集成性很强,能够适应不同规模的信息处理和大规模集成数据的处理与控制;人工神经网络不但在软件技术上比较成熟,而且近年来在硬件方面也得到了较大发展,提高了人工神经网络系统的信息处理能力。
2人工神经网络的发展历程
2.1 萌芽时期
在20世纪40年代,生物学家McCulloch与数学家Pitts共同发表文章,第一次提出了关于神经元的模型M-P模型,这一理论的提出为神经网络模型的研究和开发奠定了基础,在此基础上人工神经网络研究逐渐展开。1951年,心理学家Hebb提出了关于连接权数值强化的法则,为神经网络的学习功能开发进行了铺垫。之后生物学家Eccles通过实验证实了突触的真实分流,为神经网络研究突触的模拟功能提供了真实的模型基础以及生物学的依据[2]。随后,出现了能够模拟行为以及条件反射的处理机和自适应线性网络模型,提高了人工神经网络的速度和精准度。这一系列研究成果的出现为人工神经网络的形成和发展提供了可能。
2.2 低谷时期
在人工神经网络形成的初期,人们只是热衷于对它的研究,却对其自身的局限进行了忽视。Minskyh和Papert通过多年对神经网络的研究,在1969年对之前所取得的研究成果提出了质疑,认为当前研究出的神经网络只合适处理比较简单的线性问题,对于非线性问题以及多层网络问题却无法解决。由于他们的质疑,使神经网络的发展进入了低谷时期,但是在这一时期,专家和学者也并没有停止对神经网络的研究,针对他们的质疑也得出一些相应的研究成果。
2.3 复兴时期
美国的物理学家Hopfield在1982年提出了新的神经网络模型,并通过实验证明在满足一定的条件时,神经网络是能够达到稳定的状态的。通过他的研究和带动,众多专家学者又重新开始了对人工神经网络方面的研究,推动了神经网络的再一次发展[3]。经过专家学者的不断努力,提出了各种不同的人工神经网络的模型,神经网络理论研究不断深化,新的理论和方法层出不穷,使神经网络的研究和应用进入了一个崭新的时期。
2.4 稳步发展时期
随着人工神经网络研究在世界范围内的再次兴起,我国也迎来了相关理论研究的热潮,在人工神经网络和计算机技术方面取得了突破性的进展。到20世纪90年代时,国内对于神经网络领域的研究得到了进一步的完善和发展,而且能够利用神经网络对非线性的系统控制问题进行解决,研究成果显著。随着各类人工神经网络的相关刊物的创建和相关学术会议的召开,我国人工神经网络的研究和应用条件逐步改善,得到了国际的关注。
随着人工神经网络的稳步发展,逐渐建立了光学神经网络系统,利用光学的强大功能,提高了人工神经网络的学习能力和自适应能力。对非线性动态系统的控制问题,采取有效措施,提高超平面的光滑性,对其精度进行改进。之后有专家提出了关于人工神经网络的抽取算法,虽然保证了精度,但也加大了消耗,在一定程度上降低了神经网络的效率,因此在此基础上又提出了改进算法FERNN。混沌神经网络的发展也得到了相应的进步,提高了神经网络的泛化能力。
3人工神经网络的应用
3.1 在信息领域中的应用
人工神经网络在信息领域中的应用主要体现在信息处理和模式识别两个方面。由于科技的发展,当代信息处理工作越来越复杂,利用人工神经网络系统可以对人的思维进行模仿甚至是替代,面对问题自动诊断和解决,能够轻松解决许多传统方法无法解决的问题,在军事信息处理中的应用极为广泛[4]。模式识别是对事物表象的各种信息进行整理和分析,对事物进行辨别和解释的一个过程,这样对信息进行处理的过程与人类大脑的思维方式很相像。模式识别的方法可以分为两种,一种是统计模式识别,还有一种是结构模式识别,在语音识别和指纹识别等方面得到了广泛的应用。
3.2 在医学领域的应用
人工神经网络对于非线性问题处理十分有效,而人体的构成和疾病形成的原因十分复杂,具有不可预测性,在生物信号的表现形式和变化规律上也很难掌握,信息检测和分析等诸多方面都存在着复杂的非线性联系,所以应用人工神经网络决解这些非线性问题具有特殊意义[5]。目前,在医学领域中的应用涉及到理论和临床的各个方面,最主要的是生物信号的检测和自动分析以及专家系统等方面的应用。
3.3 在经济领域中的应用
经济领域中的商品价格、供需关系、风险系数等方面的信息构成也十分复杂且变幻莫测,人工神经网络可以对不完整的信息以及模糊不确定的信息进行简单明了的处理,与传统的经济统计方法相比具有其无法比拟的优势,数据分析的稳定性和可靠性更强。
3.4 在其他领域的应用
人工神经网络在控制领域、交通领域、心理学领域等方面都有很广泛的应用,能够对高难度的非线性问题进行处理,对交通运输方面进行集成式的管理,以其高适应性和优秀的模拟性能解决了许多传统方法无法解决的问题,促进了各个领域的快速发展。
4总结
随着科技的发展,人工智能系统将进入更加高级的发展阶段,人工神经网络也将得到更快的发展和更加广泛的应用。人工神经网络也许无法完全对人脑进行取代,但是其特有的非线性信息处理能力解决了许多人工无法解决的问题,在智能系统的各个领域中得到成功应用,今后的发展趋势将向着更加智能和集成的方向发展。
参考文献
[1]徐用懋,冯恩波.人工神经网络的发展及其在控制中的应用[J].化工进展,1993(5):8-12,20.
[2]汤素丽,罗宇锋.人工神经网络技术的发展与应用[J].电脑开发与应用,2009(10):59-61.
[3]李会玲,柴秋燕.人工神经网络与神经网络控制的发展及展望[J].邢台职业技术学院学报,2009(5):44-46.
e.高曼等著
人工神经网络(anns)作为强大的计算工具,应用于分类、模式识别、函数逼近和生物神经网络建模等领域。人工神经网络具有从实例中学习的程序,它们可以解决那些还不知道算法解的难题。但是,人工神经网络的缺点之一就是它学习的知识是通过一种非常不透明的形式来表示,这就是人工网络的“黑箱”特性。在本专著中,作者介绍了一种新型的模糊规制库(frb),称为模糊全排列规制库(farb)。作者证明了模糊全排列规制库和人工神经网络具有等价性,这种等价性把符号范式模糊规制库和亚符号范式人工神经网络的优点融为一体。基于这一点,作者使用模糊全排列规制库设计了一种新的基于知识的神经计算方法。
本书共7章。1. 引言,介绍了人工神经网络(anns)、模糊规制库(frbs)、人工神经网络与模糊规制库的协同、基于知识的神经计算、模糊全排列规制库;2. 模糊全排列规制库,引入定义、输入输出映射;3. 模糊全排列规制库和人工神经网络的等价性,介绍模糊全排列规制库和前馈的人工神经网络、模糊全排列规制库和一阶递归神经网络(rnns)、模糊全排列规制库和二阶递归神经网络、总结;4. 规制简化,介绍灵敏度分析、一种简化模糊全排列规制库的方法;5. 采用模糊全排列规制库的知识提取,主要包括艾里斯分类问题、发光二极管显示屏识别问题、l4语言识别问题;6. 人工神经网络基于知识的设计,包括直接法、模块法;7. 结论和后续工作,后续工作包括规则化的网络训练、在训练过程中进行知识提取、从支持向量机中做知识提取、从网络训练中做知识提取。
本书简明扼要,内容新颖,适合模糊集、粗糙集、神经网络、演化式计算、概率和论据推理、多值逻辑等相关领域研究生和研究人员参考学习。
陈涛,硕士
摘要:本文在用人工神经网络BP模型对流域年均含沙量进行多因素建模过程中,对BP算法进行了改进。在学习速率η的选取上引进了一维搜索法,解决了人工输入η时,若η值过小,收敛速度太慢,η值过大,又会使误差函数值振荡,导致算法不收敛的问题。建模实践表明,改进后的BP算法可能使网络误差函数达到局部极小点,提高了算法的拟合精度。
关键词:BP算法 学习速率 年均含沙量 一维搜索法
我国河流众多,自然资源十分丰富,但江河流域水土流失非常严重,给国家的可持续发展以及生态环境带来较大的危害。对于流域产沙的定量研究,一般采用单因子线性回归方法。这类方法虽然也能反映出某种统计特性,但不能刻画自然界复杂的非线性特性。人工神经网络BP网络模型是复杂非线性映射的新方法。在引入这一新的定量研究方法对流域年均含沙量进行建模预测时发现:算法中学习速率η值的选取对算法成败起着关键作用,若η值过小,收敛速度太慢,而η值过大,又会使误差函数值不下降,导致算法不收敛。本文正是针对这一问题进行了探讨。
1 BP网络模型及学习率η固定的弊端
人工神经网络理论是80年代中后期迅速发展起来的一门前沿科学,其应用已渗透到各个领域[1]。BP(Back Propagation)神经网络模型是人工神经网络理论的重要模型之一,应用尤为广泛。尽管BP网络模型发展逐步成熟,但仍然存在许多问题,在理论上需要完善[2]。BP算法主要包括两个过程,一是由学习样本、网络权值ω从输入层隐含层输出层逐次算出各层节点的输出;二是反过来由计算输出与实际输出偏差构出的误差函数E(ω),用梯度下降法调节网络权值,即ωk+1=ωk+η()使误差E(ωk+1)减小。
关键词:人工神经;网络游戏程序;研究和设计;分析探究
中图分类号:TP183 文献标识码:A 文章编号:1671-2064(2017)01-0044-01
近年来,在网络游戏发展过程中,图像的呈现质量已经提升到了一个极高的水平,人工智能游戏已经成为决定一款游戏成功与否的重要关键,并受到了游戏开发商的广泛关注和高度重视。网络游戏作为一种目标性、竞争性、互动性、情节性的娱乐作品,它的智能水平对游戏的质量和可玩性具有着直接的影响作用。因此,将计算机图形学和人工智能有机的结合起来,把人工智能中的预测、路径规划、搜索、学习等技术有效的应用到网络游戏的研发工作中去,不仅能够提升游戏的质量和可玩性,同时还有利于促进游戏开发企业的发展。
1 人工神经网络分析
人脑可以用一套较为独特的方法来解决相关问题,并且还能够从正反两面的行为差异中进行学习,经过研究发现,人脑是由十万种类的遗传因子中的十万亿个细胞组合而成,人工神经网络就相当于模拟人脑功能的一个数学模型。其中神经元作为人脑系统中处理基本信息的单元,是人体神经器官的重要组成部分,通过轴将各个神经元进行有效连接,而其他神经元的发送的信号能够使当前神经元产生相应的反映,这一反映如果能够达到特定的阈值,就会逐渐产生一种新的信号,并且沿着轴将信号传输到其他神经元[1]。人工神经网络主要就是由各种节点相互连接组合形成的,节点类似于人脑的各个神经元细胞,会存在一些节点连接外部环境,主要负责相关的信息输出和输入工作,被称作是输出点或者输入点,而另外一些网络内部的节点,通常被称作隐藏节点。隐藏节点的信息输出通常是输出节点的信息输入,输入节点的信息输出通常是隐藏节点的信息输入。
此外,人工神经网络的主要核心思想就是对人类大脑神经系统功能进行模拟的机器学习的一种方法,并且通过对系统内部各个神经元的各种连接参数进行反复的调节,使得神经网络系统得到训练,并且在遇到一定情况时能够做出最佳的反映[2]。总之,神经网络作为一项发展较为成熟的技术,其在解决相关问题之后,将会使网络游戏的智能化提升到一个全新的高度。
2 人工神经网络中的游戏学习设计分析
与传统方法相比,神经网络解决问题的方式有着明显的不同,其具有着较强的自主学习能力,经过不断的学习,ANN可以从未知式中的各种复杂数据信息中发现规律[3]。这种神经网络方法在很大程度上克服了传统方法在分析中的复杂性以及各种模型函数选择的困难,通过训练对问题进行解答,ANN可以较为快速的建立解决问题的非线性和线性模型。如果想要人工神经网络进行运作,首先就需要让网络进行学习,不断的训练网络,帮助它获取更多的知识信息,最后将这些信息有效的存储起来。一旦完成相关的训练和学习,就可以将知识有效的存储在权值中。在游戏的开发过程中,将神经网络模型看作是人物建模的基础,通过对玩家将要进行的动作或者选择的画面场景进行预测,运用神经网络进行信息存储,并且在游戏的运行过程中要保证学习元素的有效运行,进而让神经网络潜移默化的学会相应的自适应技术,最终实现游戏的可玩性和趣味性,提升游戏的开发设计质量和效果,进而吸引更多的游戏玩家。
3 BP神经网络游戏开发设计分析
在神经网络的众多模型中,BP算法是其中较为常用的一种神经网络,一般分为输入层、输出层、中间层等三个部分,各个层之间按顺序进行连接,因为中间存在隐含层,可以从中发现一定的学习规律,可以通过对这种网络的有效训练,进而形成一种较为复杂、多样的决策界面[4]。同时,BP神经网络具有一个强大的功能,其主要就是能够封装一个将信息输入映射到信息输出的非线性函数。假如不存在隐含层,那么神经网络只能发现信息输入与信息输出之间存在的线性关系。但是,仅仅是为感知网络增添一个隐含层还是远远不够的,需要通过非线性激活函数为网络连接提供相应的非线性元素。大多数的非线性函数基本上都能够进行使用,但是多项式函数除外。
在游戏中,设置网络作为神经网络实现的基本步骤,可以将特定数据当做输入训练网络,并且在游戏的具体输入中进行实际应用。在游戏问题的神经网络设计中,应该注意结构、学习、神经元特点等三个方面的因素。其中结构主要就是指要进行构造的神经网络组织、连接方式以及基本类型。而且在神经网络中节点数设计要遵循相关的原则就是越少越好。神经网络中的节点数越多,那么神经网络搜索正确解的空间范围就越广阔[5]。神经网络中输入节点数在一定程度上决定着模式匹配或网络分类的变量数,例如,篮球类型的游戏中,运动员投篮命中、灌篮动作、球员分布、难度等级等变量数。
4 结语
总而言之,网络游戏作为一种新型的娱乐方式,具有着较强的生活模拟性和互动性,深受广大社会群众的喜爱。因此,我国应该重视游戏产业的发展,不断加大对网络游戏的开发和设计,将神经网络有效的应用到网络游戏开发的实践中去,尤其是BP神经网络,它不仅可以预测玩家的行为,及时提供信息反馈,同时还能提高网络游戏的可玩性和趣味性,提升游戏设计的整体质量和效果,有利于促进我国游戏开发产业的发展和进步。
参考文献:
[1]余颖.基于神经网络和遗传算法的人工智能游戏研究与应用[D].湖南大学,2011.
[2]王淑琴.神经网络和遗传算法在游戏设计中的应用研究[D].东北师范大学,2014.
[3]f潭凯.神经网络在即时战略游戏中的应用[D].福州大学,2014.
随着计算机网络、信息技术、自动化技术的进步,极大的改变了我们的生活。人工神经网络技术是一种全新的控制技术,通过互联网进行动态模拟,从而建立一种新的控制互联网的系统。经过十几年的发展,人工神经网络技术研究取得了巨大的进步,已经广泛应用在社会各个领域,使现代计算机中的难题得到了解决。本文主要从人工神经网络技术的概念出发,探讨了它在现代社会领域的具体应用。
【关键词】人工神经网络 信息技术 发展趋势
人工神经网络技术在处理实际问题主要包括两个过程,一个是学习训练过程,另外一个是记忆联想过程。近年来随着人工网络技术的发展,人工神经网络技术在信号处理、图像处理、智能识别等领域已经取得了巨大的改变,为人们研究各类科学问题提供了一种新的方法和手段,使人们在交通运输、人工智能、军事、信息领域的工作更加便捷,近年来随着AI的l展,人工神经网络技术得到了快速的发展阶段。
1 人工神经网络技术
人工神经网络技术也称ANN,是随着上个世纪八十年代人工智能发展兴起的一个研究热点,它的主要工作原理对人脑神经网络进行抽象处理,并仿造人脑神经网络建立简单的模型,按照不同的连接方式组成一个完整的网络,因此学术界也直接将它成为神经网络。神经网络其实就是一种运算模型,它是通过大量的节点――神经元连接起来的,其中不同的节点所代表的输出函数也不同,也就是所谓的激励函数;当有两个节点连接起来时称之为通过该连接信号的加权值,也称为权重,这就相当人脑神经网络记忆。人工神经网络技术是采用并行分布式系统,这种工作机理与传统的信息处理技术和人工智能技术完全不同,是一种全新的技术,它克服了传统基于逻辑符号的人工智能处理非结构信息化和直觉方面的缺陷,具有实时学习、自适应性和自组织性等特点。
2 人工神经网络技术应用分析
随着人工神经网络技术的发展,它在模式识别、知识工程、信号处理、专家系统、机器人控制等方面的应用较广。
2.1 生物信号的检测分析
目前大部分医学检测设备都是通过连续波形得到相关数据,从而根据所得数据对病情进行诊断。人工神经网络技术就是应用了这样的方式将多个神经元组合起来构成,解决了生物医学信号检测方面的难题,其适应性和独立性强,分布贮藏功能多。在生物医学领域该技术主要应用于对心电信号、听觉诱发电位信号、医学图像、肌电荷胃肠等信号的处理、识别和分析。
2.2 医学专家系统
传统的医院专家系统是直接将专家的经验、学历、临床诊断方面取得的成绩等存储在计算机中,构建独立的医学知识库,通过逻辑推理进行诊断的一种方式。进入到二十一世纪,医院需要存储的医学知识越来越多,每天产生新的病况和知识,过去的一些专家系统显然已经无法适应医院的发展需求,因此医院的效率很低。而人工神经网络技术的出现为医院专家系统的构建提出了新的发展方向,通过人工神经网络技术,系统能够自主学习、自己组织、自行推理。因此在医学专家系统中该网络技术应用面较广。麻醉医学、重症医学中生理变量分析和评估较多,目前临床上一些还没有确切证据或者尚未发现的关系与现象,通过人工神经网络便能有效地解决。
2.3 市场价格预测
在经济活动中,传统统计方法受到一些因素的制约,无法对价格变动做出准确的预测,因此难免在预测的时候出现失误的现象。人工神经网络技术能够处理那些不完整的、规律不明显、模糊不确定的数据,并作出有效地预测,因此人工神经网络技术具有传统统计方法无法比拟的优势。例如人工神经网络技术可以通过分析居民人均收入、贷款利率和城市化发展水平,从而组建一个完整的预测模型,准确预测出商品的价格变动情况。
2.4 风险评价
在从事某一项特定的活动时,由于社会上一些不确定因素,可能造成当事人经济上或者其他方面的损失。因此在进行某一项活动时,对活动进行有效的预测和评估,避免风险。人工神经网络技术可以根据风险的实际来源,构筑一套信用风险模型结构和风险评估系数,从而提出有效地解决方案。通过信用风险模型分析弥补主观预测方面的不足,从而达到避免风险的目的。
3 人工神经网络技术未来发展
人工神经网络克服了传统人工智能对语言识别、模式、非结构化信息处理的缺陷,因此在模式识别、神经专家系统、智能控制、信息处理和天气预测等领域广泛应用。随着科学技术的进步,AI的快速发展,AI与遗传算法、模糊系统等方面结合,形成了计算智能,很多企业和国家开始大规模研发AI,人工神经网络正在模拟人类认知的方向发展,目前市场已经有很多不少人工智能产品面世。
4 结语
通过上述研究分析,人工神经网络技术已经取得了相应的发展,但还存在很多不足:应用范围狭窄、预测精度低、通用模型缺乏创新等,因此需要我们在此基础上不断寻找新的突破点,加强对生物神经元系统的研究和探索,进一步挖掘其潜在的价值,将人工神经网络技术应用在更多领域中,为社会创造更大的财富。
参考文献
[1]周文婷,孟琪.运动员赛前心理调控的新策略――基于人工神经网络技术的比赛场地声景预测(综述)[J].哈尔滨体育学院学报,2015,33(03):15-21.
[2]张红兰.人工神经网络技术的应用现状分析[J].中国新通信,2014(02):76-76.
[3]张广军.人工神经网络技术在光电检测中的应用[J].北京航空航天大学学报,2001,27(05):564-568.