公务员期刊网 精选范文 神经网络的概念范文

神经网络的概念精选(九篇)

前言:一篇好文章的诞生,需要你不断地搜集资料、整理思路,本站小编为你收集了丰富的神经网络的概念主题范文,仅供参考,欢迎阅读并收藏。

神经网络的概念

第1篇:神经网络的概念范文

关 键 词:BP算法;GARCH-BP模型;深证成指

中图分类号:F830.91 文献标识码:A 文章编号:1005-0892(2006)06-0041-04

一、引言

股市是一个复杂的非线性系统,股票价格涉及许多不确定因素,且各个因素之间的相关关系错综复杂。随机行走理论认为股价波动完全是随机的,但大量事实表明,股价波动存在某种规律性。我们可以将股市看作确定的非线性动力系统,即内部的动力机制是确定的,股价的历史数据和其它信息蕴含着可用于预测未来股价的信息。

近年来,神经网络由于其强大的非线性逼近和泛化能力,得到了最为广泛的应用。Lapedes等最早发表了神经网络用于预测的文章,他们用非线性神经网络对由计算机产生的时间序列仿真数据进行学习和预测。[1]后来Werbos,Varfis和Versino对实际的经济时间序列进行了预测研究。[2]Weigend等利用神经网络研究太阳黑子的年平均活动情况,通过与回归方法的比较表明神经网络的预测优于统计预测。[3]20世纪90年代以来,国外利用神经网络对股票价格预测方法层出不穷。[4-7]国内一些学者也开始利用神经网络的方法对中国股市的股票价格进行预测。[8-9]另外一些人工智能的方法,如遗传算法、模糊理论和粗集,也陆续在股票市场中得到一些应用。

二、基于GARCH-BP模型的股指预测模型

(一)BP神经网络模型

BP神经网络模型,是目前神经网络学习模型中最具代表性、应用最普遍的模型。BP神经网络架构是由数层互相连结的人工神经元组成,通常包含了输入层、输出层及若干隐藏层,各层包含了若干神经元;神经网络依照学习法则,通过训练以调整连结链加权值来完成学习目标的收敛。

尽管神经网络具有自我学习的功能,但要求输入的资料需具有一定的可用性。为避免输入神经元过少,使得网络无法配适完成,因此本文采用前5天的收益率rt-1、rt-2、rt-3、rt-4及rt-5作为当天收益率rt的输入神经元。因此本文所使用的神经网络,其架构为5-7-4-1,输入层有五个输入神经元、7个隐藏神经元的第一层隐藏层、4个隐藏神经元的第二层隐藏层以及包含一个输出神经元的输出层。其网络架构如图1。

图1BP神经网络模型网络架构

要让神经网络训练更有效率,可以对网络输入与目标向量进行前处理程序。本文所使用的归一化方法为极小值与极大值方法。其方式为重新定义四个向量,各自为输入与输出向量的极小值与极大值,依照输入与目标向量在这四个向量中的大小重新定义。而归一化后的输入与输出向量皆介于-1和+1之间。如此一来,可以直接反应出原始向量对问题的权重情况,而使得网络训练更有效率。当要预测一新的输出向量时,只要将新的输入向量根据先前的极小值与极大值向量作一调整,即可根据训练好的网络进行仿真。另外,网络的转换函数则采用双曲线正切函数。在完成网络的训练与仿真后,由于输出向量也将会介于-1和+1之间,因此需再根据原先目标向量的归一化向量做后处理,以便使输出向量还原到原始的资料形态。

(二)加入GARCH变量的BP神经网络(GARCH-BP)

BP神经网络所使用的输入神经元仅考虑前五天的对数收益率,并未将收益率的波动程度考虑进来,因此除了使用前五天的对数收益率作为输入神经元外,另外使用GARCH时间序列模型,将所估计的条件变异数作为第六个输入神经元,以比较在考虑了收益率波动后的BP神经网络对于时间序列资料的估计与预测是否较其它模型要好。

在建立了条件变异数GARCH模型后,将所得到的条件变异数作为BP神经网络的第六个输入神经元,而网络架构也形成6-7-4-1,即具有六个输入神经元的输入层、七个隐藏神经元的第一层隐藏层、4个隐藏神经元的第二层隐藏层及一个输出神经元的输出层。

三、模型绩效评定准则

(一)MSE准则

均方误差(Mean Square Error)是计算实际值与预测值的预测误差后取平方并加以平均。MSE的公式如下:

MSE=(rt-t)2 (1)

其中T代表总样本数,T1代表估计样本的数目,rt代表实际值,t则为模型的估计值或预测值。

(二)MSPE准则

均方比例误差(Mean Square Percentage Error)是计算实际值与预测值的预测误差占实际值的比例后取平方并加以平均。MSPE的公式如下:

MSPE=×100% (2)

使用MSPE的优点是考虑了误差对于实际值所占的比例,而不会皆给予相同的权重。

(三)MAE准则

平均绝对误差(Mean Absolute Error)考虑了误差的绝对距离。其公式如下:

MAE=t-t (3)

(四)MAPE准则

平均绝对比例误差(Mean Absolute Percentage Error)类似于MSPE的观念,在MAE中每一误差皆除以实际值,以便给予不同的权重。

MAPE=×100%(4)

(五)AMAPE准则

不对称平均绝对比例误差(Asymmetric Mean Absolute Percentage Error)更进一步地考虑在使用MAPE法时,在相同的误差下由于不同实际值所产生的不对称性现象。因此做一修正,AMAPE的公式如下:

AMAPE=×100% (5)

(六)符号正确率(Correct Sign Ratio;CSR)

CSR并不衡量误差大小,而是仅衡量预测与实际的符号是否正确。由于在收益率估计与预测上的准确度并不高,因此若仅考虑模型所估计或预测的值与实际值间的符号是否相同,亦可比较出模型的好坏。若CSR低于50%,则表示此模型对于收益率符号的预测能力还不如随机猜测的50%好。其公式如下:

CSR=Zt

Zt=1,当(rt・t)>0时

Zt=0,当(rt・t)≤0时 (6)

其中Zt为一逻辑变量,当实际值与估计值相乘后,其值大于0时,表示符号正确,则为1;反之则为0。

(七)Strategy

Strategy为CSR所衍生出的另一种衡量方式,其概念是通过模型的预测符号而决定投资策略。当模型预测为正收益率时,则予以买进,所获得的收益率为当日股市的实际收益率;若模型预测为负收益率时,则予以放空,同样地可获得当日股市的实际收益率。但先前假设为预测符号与实际符号相同才可成立,若符号相反,则收益率应转为损失。虽然CSR可以得知模型的预测符号的能力,但通过Strategy可以更清楚地知道采用模型的预测符号进行投资所获得的收益率会是多少。其公式如下:

总加报=rt

若t>0,则rt符号不变

若t

在前述7个绩效评定方法中,大致分类为两种:第一种为预测误差的衡量,此部分为衡量各模型估计或预测误差的绩效,包括MSE、MSPE、MAE、MAPE、AMAPE等。第二种为符号准确度的衡量,此部分不看预测值的大小,只针对预测的符号是否与实际值相同,包括CSR检定以及利用预测符号决定投资策略的Strategy。

图2列示了我们运用神经网络进行股票市场指数收益率样本数据的预测分析。

图2 股票指数收益率神经网络预测过程

四、训练结果

中国股票市场可以观察到的数据种类非常多,包括几十种价格指数和上千家个股数据,本文选择其中具有代表性的数据进行分析。具体而言,在由香港理工大学和深圳国泰安公司联合开发的《中国股票市场交易数据库(2003)》软件的支持下,选取深证成指为研究对象,其时间范围和数据长度为:2004年7月3日至2005年12月31日长度为259天的日收盘指数。

BP神经网络的建构是前述研究方法对样本进行训练及测试程序。参数设定值输入层为5;第一隐藏层为7,第二隐藏层为4,输出层为1,训练函数为TRAINGDX,自适应学习函数LEARNGDM,训练次数为500,训练精度要求0.025,学习率0.01,下降学习率为0.7,上升学习率1.05。训练函数采用结合适应性学习速率与动量的算法。在训练222次后,结果如图3。

图3BP神经网络训练结果图

GARCH-BP神经网络的建构也采用前述的参数设定方法对样本进行训练及测试程序。在训练102次后,训练结果如图4。

图4GARCH-BP神经网络训练结果图

在估计样本的绩效分析中我们所采用的准则包含了MSE、MSPE、MAE、MAPE、AMAPE、CSR及Strategy。在建立好模型后,估计的收益率与实际收益率相比较后的结果如表1。

表1估计样本估计误差分析表

注:MSPE、MAPE及AMAPE的单位为%,MSE为反归一化后的实际MSE值。

在MSE准则下,估计样本中BP神经网络模型的MSE值大于GARCH-BP神经网络模型的值,不过差距仅为0.0026。说明尽管GARCH-BP神经网络模型有利于降低估计样本的估计误差,但效果不是非常明显。MSPE是考虑了估计误差相对于实际值的权重。在BP神经网络模型中MSPE为60.5899%,而在加入GARCH(1,1)的BP神经网络中,MSPE为57.4962%,小于未加入GARCH的BP神经网络,也说明了加入GARCH后确实可以改善神经网络的估计误差比重的问题。在MAE准则中,其估计误差并未直接加以平方,而直接采用绝对值,通过绝对距离的概念而决定。如表1所示,这两个模型的MAE值皆相同,表示估计时所采用此种收敛方法并不会影响模型的优劣。MAPE类似于MSPE概念,同样在MAE中考虑了估计误差的权重问题。在表1中,BP神经网络的MAPE值为2.1424%;而加入GARCH的BP神经网络的MAPE值为1.4161%,在MAPE与MPSE绩效准则中皆小于未加入GARCH的神经网络与进化神经网络,表示在考虑估计误差的权重概念上,加入GARCH变量的BP神经网络比BP神经网络模型更有效。AMAPE修正了MAPE中估计误差不对称性的问题。在表1的AMAPE准则中,加入GARCH的BP神经网络,其AMAPE依旧比未加入GARCH的神经网络要小,表示即使考虑了估计误差的不对称性,BP神经网络模型也应考虑采用较有效的变量,而非使用较复杂的模型。

前面所叙述的准则是考虑估计值与实际值的差距,由于单纯的以时间序列做预测的效果通常不是很好,近来较为常用的是只考虑预测的符号准确性。因此后续的两个准则是采用预测值的符号与实际值是否相同的概念而做一延伸。

在CSR中,由表2可知,GARCH-BP神经网络的正确率较高,其CSR为59.14%,而BP神经网络模型为57.19%,表示GARCH-BP神经网络不仅在预测误差上优于BP神经网络,而且在符号的准确性上也相对较佳。但两个模型的预测准确度皆大于50%,表示使用模型加以预测的准确度比涨跌各占50%的随机猜测要好。

表2估计样本的符号准确性及投资策略绩效表

在先前的CSR准则中,虽然得知各模型的符号预测性较随机预测要高,但若实际投入股市中,其绩效却无法得知,因此应采用投资策略的准则来判断何种模型较佳。在表2中,其收益率较高的模型为BP神经网络,收益率达68.54%;而较差的模型为加入GARCH的BP神经网络模型,收益率为66.37%,显示BP神经网络对于较大的收益率具有较佳的捕捉能力。

五、结论

通过上述分析,可知本文建立的GARCH-BP神经网络模型在对股票指数收益率估计样本和测试样本的误差分析方面均优于BP神经网络,在预测符号的准确性方面,GARCH-BP神经网络模型仍然优于BP神经网络,但从整体上说,利用这两种模型进行预测收益率符号时,在估计样本中的表现要好于测试样本,说明在我们的预测过程中仍然存在许多的未知因素,需要进行进一步的研究。

――――――――

参考文献:

[1]Lapedes A, Farber R. A self - optimizing, nonsymmetrical neural net for content addressable memory and pattern recognition[J].Physica 22D, 1986. 247~ 259.

[2]Werbos P. Beyond regression: new tools for prediction and analysis in the behavioral sciences[J]. Ph D Dissertation, Harvard University, 1974.

[3]Weigend A S. Paradigm change in prediction. In: Tong H ed.Chaos and Forecasting[J]. Singapore: World Scientific, 1995:145~ 160.

[4]Baba N., Asakawa H., Sato K., Application of techniques of computational intelligence for constructing reliable decision support systems[J]. IJCNN International Joint Conference on Neural Networks, 1999, 6:3856~3859.

[5]Baba N. , Asakawa H. , Inoue N. , Application of soft computing techniques for dealing Tokyo stock exchange prices indexes (TOPIX) [J]. Third International Conference on Knowledge- Based Intelligent Information Engineering Systems, 1999: 542~ 545.

[6]Baba N., Handa H. , Utilization of neural network for constructing a user friendly decision support system to deal stocks[J]. Proceedings IEEE International Conference on Neural Networks, 1995,2: 818~823.

[7]Jung- Hua Wang, Shiuan - Ming Chen, Jia - Yann Leu, Stock trading decision support system using a rule selector based on sliding window[J]. IEEE International Conference on Systems, Man,and Cybernetics, Computational Cybernetics and Simulation, 1997,1: 559~ 564.

[8]Yang Yiwen, Liu Guizhong, Zhang Zongping, Stock market trend prediction based on neural networks, multiresolution analysis and dynamical reconstruction[J]. Proceedings of the IEEE/IAFE/ INFORMS Conference on Computational Intelligence for Financial Engineering (CIFEr), 2000:155~ 156.

[9]谢冰,等,基于遗传神经网络的工业股票指数预测,湖南大学学报社会科学版,2004,6:65~70.

责任编校:封明

――――――――

第2篇:神经网络的概念范文

关键词: 金融风险;预警;模糊聚类;神经网络

一、引言

2014年中央经济工作会议明确提出要“高度重视财政金融领域存在的风险隐患,坚决守住不发生系统性和区域性金融风险的底线”。2008年国际金融危机爆发以来,世界各国应对金融危机的经验表明,构建金融体系风险预警机制是必要且可行的。相对于整体金融风险而言,区域性金融风险具有更强的外部传导性和可控性,且一般早于整体金融风险爆发,在某种程度上可被视为整体金融风险的预警信号,因此,作为金融监管的有效补充,研究区域性金融风险早期预警体系并进行预警分析将对金融风险管控具有重要意义。

国外学者对于早期风险预警体系的研究较为系统和成熟,且已有一些金融监管部门建立了早期预警模型,如美联储的SEER评级模型、美国联邦存款保险公司的SCOR模型、法国银行业委员会的预期损失模型、国际货币基金组织的宏观审慎评估模型等。受国际金融危机的影响,近年来国内学者在早期金融风险预警和管理方面的研究也越来越多,但由于预警指标选择、风险状态划分及临界值选择等均不尽相同,因此建立的预警模型也有所差异。本文通过借鉴国内外对金融风险预警指标体系的既有研究成果,综合运用模糊聚类分析、BP神经网络建模等计量分析方法,构建区域金融风险预警体系,以期对区域性金融风险的评估和防范提供客观性依据。

二、总体分析框架及模型构建

本文构建的区域金融风险早期预警体系由三部分组成:首先结合安徽区域特点,构建包括经济因素、财政因素、金融因素、房地产发展、企业经营状况等的区域性金融风险指标体系;其次利用模糊聚类分析对研究样本进行分类,确定BP神经网络预警模型的分割点,为区域性金融风险水平的划分提供一种新思路;最后采用人工神经网络来预测未来金融危机发生的可能性。

(一)区域性金融风险指标体系

区域性金融风险指标选择既要考虑金融风险因素的普遍性,更要体现区域经济金融发展特点。指标选取原则:一是全面性,所选指标尽可能全面反映区域金融风险;二是可得性,所选数据要容易获得,且期间口径未作调整;三是匹配性,数据收集成本与模型预测的经济实用性相匹配。

(二)风险评估的模糊聚类分析

在分析一个时间序列的区域金融风险时,我们可以把指标相似程度高的样本聚集在一起,作为一个整体进行分析,以达到简化的效果。传统的聚类分析是一种“硬划分”,即把每个待识别的对象严格划分到某类中,具有“非此即彼”的性质,这种分类的类别界限也是分明的。然而,在大多数情况下,风险类别可能并没有严格的界定,其类属性方面存在中介性,适合进行“软划分”。模糊集理论为这种划分提供了强有力且有效的分析工具,采用相应的模糊聚类模型,可以取得较好的分类效果。“模糊聚类”概念最早由Ruspini提出,之后人们利用这一概念提出了多种模糊聚类算法。本文运用神经网络来进行模糊聚类,其优势在于神经网络的并行处理结构。

(三)基于人工神经网络的早期预警体系

人工神经网络ANN)是一种在生物神经网络启示下建立的数据处理模型,其具有强大的模式识别和数据拟合能力,最为可贵的是神经网络还有自学习和自适应性。自适应性是指一个系统能够改变自身的性能以适应环境变化的能力,当环境发生变化时,相当于给神经网络输入新的训练样本,网络能够自动调整结构参数,改变映射关系,从而对特定的输入产生相应的期望输出。人工神经网络包括很多种,不同类型的神经网络适用于解决不同的问题,其中最为常用的一种就是BP神经网络,它是一种多层前向神经网络,其权值调整采用反向传播学习算法。而自组织竞争神经网络则使用了与前向神经网络完全不同的思路,采取竞争学习的思想,网络的输出神经元之间相互竞争,同一时刻只有一个输出神经元获胜,因此自组织神经网络主要用于解决分类、聚类问题。鉴于此,本文在进行区域金融风险评估时,运用自组织竞争神经网络进行模糊聚类分析,得出各样本的风险类别;而在构建区域风险早期预警体系时,采用BP神经网络进行分析和预测。

三、区域性金融风险早期预警的实证分析

(一)区域性金融风险监测指标的选取与标准化

金融风险是一个综合性、系统性的概念,单纯选用个别指标不足以反映其真实水平。因此,根据客观性、完备性、科学性、实用性、重要性原则,同时借鉴国内外研究成果,本文选取了经济、财政、金融、房地产、企业经营等方面的17个金融风险评价指标,样本区间为2009年至2014年一季度的安徽省季度数据,并根据指标与金融风险的正负相关性对其进行标准化。

第3篇:神经网络的概念范文

    论文摘要:随着计算机技术的飞速发展,智能计算方法的应用领域也越来越广泛。本文介绍了当前存在的一些智能计算方法,阐述了其工作原理和特点,同时对智能计算方法的发展进行了展望。

    The Analysis for Several Classic Algorism of Intellegence Computation

    YANG Ming-hui

    (Wuhan University of Technology, Wuhan 430074, China)

    Abstract: As the computer technology develops fast, the field for intelligence algorism become wider and wider.In this paper, I introduce some methods for intelligence, and analyze their Principles and characters, finally make a Forecast of the develop of integellence computation.

    Key words:Intelligence Computation; Artificial Neural Network Algorithm;Genetic algorithm;Annealing Algorithm

    1 引言

    智能算法也称作为“背影算法”,是人们从现实的生活中的各种现象总结出来的算法。它是从自然界得到启发,模仿它的原理而得到的算法,这样我们可以利用仿生原理进行设计我们的解决问题的路径,这就是智能计算的思想。这方面的内容很多,如人工神经网络技术、遗传算法、模拟退火算法等,下面分别对其进行分析。

    2 人工神经网络算法

    2.1 人工神经网络(ARTIFICIAL NEURAL NETWORK,简称ANN)

    人工神经网络是在对人脑组织结构和运行机制的认识理解基础之上模拟其结构和智能行为的一种工程系统。早在本世纪40年代初期,心理学家McCulloch、数学家Pitts就提出了人工神经网络的第一个数学模型,从此开创了神经科学理论的研究时代。其后,F Rosenblatt、Widrow和J. J .Hopfield等学者又先后提出了感知模型,使得人工神经网络技术得以蓬勃发展。

    2.2 人工神经网络的特点

    人工神经网络的知识存储容量很大。在神经网络中,知识与信息的存储表现为神经元之间分布式的物理联系。它分散地表示和存储于整个网络内的各神经元及其连线上。每个神经元及其连线只表示一部分信息,而不是一个完整具体概念。只有通过各神经元的分布式综合效果才能表达出特定的概念和知识。

    由于人工神经网络中神经元个数众多以及整个网络存储信息容量的巨大,使得它具有很强的不确定性信息处理能力。即使输入信息不完全、不准确或模糊不清,神经网络仍然能够联想思维存在于记忆中的事物的完整图像。只要输入的模式接近于训练样本,系统就能给出正确的推理结论。

    正是因为人工神经网络的结构特点和其信息存储的分布式特点,使得它相对于其它的判断识别系统,如:专家系统等,具有另一个显着的优点:健壮性。生物神经网络不会因为个别神经元的损失而失去对原有模式的记忆。最有力的证明是,当一个人的大脑因意外事故受轻微损伤之后,并不会失去原有事物的全部记忆。人工神经网络也有类似的情况。因某些原因,无论是网络的硬件实现还是软件实现中的某个或某些神经元失效,整个网络仍然能继续工作。

    人工神经网络是一种非线性的处理单元。只有当神经元对所有的输入信号的综合处理结果超过某一门限值后才输出一个信号。因此神经网络是一种具有高度非线性的超大规模连续时间动力学系统。它突破了传统的以线性处理为基础的数字电子计算机的局限,标志着人们智能信息处理能力的一大飞跃。

    3 遗传算法

    3.1 特点

    遗传算法是解决搜索问题的一种通用算法,对于各种通用问题都可以使用。搜索算法的共同特征为:(1)首先组成一组候选解;(2)依据某些适应性条件测算这些候选解的适应度;(3)根据适应度保留某些候选解,放弃其他候选解;(4)对保留的候选解进行某些操作,生成新的候选解。在遗传算法中,上述几个特征以一种特殊的方式组合在一起:基于染色体群的并行搜索,带有猜测性质的选择操作、交换操作和突变操作。这种特殊的组合方式将遗传算法与其它搜索算法区别开来。

    遗传算法还具有以下几方面的特点:

    (1)遗传算法从问题解的串集开始嫂索,而不是从单个解开始。这是遗传算法与传统优化算法的极大区别。传统优化算法是从单个初始值迭代求最优解的;容易误入局部最优解。遗传算法从串集开始搜索,覆盖面大,利于全局择优。

    (2)许多传统搜索算法都是单点搜索算法,容易陷入局部的最优解。遗传算法同时处理群体中的多个个体,即对搜索空间中的多个进行评估,减少了陷入局部最优解的风险,同时算法本身易于实现并行化。

    (3)遗传算法基本上不用搜索空间的知识或其它辅助信息,而仅用适应度函数值来评估个体,在此基础上进行遗传操作。适应度函数不仅不受连续可微的约束,而且其定义域可以任意设定。这一特点使得遗传算法的应用范围大大扩展。

    3.2 运用领域

    前面描述是简单的遗传算法模型,可以在这一基本型上加以改进,使其在科学和工程领域得到广泛应用。下面列举了一些遗传算法的应用领域:(1)优化:遗传算法可用于各种优化问题。既包括数量优化问题,也包括组合优化问题;(2)程序设计:遗传算法可以用于某些特殊任务的计算机程序设计;(3)机器学习:遗传算法可用于许多机器学习的应用,包括分类问题和预测问题等。

    4 退火算法

    模拟退火算法来源于固体退火原理,将固体加温至充分高,再让其徐徐冷却,加温时,固体内部粒子随温升变为无序状,内能增大,而徐徐冷却时粒子渐趋有序,在每个温度都达到平衡态,最后在常温时达到基态,内能减为最小。根据Metropolis准则,粒子在温度T时趋于平衡的概率为e-ΔE/(kT),其中ΔE为温度T时的内能,ΔE为其改变量,k为Boltzmann常数。用固体退火模拟组合优化问题,将内能E模拟为目标函数值f ,温度T演化成控制参数t,即得到解组合优化问题的模拟退火算法:由初始解i和控制参数初值t开始,对当前解重复“产生新解计算目标函数差接受或舍弃”的迭代,并逐步衰减t值,算法终止时的当前解即为所得近似最优解,这是基于蒙特卡罗迭代求解法的一种启发式随机搜索过程。退火过程由冷却进度表(Cooling Schedule)控制,包括控制参数的初值t及其衰减因子Δt,每个t值时的迭代次数L和停止条件S。

    5 展望

    目前的智能计算研究水平暂时还很难使“智能机器”真正具备人类的常识,但智能计算将在21世纪蓬勃发展。不仅仅只是功能模仿要持有信息机理一致的观点。即人工脑与生物脑将不只是功能模仿,而是具有相同的特性。这两者的结合将开辟一个全新的领域,开辟很多新的研究方向。智能计算将探索智能的新概念,新理论,新方法和新技术,而这一切将在以后的发展中取得重大成就。

第4篇:神经网络的概念范文

关键词:木质材料;神经网络;元细胞自动机

中图分类号:TP391;TU366 文献标识码:A

引言

为了对建筑进行保护,需要对建筑构件受到自然环境因素的破坏进行预测。由于影响物体变化的各种因素常常具有不规则性和不可预见性,传统的数学方法很难描述建筑构件随时间变化的过程。随着人工神经网络理论和技术的发展,该理论得到了广泛的应用。我们采用元细胞自动机(Cellular Automata―CA),并结合BP算法,对古建筑构件受到自然环境因素的破坏进行预测。应用X光扫描获取建筑构件的2D数据,通过CA计算出每个神经元的灰度值变化,改变建筑构件位图所对应的单个像素点的灰度值,以预测建筑构件的受损程度。

1 CA模型

在一般CA模型中,单元的状态只有0或1两种,是一个离散值,它不能够反映出物体状态的一个连续的,持续的变化过程。在约束性CA模型中,利用“灰度”的概念 来表示和反映单元网格{x,y}状态的连续变化过程。但灰度值 从0渐变到1的时候,表示该单元格正从开始的完好状态转化到被完全破坏的状态。

基础约束性CA模型的表示公式:

其中, 是发展状态, 是状态,N是临近范围, 是总的约束性条件, 是单元所在的具置。

总约束性系数的公式为:

2 建筑构件分析

2.1 构件的物理性质演变分析

为了方便对建筑构件随时间的推移受到自然因素的侵蚀程度进行预测分析,本文采用了将建筑构件的模型进行数值化处理的方法。数值化的构件模型是2D灰度图形,使获取的古建筑模型的灰度图中的每个像素点与神经网络的CA模型每个元细胞相对应。利用像素点作为元细胞,可以方便的将CA模型和图像处理系统结合起来。

获取了建筑构件的数值化信息后,利用神经网络的CA模型计算出每个单元格的灰度值。将温度、湿度等自然因素的历史数据的预测值与神经网络的CA模型相结合进行预测,通过单个神经元灰度的变化,直观的显示出建筑构件大概的变化趋势。

构件的物理性能演变分析系统结构如下图所示:

2.2 单个元细胞的灰度值

建筑构件的模型进行数值化处理后,将每个像素点视为一个元细胞,用图像的灰度(gray-scale)来表示神经网络的CA模型中单个元细胞的灰度值。

从图像输入后,每个像素点都会于某一个灰度值相对应。将元素点的灰度值设定为 ,进行灰度变化后的灰度值为 ,则灰度值的变化可表示为 或者 。

其中,设定 和 都在图像的灰度值规定范围内。

函数 为灰度变换函数,它描述了输入灰度值与输出灰度值之间的转换关系。

神经网络的CA模型算出每个元细胞的灰度值变化,再通过元细胞的灰度值变化来改变与元细胞相对应的像素点的灰度值。

2.3 CA模型的神经网络结构

研究采用的是BP神经网络。根据预测需要,在输入层设定11个神经元,每个输入神经元分别于11个决定古建筑变化灰度值的因素一一对应。隐藏层的神经元个数的选取影响结果的精确度、训练时间和容错能力。一般来说,隐藏层的神经元越多,结果越精确,但是隐藏层的神经元过多会大大的加大训练时间,同时隐藏层的神经元的增加会造成网络的容错能力下降。研究表明,对于n层的神经网络,其隐藏层的神经元的数目至少为2n/3,其中n为输入层神经元的数目。经过上述分析,神经网络隐藏层的神经元的数目 ,为了使预测达到最佳效果,隐藏层的神经元设定为8个。在输出层中,用一个神经元来输出灰度值的数值,通过输出的结果,改变每个元细胞对应像素点的灰度值。所建立的CA神经网络如下:

神经网络的隐藏层采用Sigmoid传递函数,这使得学习过程中训练速度和灵敏度不高而且容易进入饱和状态。为了提高训练速度和灵敏性以及有效避开Sigmoid函数的饱和区,一般要求输入数据的值在0~1之间。本文为了减少平台现象出现的可能性,加快学习速度,对输入样本进行归一化处理,处理方法如下:

2.4 算法推导

木材在自然环境中受到多种自然因素的影响,在不同的因素的影响下,木质构件将会产生不同的变化,如下图所示:

影响古建筑木质变化的自然因素:温度影响,湿度影响,微生物影响。将上述三个影响古建筑变化的主要因素作为输入层的三个输入数据。然而,古建筑模型某个元细胞处的发展变化并不是偶然的,每个元细胞由一个状态转变为另一个状态是一个连续的过程。每个元细胞的灰度值都要受到与它相邻元细胞的灰度值的影响。因此,需要将其周围相邻的8个元细胞在 时刻的8个灰度值作为输入层的输入数据。输入为:

至此,便可以通过元细胞灰度值的变化来改变古建筑模型每个像素点的显示灰度的变化。

为了使CA模型模拟的结果更加接近于实际情况,引入随机变量RA,其表达式为:

其中的 表示落在范围 之间的随机数, 为控制随机变量大小的参数。

引入随机变量后,求灰度值的公式变为:

3 应用实例

下面是采用神经网络CA模型对木质结构的古建筑构件的某个区域二十年内物理性能演变的预测分析:

图3.a是古建筑木质构件的某个区域的灰度图原图,图3.b是利用神经网络CA模型对原图进行预测五年后的图片。从图片中,我们可以看出图3.a中浅浅的裂痕在图3.b进一步的扩大,而原来裂痕处的灰度值有淡灰色转化成了深灰色,同时在图3.b的画圈处产生了新的裂痕。图3.c是对原图进行预测十年后的结果,与图3.b对比可以看出裂痕进一步扩大,原来裂痕处的灰度等级提高,在画圈处的裂痕结合到了一起。图3.d和图3.e分别是对原图进行预测十五后和二十年后的结果,两图对比可以看出,裂痕在扩大的同时延伸出了新的细小的裂痕,裂痕有向网状发展的趋势。我们可以清晰的从两图的画圈处可以看到,经过五年的变化,画圈处的裂痕结合到了一起。

从上述结果可以看出,将采集的古建筑木质构件的灰度图,利用神经网络的CA模型对木质构件进行预测,运用CA模型中“灰度”的概念通过神经网络的训练学习预测出每个元细胞的灰度值的变化,从而计算出古建筑木质构件随时间推移而受损的情况。因此,神经网络的CA模型对建筑木质构件的受损程度随时间推移的预测分析有明显的效果。

4 结 语

研究中,我们使数值化处理后的古建筑模型的每个像素点与神经网络的CA模型中的每个元细胞一一对应,运用CA模型中“灰度”的概念通过神经网络的训练学习预测出每个元细胞的灰度值的变化,进而得出古建筑模型的每个像素点的灰度变化,以达到预测古建筑因自然环境因素侵蚀的效果。研究表明,该方法对古建筑因自然环境中的各种因素的影响而受到侵蚀程度的预测还是有效的。虽然研究的结果还略显粗糙,但是它为今后的研究奠定了基础。至于结果是否与实际情况相符合,还有待研究。

参考文献:

[1] 袁曾任.人工神经元网络及其应用[M].北京:清华大学出版社,1999.

[2] Wolfram S. Theory and Applications of Cellular Automata [M]. World Scientific, Singapore, 1986.

[3] 阎平凡,张长水.人工神经网络与模拟进化计算[M].北京:清华大学出版社,2005.

[4] 楼顺天.基于Matlab的系统分析与设计[M].北京:科学出版社,2006.

第5篇:神经网络的概念范文

Abstract: Financial management decision support system (hereinafter referred to as the DSS) is to assist decision-makers at various levels realize financial management. It achieves scientific management through mainly the man-machine interactive way and the use of a lot of financial data and numerous model. Neural network is a complicated nonlinear network system, and it mainly consists of many processing units which are similar to neuron. The combination of financial management and neural network and decision support system can realize the automation of adaptive, associating and reasoning, and data mining, and make the financial management, decision-making, and execution more scientific, standardized, and intelligent.

关键词: 财务管理;神经网络;决策支持系统;专家系统

Key words: financial management;nerve network;decision support system (DSS);expert system

中图分类号:F275 文献标识码:A 文章编号:1006-4311(2012)03-0126-02

0 引言

DSS是80年代迅速发展起来的新型计算机科学。它是一个有着广泛应用背景的十分热门的交叉科学。神经网络是一个具有高度非线性的超大规模连续时间的动力系统。结合神经网络的智能决策支持系统是目前研究的前沿之一,它极具理论和使用价值。

财务管理的信息化、数字化是财务规范和科学管理的趋势。与DSS的结合将更加有利于数据标准的统一,有利于数据采集的模块化,有利于决策支持的科学化,有利于财务公开的透明化。

1 财务管理决策支持系统的研究现状

决策支持系统经过二十多年的发展,形成了如图1所示公认的体系结构。它把模型并入信息系统软件中,依靠管理信息系统和运筹学这两个基础逐步发展起来。它为解决非结构化决策问题提供了相应的有用信息,给各级管理决策人员的工作带来了便利。

从图1可以看出决策支持系统体系结构可划分为三级,即语言系统(LS)级、问题处理系统(PPS)级和知识系统(KS)级。其中问题处理系统级包括推理机系统(RS)、模型库管理系统(MBMS)、知识库管理系统(KBMS)及数据库管理系统(DBMS)。知识系统级包括模型库(MB)、知识库(KB)及数据库(DB)。

九十年代中期,兴起了三个辅助决策技术:数据仓库(DW)、联机分析处理(OLAP)和数据挖掘(DM)。联机分析处理是以客户/服务器的方式完成多维数据分析。数据仓库是根据决策主题的需要汇集大量的数据库,通过综合和分析得到辅助决策的信息。数据挖掘顾名思义,是为了获得有用的数据,在大量的数据库中进行筛选。人工智能技术建立一个智能的DSS人机界面,可进行图、文、声、像、形等多模式交互,人机交互此时变得更为自然和谐,人们能沉浸其中,进行合作式、目标向导式的交互方法。

从目前情况来看,财务决策支持系统的研究还处于初级发展阶段,财务数据的保密性、特殊性决定了财务决策不能全部公开化、透明化,但随着中央及国务院相关部门财务预决算数据的公开,财务决策系统及其支持系统和过程也将随之公开,这就要求决策者充分利用财务知识和决策支持系统的知识“聪明”决策、合理决策、科学决策、规范决策。

2 财务管理神经网络智能决策支持系统总体研究框架

2.1 神经网络运行机制 神经网络的着眼点是采纳生物体中神经细胞网络中某些可利用的部分,来弥补计算机的不足之处,而不是单单用物理的器件去完整地复制。

第一,神经网络中的链接的结构和链接权都可以通过学习而得到,具有十分强大的学习功能;第二,神经网络所记忆的信息是一种分布式的储存方式,大多储存在神经元之间的权中;第三,神经网络部分的或局部的神经元被破坏后,仍可以继续进行其他活动,不影响全局的活动,因此说,神经网络的这种特性被称作容错性;第四,神经网络是由大量简单的神经元组成的,每个神经元虽然结构简单,但是它们组合到一起并行活动时,却能爆发出较快较强的速度来。

我们可以利用神经网络的上述特点,将之应用于模式识别、自动控制、优化计算和联想记忆、军事应用以及决策支持系统中。

2.2 财务管理神经网络集成智能财务DSS的必然性 在企业经营管理、政府机构财务活动中,人们时常面临着财务决策。人们往往需要根据有关的理论及经验制定出一系列的衡量标准。这种评价是一个非常复杂的非结构化决策过程,一般都是由内行专家根据一定的专业理论凭经验和直觉在收集大量不完全、不确定信息基础上建立起多级指标体系。但在这种指标体系中,各种指标之间的关系很难明确,而且还受评价者的效用标准和主观偏好所左右。因此,很难在指标体系和评价目标间建立起准确的定量或定性模型。因此,我们需要采用一种可处理不确定性、不完全性信息的评价方法以支持决策。自然,利用人工神经网络构造系统模式来支持这类评价决策问题是目前财务管理智能决策支持系统的一种发展趋势和必然趋势[4]。

2.3 财务管理神经网络集成智能DSS系统框架 神经网络智能决策支持系统主要以知识、数据和模型为主体,结合神经网络进行推理与数据开采。图2给出了神经网络智能决策支持系统研究框架[2]。研究中有两个重点,即神经网络推理系统和神经网络数据开采系统。

2.3.1 神经网络数据开采系统 神经网络数据开采时利用神经网络技术协助从数据中抽取模式。数据开采有五项基本任务:相关分析、聚类、概念描述、偏差监测、预测。

常用的前馈式神经网络,如BP网络,可用于进行概念描述及预测。对向传播(Counter Propagation,简称CP)神经网路可用来进行统计分析和聚类。

CP网络是美国神经计算专家Robert Hecht-Nielsen提出的一种新型特征映射网络,其网络结构分输入、竞争、输出三层。该网络吸取了无教师示教型网络分类录活、算法简练的优点,又采纳了有教师示教型网络分类精细、准确的好处,使两者有机地结合起来。由竞争层至输出层,网络按基本竞争型网络学习规则得到各输出神经元的实际输出值,并按有教师示教的误差校正方法调整由竞争层至输出层的链接权。经过这样反复地学习,可以将任意输入模式映射为输出模式。

2.3.2 财务管理神经网络推理系统 财务管理神经网络推理系统主要利用神经网络的并行处理机制来解决传统推理方法中存在的“组合爆炸”、“无穷递归”,等问题。在神经网络系统中,计算与存储时完全合二为一的,即信息的存储体现在神经元互连的分布上,并以大规模并行方式处理。流动的过程就是从部分信息找到全部信息的过程,这就是联想记忆的基本原理。若视动力系统的稳定吸引子为系统计算能量函数的极小点,系统最终会流向期望的最小点,计算也就在运动过程中悄悄地完成了。因而,可用双向联想记忆(BAM)网络或CP网络实现并行推理。CP网络具有特殊的联想推理映射功能。将输入学习模式和期望输出模式取为同一模式,且将之分为X和Y两部分。网络通过提供的样本对进行充分的学习后,就可用来进行模式间的联想推理。

3 财务管理神经网络智能DSS研究展望

当前世界上最热门的研究课题,是模仿人类的思维方式来解决实际问题。专家系统和人工神经网络是比较常用的技术,但由于自身的局限性,它们都侧重于人类思维方式的某一方面。平时解决简单的问题的时候还好,但真遇到解决复杂的问题的时候,它就显得力不从心了,所以,这个时候我们可以将两种技术结合起来解决,除了它们要自身不断发展和完善外,还要注重两者的协调配合,神经网络DSS未来的发展趋势就是依靠这两种技术不断结合,从而能帮助我们解决更多的实际问题。

3.1 财务管理神经网络支持专家系统 常见的财务管理神经网络支持专家系统主要包括几个方面:知识维护、知识表示、知识获取、推理等,我们针对各个步骤展开讨论。

3.1.1 知识维护。如果知识是通过人工神经网络来获取的,我们就可以同样利用人工神经网络,来让维护工作变得更加方便快捷,维护可以通过人工神经网络来自动完成,我们需要做的只是重新运行网络模块,或者重新训练网络模块,又或是增加新的网络模块。

3.1.2 推理。一般的专家系统只是求解专门性问题,应用的领域非常狭窄,同时由于控制策略不灵活,推理方法简单,容易出现一些这样或那样的问题,推理效率低、速度慢。人工神经网络可以解决这一问题,从根本上提升工作效率,提高工作速度,它可以拓展知识空间,不只局限在狭窄的领域。

3.1.3 知识表示。很多专家知识事实上很难用规则表示出来,但在现实工作中,我们大部分财务管理专家却都采取这种方式,无论是直接的还是间接的。其它的知识表示方法也存在着同样的问题。为了解决这一问题,我们可以采用人工神经网络系统来将知识提供给专家系统,这样做就可以避免这一问题,当专家系统需要相应知识时,就不需要用规则来表示知识,直接调用人工神经网络就可以了。

3.1.4 知识获取。人工神经网络可以帮专家系统来获取知识,知识获取是通过人机对话的形式进行的。首先,专家系统向专家提出问题,人工神经网路则负责对这些信息进行收集、处理,在人工神经网络的联结权值中已经具有通用的知识,所以这一步骤会很方便,之后再产生相应的数据结果。接着,专家系统在对这些数据进行进一步的分析。在这一过程中,专家系统只运用很少的规则就可以获得相关的知识,大大提高了工作效率。

3.2 财务管理专家系统支持神经网络 财务管理专家主要通过三种方式来对神经网络提供必要的支持:第一,提供相应的必要的解释;第二,进行预处理;第三,联合应用。

3.2.1 解释。作为专家系统的人工神经网络,它做不到同其他专家系统那样,具体详细地跟踪问题求解的过程,以获得答案的原因,它只能依靠增加一个小型的专家来解决这一问题,以获得答案的原因,这个专家系统可以反向推理,从结果到初始输入,系统提供具体的解决方法。

在这种模式中,经过训练的人工神经网络来解决问题。当用户要求解释的时候,就可以通过网络输入一个并行的专家系统。

3.2.2 预处理。对于人工神经网络来说,处理数据这项工作比较难。专家系统可以帮助人工神经做好这些工作:选择合适的收敛算法,确定训练神经网络的样本的数量,选择合适的神经网络。收集正确数据的工作,对于人工神经网络来说至关重要,事先对它们进行预处理,可以确保各项工作顺利的完成。

3.2.3 联合应用。将一个复问题分解为几个子问题,如下图3所示,再将各个子问题来逐个解决,这就是我们所常说说的联合应用方法。它可以直接采用人工神经网络、专家系统以及其种可能的方法来解决问题,指导实际应用。

我们当前计算机所要解决的主要问题,是如何解决半结构化和非结构化的决策等问题,它是人们在日常生活中所经常遇到的,在财务活动中会大量存在。如何更科学、更合理地处理这些问题是我们当前工作的主要方向。运用人工神经网络技术处理半结构化和非结构化的决策是一种智能化的求解方式。但是此种方式并不是完美无缺的,它还存在着一定程度上的缺点,我们只有改善这种技术上的不成熟,将智能化研究进行到底,才能让神经网络决策支持系统的研究出现新的进展。

参考文献:

[1]陈文伟.智能决策技术.电子工业出版社,1998年.

[2]钟义信.智能理论与技术——人工智能与神经网络.人民邮电出版社,1992年.

第6篇:神经网络的概念范文

关键词:灰色神经网络;商品销售;算法;销售预测

中图分类号:F71文献标识码:A文章编号:1009-3044(2009)27-7743-02

市场销售是根据根据市场过去和现在的信息,运用一定的数学方法,对产品的需求进行评估推测,市场预测可以减少企业风险,为企业决策提供依据。做为市场预测组成部分的需求预测,是直接影响企业生产企业,投资取向,库存保有量的重要依据,精确的需求预测可以减少库存,降低订单流失率,更有效的配置资源。对于商品销售预测来说,有很多种方法,本文采用灰色神经网络来预测商品销量。

1 灰色系统和神经网络概述

1.1 灰色系统

灰色系统理论是一种研究少数据、贫信息、不确定性问题的新方法,它以“部分信息已知,部分信息未知”的“小样本”,“贫信息”不确定系统为研究对象,通过对“部分”已知信息的生成、开发、提取有价值的信息,实现对系统运行行为、演化规律的正确描述和有效监控。它是我国学者邓聚龙教授在1982年首先提出的,经过20年的发展,灰色系统已基本建立起一门新兴学科的结构体系,其主要内容包括以灰色朦胧集为基础的理论体系,以灰色关联空间为依托的分析体系,以灰色序列生成为基础的方法体系,以灰色模型为核心的模型体系和以系统分析、评估、建模、预测、决策、控制、优化为主体的技术体系。

灰色系统中建立的模型称为灰色模型(GreyModel)简称GM模型,是以原始数据序列为基础做某种生成后建立的微分方程。建模中最有代表性的是针对时间序列的GM建模,它直接将时间序列数据转化为微分方程,利用系统信息,使抽象的模型量化,量化的概念模型化,最后进行模型优化,从而使所建的GM模型在寻求不到系统的概率特性或隶属特性的情况下显示其优越性。

1.2 神经网络

人工神经网络理论(ArtificialNeuralNetworks)是智能算法理论的一种,由于其具有大规模并行处理、分布式信息存储,容错性,自组织性和自适应性等特点,目前已经得到了国内外学者的广泛关注。目前,人工神经网络已成功应用在函数拟合、数据预测、模式识别、优化控制等很多工程领域,并在一些传统方法难以解决的问题上取得了满意的结果。

人工神经是由一些称为神经元的基本部件按一定规则组合形成的,它由神经元,神经元间连接方式和训练规则三个因素组成。其中最主要的部分是神经元,它由由输入,非线性变换和输出三部分构成,是一个基本计算单元,计算过程为,输入经过权值连接到内部后求和,和值首先与一个阀值做比较,然后经过非线性变化,得到输出。神经元的非线性变换有多种形式,比较常用的有Sigmoid函数,限幅函数等。神经元间不同的连接方式构成了不同类型的神经网络,比如信号由一层单向传播到另一层的前馈型神经网络,信号在层与层之间传播的反馈型神经网络等。目前,比较典型的神经网络包括BP网络,RBF网络、小波网络等。

2 基于灰色神经网络的销量建模

2.1 网络建模

对于销量预测的问题来说,灰色模型GNNM(1,N)的微分表达式为:

其中, y1是商品的销售量,y2-yn是影响销售量的因子。

求解微分方程(1)可得如下的离散响应方程:

令 ,则式2变为:

y1的阀值设为: 。

BP网络LB层神经元的激活函数取为Sigmoid函数:

将式(3)变型后映射到BP网络中,得到如下的映射销量问题的灰色神经网络模型,如图1所示。

2.2 学习算法

该模型中各个参数根据网络输出和实际输出的误差进行调整,从而是网络输出不断逼近实际输出,学习算法如下:

Step 1.根据系统数据列特征,选取两个较小的值做为 a,b1,b2,…,bn-1

Step 2.根据网络权值定义计算ω11,ω21,ω22, …,ω2n,ω31,ω32,…,ω3n

Step 3.对每一个输入序列(t,y(t)),(t=1,2,3,…,N)进行如下操作:

t输入LA层节点,对LB、LC、LD层的节点进行如下计算:

计算每层输出

计算网络输出与期望输出的误差

调整隔层权值:

调整LB到LC的连接权值:

调整LA到LB的连接权值:

调整阀值:

Step 4重复步骤3,直至满足结束条件为止。

2.3 总体设计

采用灰色神经网络进行销量预测,总的步骤分为灰色神经网络构建,灰色神经网络训练和灰色神经网络预测三步,其中灰色神经网络构建是根据输入输出变量构建灰色神经网络,灰色神经网络训练是对网络进行训练,灰色神经网络预测是对训练好的网络对数据进行预测,其灰色神经网络预测系统总体框图如图2所示。

3 基于灰色神经网络的销量预测

采用灰色神经来对某型冰箱的销售的做预测,分析得出影响该型冰箱的市场需求的因素为以下几个指标,1)竞争对手;2)市场特征;3)成本;4)广告力度;5)品牌认可;6)售后服务;7)价格性价比。输出数据为销售量,用模糊神经网络进行训练预测,设置输入节点数为8,输出节点数为1,即为预测销售量,网络共迭代100次,得到的预测值和实际值的结果如图3所示。

从图3中可以看到,灰色神经网络预测的销量值和实际值非常接近,说明了灰色神经网络预测的有效性。

第7篇:神经网络的概念范文

[关键词]模糊粒化;小波神经网络;股指区间预测

[DOI]101.3939/jcnkizgsc20162.71.1.3

1引言

随着股票市场的逐渐完善和发展,投资金融理财产品成为越来越多的家庭和个人的选择,股票就是其中重要的一种理财产品。近年来,人工神经网络是人工智能领域兴起的研究热点,并且凭借其优秀的非线性逼近和泛化能力在金融市场得到了广泛的应用。王文波等人进行了基于EMD 与神经网络的中国股票市场预测[1],任崇岭等人进行了基于小波神经网络的短时客流量预测研究[2],以上研究表明神经网络在股票市场上有较好的实际预测效果并获得了广泛的应用。潘晓明等人通过采用遗传算法的神经网络集成建立了一种股票市场预测模型。[3]刘沛汉等基于遗传算法优化进行了神经网络的光伏电站短期功率预测[4]等,上述研究结果表明遗传算法在优化神经网络进行预测,降低误差方面有显著作用。

传统神经网络预测多得到股指点的预测,但是股票市场随机性较大,投资者往往更希望得到股指在未来一段时间的波动区间作为投资参考。因此,文章通过将股指开盘数据模糊粒化,然后在小波神经网络基础上建立一种新型的股指区间预测模型,并使用遗传算法优化模型参数,获得更高的精度,预测未来一段时间内股指波动范围,为股市投资者提供投资参考。

2模型的建立

2.1信息粒化

1979年,LAzadeh教授提出了“信息粒化”(Information Granulation)的概念。信息粒化就是通过一定的划分准则,将原始数据中难以辨别,或者具有特定功能相似的数据聚集成多个集合,构成一个个信息粒,这种信息处理的方式称之为信息粒化。一般形式如下:

2.2基于遗传算法和BP学习的小波神经网络预测

2.2.1遗传算法的使用

遗传算法(Genetic Algorithm)是一种模拟生物进化机制的算法,具有较好的收敛性、极高鲁棒性和广泛适用性,可有效提高模型预测精度。因此,文章采用全局搜索能力较好的遗传算法优化网络参数,步骤如下。

2.2.2小波神经网络的建立

小波神经网络是在BP神经网络基础上,以小波基函数作为隐含层节点传递函数,信号前向传播的同时误差反向传播的神经网络。文章选取Morlet母小波基函数作为隐含层小波基函数:

采用梯度修正算法高模型的预测精度、使预测输出更接近期望输出,修正过程如下:

3实证分析

文章选择我国股票市场中的上证指数作为研究数据。文章选取201.4 年1.2月2.2 日至2016 年3 月16 日的300 个交易日的上证指数开盘数据进行预测,数据源于新浪财经。将300个开盘数据每4 天划分成一个数据粒,划分成75个数据块,隶属函数的参数即对应模糊上界,模糊中值和模糊下界。文章使用模糊下界和模糊上界作为股票指数所在的区间。

以股指分块数据的上界为例,选取前72个数据作为神经网络的训练集,后3个数据作为测试集。文章选取前6个数据作为小波神经网络的输入。隐含层节点的数目可根据经验公式[KF(]m+n[KF)]+α 计算,其中α 是取值0~10之间的常数,经过多次尝试隐含层节点为1.3时效果最好,输出层节点个数为1,文章的小波神经网络结构为6-1.3-1。

用遗传算法计算小波神经网络测初始状态,这里文章基于Matlab的Gatbx遗传算法工具箱进行编写。具体的参数设置为:①个体数目:50;②最大遗传代数:20;③变异概率:005;④交叉概率:08;⑤代沟:09。

采用梯度下降法训练小波神经网络,梯度下降训练具体参数如下:(1)小波神经网络权值学习速率η1=002;(2)小波基函数伸缩、平移因子学习速率η1=001;(3)小波神经网络最大迭代次数为600次。训练结果和训练误差如下。

利用训练好的小波神经网络得到2016年3月1日~3月16日的模糊上界的预测值。类似地,对上证指数模糊中间值以及模糊下界进行相同的处理方式,可以得到具体的股指预测区间为[2.73.6,2.889]、 [2.705,2.877]和[2.74.3,2.960]。2016年3月1日~2016年3月16日股指区间预测结果和实际股指图如下所示。

由上图可以看出,2016年3月1日―2016年3月16日一共1.2个交易日的数据几乎全部属于小波神经网络预测区间,并且模型预测区间波动较小,预测较为精确。模型可以较好地预测股票指数在没有重大政策影响的情况下的波动情况。

对于模型预测误差,本文采取均方根误差(RMSE),平均绝对百分比误差(MAPE),最大绝对误差百分比(MaxAPE)这三项指标来进行衡量。按照如下计算公式计算得到预测结果误差并得到计算结果:

4结语

文章提出了一种基于模糊粒化和遗传算法优化的小波神经网络股票指数区间预测模型。该模型通过对上证指数开盘数据进行模糊粒化,建立一个基于遗传算法优化的小波神经网络,并对未来几日的上证指数进行预测。实际结果表明,这一预测模型可以较好地预测未来4日上证指数的波动区间,并且具有较高的预测精度,可以作为股票投资者的一种投资参考,有效地规避风险,从而获取更大的收益。

参考文献:

[1]王文波,等基于EMD与神经网络的中国股票市场预测[J].系统工程理论与实践,2010,30(6):102.7-103.3.

[2]任崇岭,等基于小波神经网络的短时客流量预测研究[J].科学技术与工程,201.1,1.1(2.1):5099-5.103.

[3]潘晓明,等基于遗传算法神经网络集成股票市场预测研究[J].广西师范学院学报,2007,2.4(1):77-83.

[4]刘沛汉,等基于遗传算法优化神经网络的光伏电站短期功率预测[J].水电能源科学,2016,3.4(1):2.1.1-2.1.4.

第8篇:神经网络的概念范文

【关键词】信息安全;技术;矩阵模型;神经网络效应

1.IT网络安全策略的趋势

网络是IT 中的一个大的概念,如何能够在其中解决上述的问题,是有很多新技术、新产品拿来借鉴的。今天要提到的应对策略,则是希望通过对新技术的分析和融合,从而辅助决策者的判断,让我们结合自身的运作经营模式,产生独到的思路和理念,将其融入到我们企业网络建设的安全防护中去,才能做到企业的网络安全防护适应自身、有特色,才会做到发展同时而不被技术和产品的更新所牵制。

2.采用矩阵式架构建立网络资源平台

2.1现有的网络管理模式分析

这里提到的网络双向管理,主要就是逻辑上的纵向安全分级管理,以及横向的企业应用分区分域管理。

纵向的企业内部分级主要就是完成对物理节点的接入进行vlan 控制、端口隔离等逻辑网络设置,在某些时候可以减小网络风暴、Ddos 等攻击的作用域,但仅限于对此类攻击范围的最小化,而对具体的攻击包并无法进行识别和处理,这种纵向分级的措施只是把网络风暴和各种基于网络的病毒包控制在一定的区域内发生,并没有从实际上将其隔离出网络。

横向的企业应用,也就是依赖于IP协议的网络应用,这种管理只发生在QSI-7层模型的会话层、应用层以及表示层,数据包的加密和解密过程也都在这些逻辑层进行,而真正传送数据包的网络并没有做任何限制,只是简单的依赖于网络的传输协议,协议通过就可以进行传输,其目的地址的安全性对整个网络是公开和透明的。表现在企业内部最主要的安全漏洞就是基于C/S体系开发出来的软件系统,只要在网络内,任何PC都具备对数据库进行访问的权限。在一定程度上,此时的网络架构的横向应用管理是存在一定的风险性的。

端口的带宽限制:这种情况会表现在网络系统的某些区域出现带宽吃紧,而某些区域的带宽空闲很大,资源不能释放给其他吃紧的区域,让企业的网络这边空闲而那边却拥堵的厉害,往往是让系统管理人员对整个网络系统的运行状况无法捉摸,不能做出很准确的维护判断。

2.2建立矩阵网络模型的新思路

网络是一种资源,这种资源的缺失是以它的带宽以及负载能力为主要指标的,再加之不断增长的终端设备,其网络需求才是最终影响网络速度的主要因素。网络安全的设计一定要围绕终端设备中运行的网络应用展开。由此可看,我们对网络的设计实际上可以转变为如何去平衡这种资源的消耗和补偿。

要解决这个问题,笔者建立了一种二维矩阵逻辑模型,命名ax=by为线性公式,a,b为补偿值,从而使得45度的中心角度分割线将其分为上下两部分,上边的部分被定义为网络资源补偿区,下边的部分定义为网络资源的消耗区,中心的这条线由原点开始允许其无限的向外延展,但其运动轨迹始终是围绕着x=y 的这条线上下调整着,a,b的数值即为调整值。

调整的过程也就是网络资源消耗和不断补充的过程,在这个过程中,这条向外无限延展的线应根据实际应用数据量伸长与缩短,可伸长是体现网络具有无限可扩的特点,缩短是体现了网络的资源得到了最可能的节省。

在网络资源使用级别的定义中,我们可以利用ax=by线性公式的a,b的比值与1的比较来完成具体节点的应用等级的设定,即当a=b时,此时的节点网络应用等级最高,当a>b时,网络应用等级会随着资源的补充而逐渐提高,当a

根据这种网络模型建立起来的网络架构,具备资源耗尽检测机制和资源补充机制,每个单独的网络应用对资源的需求不受本身节点的瓶颈影响,有了补偿机制,再结合运行级别的设定,就可借用此机制顺畅的运行在网络中。

通过对线性公式的观察,我们不难发现,在资源消耗区距离中心分割线越近的节点,网络应用等级最高,反之,等级就越低;在资源补偿区,距离中心分割线越近的网络资源最不易被释放,反之,越远越容易被释放。

这种概念模型能够解决网络应用中的等级设定与资源分配的问题,那么基于矩阵模型建立网络结构,就可以适应未来网络结构的变化,达到资源可控的目的。其模型图如下。

网络资源矩阵辑模型图

3.神经网络效应与网络安全防护

在传统思维中我们总是在网络边界增加防火墙来降低攻击域,这会牺牲更多的网络资源为代价,这会造成资金投入的大量浪费。如果我们能够不去考虑边界的扩展安全,而是将“云”里所有的节点都虚拟化,到处都是边界,那么,有没有一种模型能够处理这种虚拟“云”的安全问题呢?

这就需要一种新的概念模型来降低扩展资源的投资风险,将“云”中的每个虚拟个体作为“神经元”,从而形成牵一发动全局的“神经网络”。

“神经网络”这个概念是人们从医学领域里首先认识到的,是建立AI人工智能机器人的雏形概念模型的方法论,也就是说,利用可遍布全身的神经网络来搜集信息传输给大脑,达到让机器人做出行为判断的目的。那么,可不可以也把这种概念引入到网络的安全防护的建设中呢?我们可以通过以下科学分析来得出答案。

网络带宽和应用是可被分配和共享的资源,两者都具有“云”的特性,那么,在没有任何防护机制在其中运行的情况下,“乌云”是很容易产生并逐渐扩大的,这里的“乌云”是一种比喻,是形容存在网络中的某些子域。“乌云”的产生会让网络病毒大面积发作、某些节点对所有出口进行非法侦测和频繁扫描的状况,从而形成对整个网络的威胁。

如果把所有的网络资源都当成“神经元”,再建立一种管理机制将其控制起来,就会形成遍布整个云的“神经网络”,当某处出现问题时,控制机制启动,直接将其阻断或者隔离出网络,就会非常有效的控制网络威胁的大面积传播。

另外,网络云的不断扩大,其边界也在不断扩展着,这时只要在接入网络的新子域中建立“神经元”,就可以使整个网络“云”“知道”其存在了,能够通过客观的识别过程来判断其对每个个体“神经元”的友好程度,从而实现了网络的安全扩展的功能。通过以上对“神经网络”概念的设想,可实现整个网络的自我感知和修复功能,加上牵一发而动全局的机制,结合我们企业跨地区的网络结构特点,可以有力的保障其稳定和高效运行。

【参考文献】

[1]百度词条.关于云计算的若干描述.

第9篇:神经网络的概念范文

关键词:信用风险预警; 模糊神经网络; 模因算法; 粗糙集

中图分类号:TP301.6 文献标识码:A文章编号:2095-2163(2013)06-0010-05

0引言

近年来,人工神经网络已广泛应用于信用风险预警等金融风险管理领域,研究表明神经网络预测准确性优于统计判别分析等传统预警方法,但其中的“黑箱”操作等缺陷却也导致了神经网络在信用风险管理领域的应用遭到多方质疑[1-2]。源自模糊理论与神经网络相融合的模糊神经网络(Fuzzy Neural Network,FNN)提高了网络的透明性、启发性及鲁棒性,在一定程度上克服了神经网络的“黑箱操作”,然而FNN也存在“维数灾难”、结构复杂、学习算法冗长、局部早熟等问题,由此也限制了其在金融风险管理领域中的应用[3]。据此,本文试图在对模因算法(Memetic Algorithms,MA)进行改进的基础上,结合粗糙集(Rough Set,RS)和模糊神经网络提出一种模因进化型粗糙模糊神经网络(MA-RSFNN)模型,旨在利用模因算法进行模糊神经网络的训练学习,发挥模因算法的全局优化能力,消减网络陷入局部早熟的可能性,使网络具有进化和学习的双重智能,同时借助粗糙集知识约简精炼训练集、降低输入维度,避免“维数灾难”现象。

1模因算法

模因算法(Memetic Algorithms,MA)由Moscato和Norman等人于1992年提出,是一种超启发式全局搜索混合算法,主要思想源自道金斯的文化进化思想和达尔文的自然进化法则[4]。其原理是在全局搜索策略中有机集成局域搜索策略,利用局部搜索策略的局部寻优能力提高算法的性能和收敛速度。相关研究表明模因算法在搜索过程中兼顾深度和广度,不仅有较强的全局寻优能力,同时算法收敛速度快,在许多问题上的求解获得了比遗传算法收敛速度更快[6-9]。

经典的模因算法通常采用遗传算法作为全局搜索策略,因此算法流程与遗传算法类似。根据文献[5],模因算法的流程如图1所示。

2模因算法改进

模糊神经网络的训练学习是一个连续函数优化过程,以遗传算法为基础的模因算法能有效求解组合优化问题,但对连续空间问题的求解则效率不高。粒子群算法是一种源自对鸟类等生物群体觅食行为进行模仿的实编码优化算法,其概念简单、结构简洁,是求解实编码优化问题的有力工具。本文提出一种以粒子群算法为全局搜索策略,BP算法为局部搜索策略的改进型模因算法,以期设计出一种高效的模糊神经网络学习算法。

粒子群算法(Particle Swarm Optimization ,PSO)是一种基于群体智能的全局优化算法,其灵感源自鸟群、蚁群等生物群体的觅食过程[10-11]。目前,具有概念简单、算法简洁、隐含并行及全局收敛等优点的粒子群算法已广泛应用到决策分析、知识发现等领域[12-13],并取得了丰硕研究成果。基本粒子群算法的数学描述如下[10]。

假设一颗微粒代表寻优空间中的一个解,算法初始化时随机生成一定数量的微粒构成种群,而后通过不断随机有向迭代寻求问题最优解。在迭代过程中,微粒通过跟踪个体及种群历史最优值,按式(1)、(2)不断调整个体的速度和位置以实现向最优解靠拢。

其中,式(3)为速度vij的调整量;速度vij为位置xij的调整量;w∈[0.4,0.9]为惯性因子;c1=c2=2.0为学习因子; r(·)∈(0,1)为随机数;pij和pg分别为个体及群体历史最优值。

2.2改进型模因算法

改进型模因算法基本流程如图2所示。

3模因进化型模糊神经网络

3.1网络结构

信用风险预警通常为多输入单输出的问题,参照文献[14-15]设计的模糊神经网络拓扑结构如所图3所示。

3.2网络学习算法

(1)编码。微粒的坐标值代表了模糊神经网络的模糊参数与权值,其编码如图4所示。

其中,yi为实际输出;yi为期望输出,P为群体规模。

(3)算法步骤。学习算法的主要步骤如下:

步骤一:初始化。设置全局搜索策略和局部搜索策略的相关参数,随机生成种群。

步骤二:BP算子。采用BP算法对每个个体进行局部寻优。

步骤三:算法终止判断。如果算法满足终止条件则跳转步骤六,否则跳转步骤四。

步骤四:PSO算子。①根据式(4)计算每个个体的适应值;②个体及群体历史最优位置调整;③按式(1)调整微粒速度;④按式(2)调整微粒位置。

步骤五:BP算子。采用BP算法对每个个体进行局部寻优,产生新群体,跳转步骤三。

步骤六:算法结束。

其中,算法终止条件:① MSE最大进化代数。

BP算子的目标函数为式(4)所示的适应值函数,学习过程中,网络参数与权值按以下数学公式作调整:

上述模因进化型模糊神经网络采用模因算法对网络进行学习与训练,使得模型具备了学习与进化的双重智能,但该模型也存在一般模糊神经网络的“维数灾难”现象。为此,采用粗糙集知识约简对模型输入数据进行前置处理,简化训练集、减少输入维数,从而降低网络结构的复杂程度,避免“维数灾难”现象。前置处理的主要步骤如下:

(1)指标初选和数据预处理

在考虑数据可获取性的前提下初步建立预警指标体系,指标体系要求涵盖各方面的信息,力图从全方位、多层次反映信用风险特征。

数据预处理主要是根据指标的特性,对连续型预警指标的数据进行离散化处理。数据离散化的原则是保持数据集分类或决策能力不变的前提下尽可能压缩数据。

(2)建立决策表

以指标初选和数据预处理后的数据为基础,建立如表1所示的决策表。

(3)知识约简

对建立的决策表进行约简处理,得到条件属性的相对约简,选取相对约简所代表的预警指标组成指标集作为模型的输入指标体系。

5模型在信用风险中的应用

从商业银行的角度看,信用风险是指借款人的违约而造成的损失可能性。本文从商业银行的企业贷款违约方面研究模型在信用风险评估中的应用,以检验模型在金融风险管理领域中的应用成效。

5.1指标初选与数据采集

在研究国内外相关成果的基础上,参考相关商业银行的企业绩效评价指标体系[16-19],选择涵盖企业盈利能力、偿债能力、成长能力及营运能力等方面的共21个指标构成初选指标集,如表2所示。

5.2粗糙集前置处理

(1)数据离散化与决策表的建立

采用等频率划分算法在保持数据分类能力的前提下对数据进行离散化处理,断点集数k可通过试验获得,一般取k=3。在数据离散化的基础上,以初选指标为条件属性,属性Bc(1:贷款违约公司,0:贷款正常公司)为决策属性,建立信用风险预警的决策表,如表3所示。

(2)属性约简

5.3模型训练学习

学习算法的相关参数初始化如下:

(1)模糊子集数设为3(代表高、中、低),则该模型为6-18-3-1结构的模糊神经网络,输出Y为企业违约信号(1:违约;0:不违约)。

(2)参数初始化。网络的模糊参数及权值随机初始化,隶属中心∈[-1,1],隶属宽度∈(0,1],耦合权值∈(-1,1)。

(3)模因算法的参数设置。PSO算子随机生成规模M=30的种群,w=0.729, c1=c2=1.49,[Vup,Vdown]为[-1,1],Vmax=0.3,BP算子的学习率η=0.005。

(4)训练终止条件:①适应值10 000。

在Matlab7.0环境中,编程实现上述的模型与算法,采用训练数据集的150份数据对模型进行训练学习,训练过程误差变化如图5所示。经过3 000多代的进化,MSE达到了0.000 281。

采用测试集的数据对预警模型进行仿真实验,表4汇总了三类模型的实验结果,从中可以看出MA-RSFNN模型的预测准确率高达90%,相比BP神经网络及单纯模糊神经网络均有了大幅度提高。无论是第一类错误还是第二类错误MA-RSFNN模型的表现都最好。

6结束语

模糊神经网络具有启发性、透明性等特征,可处理模糊信息,能避免神经网络的“黑箱操作”,但其存在“维数灾难”现象、结构复杂及收敛性差等缺陷。本文所提出的MA-RSFNN模型将模因算法和粗糙集理论融入模糊神经网络,发挥模因算法的全局搜索能力提升模糊神经网络的学习能力,借助粗糙集知识约简的降维消冗能力对训练数据进行降维消冗处理,从而精简网络结构,避免网络陷入“维数灾难”。应用实例的结果表明了新模型的有效性,可望为金融风险管理提供一种新方法和新思路。

参考文献:

[1]MIN J H, LEE Y C. Bankruptcy prediction using support vector machine with optimal choice of kernel function parameters[J]. Expert Systems with Applications, 2005, 28 :603-614.

[2]BAHRAMMIRZAEE A. A comparative survey of artificial intelligence applications in finance: artificial neural networks, expert system and hybrid intelligent systems[J].Neural Comput & Applic,2010,19:1165-1195.

[3]HAMDANI T M, ALIMI A M, FAKHRI K. Enhancing the structure and parameters of the centers for BBF fuzzy neural network classifier construction based on data structure[A]// Proceedings of the International Joint Conference on Neural Networks[C]. Piscataway NJ: IEEE, 2008: 3174-3180.

[4]MOSCATO P. On evolution, search, optimization, genetic algorithms and martial arts: towards memetic algorithms[A]//Tech. Rep. Caltech Concurrent Computation Program [C]. Pasadena, California, USA, 1989: 1-67.

[5]NORA S,CHRISTIAN S, ANDREAS Z.A memetic clustering algorithm for the functional partition of genes based on the gene ontology[C]//Proc of the 2004 IEEE Symposium on Computational Intelligence in Bioinformatics and Computational Biology.San Diego,USA,2004:252-259.

[6]DAWKINS R. The selfish gene[M].UK:Oxford University Press,1976.

[7]MOSCATO P, NORMAN M G. A memetic approach for the traveling salesman problem-implementation of a computational ecology for com-binatorial optimization on message-passing systems[C]// Proceedings of the International Conference on Parallel Computing and Transport Applications. Amsterdam:IOS Press,1992: 177-186.

[8]RADCLIFFE N J, SURRY P D. Formal memetic algorithms[J]. Evolutionary Computing, 1994,865: 1-16.

[9]XU Xin,HE H G.A theoretical model and convergence analysis of memetic evolutionary algorithms[C]//Proc of Int Conf on Natural Computation.Changsha,2005:1035-1043.

[10]KENNEDY J. EBERHART R C. Particle swarm optimization [A]// Proceedings of IEEE, International Conference on Neural Networks [C]. Piscataway NJ:IEEE, 1995: 1942-1948.

[11]KENNEDY J. The particle swarm: social adaptation of knowledge [A]//Preceedings of Evolutionary Computation [C] ,Indianapolis: IEEE, 1997:303-308.

[12]EBERHART R C, SHI Y H. Particle swarm optimization: developments, applications and resources [A]//Proceedings of the IEEE Congress on Evolutionary Computation [C]. Piscataway, USA: IEEE Service Center, 2001:81-86.

[13]吴启迪,汪镭. 智能微粒群算法研究及应用[M]. 南京:江苏教育出版社,2005-04.

[14]AKAGI T, SUGENO M. Fuzzy identification of systems and its application to modeling and control[J]. IEEE Transactions on Systems, Man, and, Cybernetics, 1985,15(1): 116-132.

[15]黄福员. 金融风险预警的MPSO-FNN模型构建与应用[J]. 计算机工程与应用,2009,45(14):210-212.

[16]ALTMAN E I, MARCO G, VARETTO F. Corporate distress diagnosis: comparisons using linear discriminant Ana analysis and neural networks[J]. Journal of Banking and Finance, 1994, 18: 505-529.

[17]李志辉, 李萌. 我国商业银行信用风险识别模型及其实证研究[J]. 经济科学, 2005(5): 61-71.

相关热门标签