卷积神经网络实现过程精选(九篇)
前言：一篇好文章的诞生，需要你不断地搜集资料、整理思路，本站小编为你收集了丰富的卷积神经网络实现过程主题范文，仅供参考，欢迎阅读并收藏。
第1篇：卷积神经网络实现过程范文
中图分类号：TP391.41 文献标识码：A 文章编号：1672-3791（2017）04（c）-0028-02
该文采用随机Dropout卷积神经网络，笔者将此法的优点大致概况为将繁琐杂乱的前期图像处理简易化，原来的图像不可以直接输入，现在的原始图像即可实现直输功能，因其特性得到广泛研究与应用。另外，卷积神经网络在图像的处理中能够将指定的姿势、阳光的照射反应、遮避、平面移动、缩小与放大等其他形式的扭曲达到鲁棒性，从而达到良好的容错能力，进而可以发现其在自适应能力方面也非常强大。因为卷积神经网络在之前建立网络模型时，样本库为训练阶段提供的样本，数量有限，品质上也很难满足要求，致使网络权值参数不能够完成实时有效的调度与整理。
1 卷积神经网络
据调查卷积神经网络由K.Fukushima在80年代提出，那时候它被称为神经认知机，这一认知成为当时的第一个网络，后来网络算法发生了规模性变革，由LeCun为代表提出了第一个手写数字识别模型，并成功投入到商业用途中。LeNet被业界冠以卷积神经网络的代表模型，这类系统在很多方面都起到了不容小趋的作用，它多数应用于各类不同的识别图像及处理中，在这些层面上取得了重要成果。
笔者经查阅资料发现卷积神经网络其实是由两个种类组合而来，它们分别是特征提取、分类器，这种组成我们可以看到特征提取类可由一定数量的卷积层以及子采样层相互重叠组合而成，全部都连接起来的1层或者2层神经网络，就是由分类器来进行安排的。卷积神经网络中的局部区域得到的感觉、权值的参数及子采样等可以说是重要网络结构特征。
1.1 基本CNN网络结构
图1中就是最为经典的LeNet-5网络模型结构图。通过图1中我们可以获悉，该模型有输入输出层，除这两层外还有6层，其征提取可在前4层中体现，后两层体现的是分类器。
在特征提取部分，6个卷积核通过卷积，是图像经尺寸为32×32的输入而得见表1，运算过程如式（1）：
（1）
式中：卷积后的图像与一个偏置组合起来，使函数得到激活，因此特征图变诞生了，通过输出得到了6个尺寸的特征图，这6个尺寸均为28×28，近而得到了第一层的卷积，以下笔者把它简要称为c1；那么c1层中的6个同尺寸图再经由下面的子采样2×2尺寸，再演变成特征图，数量还是6个，尺寸却变成了14×14，具体运算如公式（2）：
通过表2我们可以使xi生成的和与采样系数0.25相乘，那么采样层的生成也就是由加上了一个偏置，从而使函数被激活形成了采样层的第1个层次，以下我们简要称为s1；这种过程我们可反复运用，从而呈现出卷积层中的第2层，可以简要称之为c2，第2层简称s2；到目前为止，我们对特征的提取告一段落。
神经网络的识别，我们可以看到它是由激活函数而形成的一个状态，这一状态是由每个单元的输出而得；那么分类器在这里起到的作用是将卷积层全部连接起来，这种通过连接而使1层与上面1层所有特征图进行了串连，简要称之为c5；因而2层得到了退变与简化效应，从而使该神经网络成为经典，简要称之为F6，向量及权值是由F6 输送，然后由点积加上偏置得到结果的有效判定。
1.2 改进的随机DropoutCNN网络
1.2.1 基本Dropout方法
神经网络泛化能力能够得到提升，是基于Dropout方法的深入学习。固定关系中存在着节点的隐含，为使权值不再依附于这种关系，上述方法可随机提取部分神经元，这一特性是通过利用Dropout在网络训练阶段中随机性而得，对于取值能够有效的存储及保护存留，这一特性在输出设定方面一定要注重为0，这些被选择的神经元随然这次被抽中应用，但并不影响下次训练的过程，并具还可以恢复之前保留的取值，那么每两个神经元同时产生作用的规避，可以通过重复下次随机选择部分神经元的过程来解决；我们通过这种方法，使网络结构在每次训练阶段中都能呈现不同变化，使一些受限制的特征，不再受到干扰，使其真正能展现自身的优点，在基于Dropout方法中，我们可以将一些神经元的一半设为0来进行输出，随机神经元的百分比可控制在50%，有效的避免了特征的过度相似与稳合。
1.2.2 随机Dropout方法
Dropout方法就是随机输出为0的设定，它将一定比例神经元作为决定的因素，其定义网络在构建模型时得到广泛采用。神经元基于随机Dropout的方法是该文的重要网络输出途径，通过设定输出为0，使其在网络中得到变。图2是随机Dropout的加入神经元连接示意图，其在图中可知两类神经元：一类是分类器的神经元，这一阶段的神经元可分榱讲悖涣硪焕嗌窬元是由输出而形成的层次。模型在首次训练的阶段会使神经元随机形成冻结状态，这一状态所占的百分比为40%、60%，我们还可以看到30%及50%的神经元可能在网络随机被冻结，那么这次冻结可以发生在模型第二次训练，那么第三次神经元的冻结可从图示中得出70%及40%，还可以通过变化用人工设置，其范围值宜为35%～65%，那么网络神经元连接次序的多样化，也因此更为突出与精进，网络模型的泛化能力也得到了跨越势的提高。
2 实验及结果分析
2.1 实验方法
卷积神经网络通过实验，通过输入层呈现一灰色图像，该图像尺寸被设定成28×28的PNG格式，这里我们以图像框架图得到双线性差值，用来处理图像及原视频中的影像，将框架图的卷积核设定为5×5的尺寸，子采样系数控制值为0.25，采用SGD迭代200次，样本数量50个进行设定，一次误差反向传播实现批量处理，进行权值调整。实验采用交叉验证留一法，前四层为特征提取层，C1-S1-C2-S2按顺序排列，6-6-12-12个数是相应特征，通过下阶段加入随机Dropout，这阶段为双层也就是两层，进行连接，连接层为全体，从而可知结果由分类得出，又从输出层输出。
2.2 实验结果分析
识别错误率可通过卷积神经网络模型，及训练过程与检测过程中可查看到的。在训练阶段中，我们可以将Dropout的网络中融入200次训练，在将没有使用该方法的网络进行相互比较分析，我可以得知，后者训练时的识别错误率稍高于前者，前者与后的相比较所得的差异不是很大，进而我们可知使用Dropout方法，对卷积神经网络在泛化能力上得到有效的提升，从而有效的防止拟合。
3 结语
笔者基于Dropout卷积神经网络，人体行为识别在视频中进行， 通过Weizmann数据集检测实验结果，随机Dropout在分类器中加入。通过实验可以得知：随机Dropout的加入，使卷积神经构建了完美网络模型，并且使其在人体行为识别中的效率赢得了大幅度的提升，近而使泛化能力可以通过此类方法得到提高，可以防止拟合。
参考文献
[1] 其它计算机理论与技术[J].电子科技文摘，2002（6）.
第2篇：卷积神经网络实现过程范文
关键词： 列车车号； 车号识别； 卷积神经网络； LeNet?5
中图分类号： TN911.73?34； TP391 文献标识码： A 文章编号： 1004?373X（2016）13?0063?04
Abstract： For the character recognition of freight train license， the improved recognition method based on convolutional neural network LeNet?5 is proposed. Considering the structural features of the hierarchical convolutional neural network and local field， the parameters of quantity and size of each layer feature pattern in the network were improved correspondingly to form the new network model suitable for the freight train license recognition. The experimental results show that the proposed method has strong robustness to solve the license breakage and stain， and high recognition rate， which provides a guarantee for the accuracy of the entire license recognition system.
Keywords： train license； license recognition； convolutional neural network； LeNet?5
0 引 言
目前货运列车车号识别系统[1?2]主要是基于RFID技术实现的，但是，由于该系统的准确性依赖于列车底部安装的RFID标签，而RFID标签容易损坏、丢失，因此，此类系统无法保证车号识别的准确性。为此，研究者开发了基于图像的货运列车车号识别系统，系统根据视频采集到的图像，利用模糊集合论[1?2]、人工神经网络[3]、支持向量机[4]以及隐马尔可夫模型[4]等技术进行车号字符的识别。但是，由于货运列车车号存在因喷涂方式而导致的单个字符断裂，或者列车长期的野外运行导致的车厢污损，车号字符的残缺等现象，这使得目前的基于图像的货运列车车号识别系统的鲁棒性与识别率还有待进一步提高。
LeNet?5[5?7]是由YannLecun等人提出的一种专门用于二维图像识别的卷积神经网络，该网络避免了人工提取特征依赖于主观意识的缺点，只需要将归一化大小的原始图像输入网络，该网络就可以直接从图像中识别视觉模式。LeNet?5把特征提取和识别结合起来，通过综合评价和学习，并在不断的反向传播过程中选择和优化这些特征，将特征提取变为一个自学习的过程，通过这种方法找到分类性能最优的特征。LeNet?5已经成功应用于银行对支票手写数字的识别中。
为此，本文将卷积神经网络LeNet?5应用于列车车号字符的识别中，为了使之适用于列车车号字符的识别需求，去除掉了LeNet?5中的一些针对手写字符识别而特别设计的连接方式及参数，并在此基础上，改变网络中各层特征图的数量以形成新的网络模型。
1 LeNet?5的改进
卷积神经网络可以从很多方面着手改进。诸如多层前馈网络，可以考虑在误差函数中增加惩罚项使得训练后得到趋向于稀疏化的权值，或者增加一些竞争机制使得在某个特定时刻网络中只有部分节点处在激活状态等。本文主要从卷积神经网络的层次化以及局部邻域等结构上的特点入手，考虑卷积神经网络中各层特征图数量及大小对网络训练过程及识别结果的影响。
以LeNet?5结构为基础，去除掉LeNet?5中的一些针对手写字符识别而特别设计的连接方式及参数，得到改进后的神经网络。在此基础上，改变网络中各层特征图的数量以形成新的网络模型。定义一种新的网络模型，将其命名为LeNet?5.1，该网络结构与LeNet?5基本相同，主要做出以下改变：
（1） 将原先LeNet?5所采用的激活函数由双曲正切函数修改为Sigmoid函数，此时，网络中所有层的输出值均在[0，1]区间内，输出层的最终结果也将保持在[0，1]区间内。
（2） 省略掉F6层，将输出层与C5层直接相连，连接方式为全连接，而不是原LeNet?5中所采用的径向基函数（RBF）网络结构。
（3） 简化原LeNet?5中的学习速率。原LeNet?5网络中采用的学习速率为一个特殊的序列，而在本网络中将学习速率固定为0.002。
（4） 输入数据原始尺寸为28×28，采取边框扩充背景像素的方法将图像扩充至32×32。
之所以做以上相关改动，是因为原始的LeNet?5就是专门为手写字符识别任务而特殊设计的，这就造成了LeNet?5网络中相关的预处理及参数的选择过程或多或少均带有一些针对特定问题的先验知识。例如激活函数中参数的选择，学习速率定的速率序列以及数据预处理殊的填充方式等，这些特定的设计使得LeNet?5在其他任务的识别过程中并不一定适用，或者需要进行长期的观察实验以选得一组针对特定任务的较好的值，造成了LeNet?5不能快速的应用于除手写字符外其他的识别任务中。
2 改进后的网络对列车车号字符的识别
车号经过分割之后为一个个的单字符图像，采用边框扩充背景像素的方法将其归一化为32×32，如图1所示。
由图1中可以看出，待识别的字符图像质量不高，有的数字字符出现残缺、断裂或者严重变形。这都给识别任务提出了一定的挑战。
本文采集到的车号图像来自于不同型号的货运列车。从中选取400幅图像作为训练集，另外选取400幅图像作为测试集。用上一节提出的LeNet?5.1网络进行训练，误分类率曲线如图2所示。可以看出，在LeNet?5.1训练过程中，训练MCR（Misclassification Rate）和测试MCR的变化过程相对稳定，验证了改进后网络结构的合理性。在经过16次的迭代之后，测试MCR降至最低（5.75%），之后基本保持稳定，即16次迭代之后，网络达到了当前的最佳训练效果，达到了收敛状态。这时，训练MCR为0.5%，测试MCR是5.75%。
训练过程中的误分类率曲线
而针对相同的数据，采用原始的LeNet?5进行训练和测试后，误分类率如图3所示。从图3中可以看出，LeNet?5经过了18次的迭代后，测试MCR才达到相对稳定的状态，降至6%，最终的训练MCR为1%。相比之下，经过简化和改进的LeNet?5.1，由于改进了原始的LeNet?5中专门为手写字符识别任务而特殊设计的一些预处理及函数选择等固定模式，并且精简了网络结构，使得LeNet?5.1在列车车号的识别方面具有了更快的训练速度和收敛速度，另外，最终达到的准确度也有所提升。
在证明了改进后的LeNet?5.1网络的合理性之后，增加训练图像的规模，采用10 000幅车号数字字符图像用来训练，5 000幅用来测试。为了与其他方法进行比较，采用相同的训练数据对车号识别中常用的三层BP网络进行训练和测试，这里采用的BP网络隐含层节点数量为450，学习速率采用0.01。实验结果比较如表1所示。从表1可以看出，改进后的LeNet?5.1网络的识别率比BP网络的识别率高出4.62个百分点，在识别速度方面，LeNet?5.1也明显优于传统的BP神经网络。
3 针对车型号字母识别而改进的神经网络及其结果
货运列车车号的组成是由车型号与车号共同组成的，因此还需要对车型号进行识别，车型号中除了有阿拉伯数字字符之外，还有很多表示车种及车厢材质等属性的英文字母，这些英文字母同样采用卷积神经网络来识别。由于车型号很多，初期针对若干常用型号的列车进行识别，以测试网络的性能，后期对全车型进行识别。
3.1 常用列车车型的识别
在试运行阶段主要识别的车型局限于7种主要的车型：C64K，C64H，C70A，C70E，C80，C62AK和C62BK。由于车种都为敞篷车（第一个大写字母C），主要对后面代表该车型载重量的两位数字以及最后代表车厢材质等属性的字母进行识别。考虑到车型号字符串的固定模式，如图4所示，可以分别建立两个不同的卷积神经网络分别用来识别数字和字母，由于之前已经解决了数字的识别问题，接下来主要进行字母的识别。要识别的代表车厢材质的字母共有6个：K，H，A，E，A和B，为了尽可能的避免因字母分割问题而导致的识别错误，把AK和BK分别作为一个整体来识别，那么需要识别的字符组合变为：K，H，A，E，AK和BK。由于识别种类的减少，可以对网络模型LeNet?5.1进行相应的简化，命名该模型为LeNet?5.2。
LeNet?5.2是在LeNet?5.1的基础上进行改动而得到的：
（1） 卷积层C1的特征图由6个减少为4个，相应地，S2层的特征图也由6个减少为4个。
（2） 卷积层C3的特征图由16个减少为11个，相应地，S4层的特征图也由16个减少为11个。
（3） 卷积层C5的特征图个数由120个减少为80个。
（4） 输出分类的数目由10个减少为6个。
另外，卷积层C3层与次抽样层S2层的连接情况如表2所示。
表2的连接方式采用与表1相同的思想，每一列都说明了C3层中的一个特征图是由S2中的那几个特征图结合而成。卷积层C3中第0个至第5个特征图分别与次抽样层S2中的两个特征图相连接，一共6种组合。C3中的这6个特征图负责抽取上一层中某两个特征图所潜在的特征。C3层中第6个至第9个特征图中每个特征图分别对应上一层中的3个特征图的组合，而C3层中最后一个特征图则与上一层中所有的特征图相连接。这样卷积层C3中的特征图就包含了次抽样层S2中多个特征图的所有组合，这样使得卷积层C3抽取到的特征比S2层更抽象、更高级，同时，相对于输入数据，C3层相比S2层具有更好的对位移、扭曲等特征的不变性。
相比LeNet?5.1，LeNet?5.2将网络层中的特征图数量做了相应的削减，减少了网络中可训练参数的数量。
实验数据来自以上提到的7类常用车型。经过前面过程的定位和分割之后，将分割之后代表车厢材质等属性的字母图像收集起来。本实验中，共收集到6种代表不同车厢材质属性的字母共800幅，其中400幅用作训练数据，另外400幅用作测试数据。
图5为LeNet?5.2使用以上数据训练过程中得到的MCR曲线图。由图5中可以看出，在经过13次迭代之后，测试MCR达到最低的3.25%，并且在随后的迭代过程中基本保持稳定，而对应的训练MCR为0.75%。
3.2 全车型识别
经过对铁道行业标准《铁路货车车种车型车号编码》（TB2435?93）里面包含的所有车型号进行统计，除了10个阿拉伯数字外，包括了除O，R，V，Z四个字母外所有的大写英文字母，总共有32类字符。
训练过程中的误分类率曲线
针对车型号的识别需求，本文在LeNet?5.1的基础上提出了一种新的网络模型，称之为LeNet?5.3。与LeNet?5.2相反，LeNet?5.3是在LeNet?5.1的基础上对网络中各层的特征图数量进行扩充：
（1） 卷积层C1的特征图由6个增加至8个，相应地，S2层的特征图也由6个增加至8个。
（2） 卷积层C3的特征图由16个增加至24个，相应地，S4层的特征图也由16个增加至24个。
（3） 卷积层C5的特征图个数由120个增加至240个。
（4） 输出层神经元的个数由10个增加至32个。
其中卷积层C3层与次抽样层S2层的连接情况参考LeNet?5.2所采用的原则，使卷积层C3中的特征图包含次抽样层S2中多个特征图的主要组合。
与LeNet?5.1相比，LeNet?5.3需要有更多的输出类别，各层的特征图数量也做了相应的增加，以增加整个网络的识别性能。为了验证改进后的LeNet?5.3的性能，收集了大量真实列车车厢图片，经过车号定位和分割之后，将单个的数字字符或者大写字母字符图像尺寸依次归一化为32×32，分别建立训练图像库和测试图像库。
由于LeNet?5.1各层的特征图数量多，因此该网络涉及到的可训练参数也大大增加，这也意味着需要更多的数据样本用于网络训练。若训练集和测试集规模依然采用跟前面实验中一样的各400幅，训练过程中的误分类率曲线如图6所示，图6中的曲线变化非常不稳定，波动较大。测试MCR达到最低点后又突然升高，不能获得稳定的分类结果，训练过程无法收敛。
网络训练过程中无法收敛的主要原因在于相比网络中过多的需要训练确定的权值，数据集规模过小，已然不能满足学习的要求。从特征图角度来看，网络无法通过不充足的训练样本学习到稳定而有效的特征图组合，从而导致了网络不收敛。要解决这个问题需要加大测试样本的数量。
为了训练和测试LeNet?5.3，对数据集进行了扩充：训练图像库包含字符图像4 000幅，测试图像库包含字符图像2 000幅。训练过程中的误分类率曲线如图7所示。从图7中可以看出，经过32次迭代之后网络趋于收敛，并且达到了较好的识别率。
4 结 语
本文针对货运列车车号识别的难题，提出了基于卷积神经网络LeNet?5改进后的识别方法，主要对卷积神经网络中各层特征图数量及大小进行了改进。且与传统的BP网络进行了比较，从实验结果可以看出，改进后的卷积神经网络无论在鲁棒性还是识别率以及识别速度上都优于BP网络，可以很好地胜任列车车号识别任务。
参考文献
[1] 宋敏.铁路车辆车号自动识别系统的研究和开发[D].天津：河北工业大学，2011：1?5.
[2] LU S， CHEN B M， KO C C. Perspective rectification of document images using fuzzy set and morphological operations [J]. Image and vision computing， 2005， 23（5）： 541?553.
[3] SHAH P， KARAMCHANDANI S， NADKAR T， et al. OCR?based chassis?number recognition using artificial neural networks [C]// Proceedings of 2009 IEEE International Conference on Vehicular Electronics and Safety （ICVES）. [S.l.]： IEEE， 2009： 31?34.
[4] CHEN D， BOURLARD H， THIRAN J P. Text identification in complex background using SVM [C]// Proceedings of 2001 IEEE Computer Society Conference on Computer Vision and Pattern Recognition. [S.l.]： IEEE， 2001： 621?626.
[5] LECUN Y， BOTTOU L， BENGIO Y， et al. Gradient?based learning applied to document recognition [J]. Proceedings of the IEEE， 1998， 86（11）： 2278?2324.
[6] LECUN Y A， BOTTOU L， ORR G B， et al. Efficient backprop [M]// Anon. Neural networks： tricks of the trade. Berlin： Springer Berlin Heidelberg， 1998： 9?50.
第3篇：卷积神经网络实现过程范文
关键词：物联网；人脸识别；视频网络
1物联网及人脸识别视频网络技术的发展
1.1物联网视频网络技术的发展状况
最近几年，随着物联网技术、图像处理技术以及数据传输技术的快速发展，视频网络技术应运而生并取得了长足的发展。当前，视频网络系统作为一种模拟数字控制系统，其具有非常成熟和稳定的性能，已广泛应用于实际工程中。虽然数字系统发展迅速，但尚未完全形成相应的体系，因此，混合数字和模拟应用程序逐渐迁移到数字系统将成为未来发展的主要趋势之一。当前，国内外市场上主流的产品主要有两种，即模拟视频数字网络系统、数字视频网络系统。前者技术先进，性能稳定，被广泛应用于实际工程应用中，特别是大中型视频网络项目。后者作为一种新兴技术，是一种通过以计算机技术和视频压缩为核心的新型视频网络系统，其有效的避免了模拟系统所存在的一些弊端，但未来仍需要进行不断的改进和发展。外部集成、视频数字化、视频网络连接、系统集成是未来视频网络系统发展的重要研究方向。数字化是网络的前提，而网络是系统集成的基础。因此，视频网络领域的两个最大发展特征是：数字化和网络化。
1.2人脸识别视频网络的发展状况
人脸识别技术作为模式识别领域中的一项前沿课题，截止目前，已有三十多年的研究历史。人脸识别目前是模式识别和人工智能的研究热点，目前主要采用AdaBoost分类器进行人脸区域的检测，人脸识别研究的内容大致分为以下内容：（1）人脸检测：其指的是在不同场景下的人脸检测及其位置。人脸检测是通过在整个输入的图像中找到一个合适的人脸区域为目的，并将该图像分为人脸区域和非人脸区域两部分。在实际的某些理想情况下，由于可以人为手动控制拍摄环境，因此，可以轻松确定人脸的位置；但是在大多数情况下，由于场景更加复杂，因此，人脸的位置是未知的。因而在实际的人脸识别视频网络过程中，首先必须确定识别场景中是否有人脸的存在，如果存在人脸，再进一步确定图像中人脸的具体区域。（2）人脸识别：将系统检测到的人脸特征信息与系统数据库中存在的已知人脸信息进行充分识别与匹配，以此获取相关信息，该过程的本质是选择正确的人脸模型和匹配策略。在实际生活的应用当中，由于成人的面部模型处于不断变化当中，且容易受到时间、光线、相机角度等方面的差异，因而很难用一张图纸表达同一个人的面部图像，这使得提取特征变得困难，由于大量的原始灰度图像数据，神经元的数量通常很大并且训练时间很长。除此之外，完全依赖于神经网络的识别方法具有当前计算机系统固有的局限性，尽管神经网络具有很强的感应能力，但是随着样本数量的增加，其性能可能会大大降低。简而言之，由于年龄，表情，倾斜度和其他表征对象的因素的多样性，很难进行人脸识别，因此，识别该对象的效果仍远未达到现实。目前，普遍采用AdaBoost算法来对出现在视频中的人脸区域进行检测，以此达到实时获取人脸图像的目的，AdaBoost算法的原理是通过训练得到多个不同的弱分类器并将这些弱分类器通过叠加、级联得到强分类器，AdaBoost算法流程如图1所示。（3）表情分析：即对面部表情信息（幸福，悲伤，恐惧，惊奇等）进行分析和分类。当前，由于问题的复杂性，正在对面部表情的分析进行研究，它仍处于起步阶段。心理学表明，至少有六种与不同面部表情相关的情绪：幸福，悲伤，惊奇，恐惧，愤怒和恶心。即与没有表情的面部特征相比，这六个表情的面部特征具有相对独特的运动规则。（4）生理分类：分析已知面孔的生理特征，并获得相关信息，例如种族、年龄、性别和职业。显然，此过程需要大量知识，通常非常困难和复杂。
2物联网卷积神经网络人脸识别方法分析
卷积神经网络是专门设计用于识别二维形状的多层感知器。通常，可以使用梯度下降和反向传播算法来训练网络。从结构上讲，卷积神经网络包含三个概念：局部感受野、权重共享和下采样，使其在平移，缩放，倾斜或其他形式的变形中相当稳定。当前，卷积神经网络被广泛用于模式识别，图像处理和其他领域。卷积神经网络（CNN）用于提取目标人脸图像的特征。训练网络后，将先前测试的模型用作面部分类器，微调可以缩短网络模型的训练时间。卷积神经网络的基本体系结构是输入层，卷积层（conv），归约层（字符串），完全连接层和输出层（分类器）。通常有多个卷积层+速记层，此程序实现的CNN模型是LeNet5，并且有两个“卷积+下采样层”LeNetConvPoolLayer。完全连接的层等效于MLP（多层感知器）中的HiddenLayer。输出层是一个分类器，通常使用softmax回归（有些人称为直接逻辑回归，它实际上是多类逻辑回归）。LogisticRegression也直接提供了该软件。人脸图像在视频监控中实时发送到计算机，并且面部区域部分由AdaBoost算法确定。在预处理之后，将脸部图像注入到新训练的预训练模型中进行识别。该过程如图2所示。
3物联网人脸识别视频网络多目标算法优化
多目标优化问题的实质是协调并在各个子目标之间达成折衷，以便使不同的子目标功能尽可能地最佳。工程优化的大多数实际问题都是多用途优化问题，目标通常相互冲突。长期以来，多目标优化一直受到人们的广泛关注，现在已经开发出更多的方法来解决多目标优化问题。如果多标准优化没有最差的解决方案，那么通常会有无限多的解决方案，这并不是最差的解决方案。解决面部强调时，人们不能直接应用许多次等解决方案。作为最后的决定，我们只能选择质量不是最低，最能满足我们要求的解决方案。找到最终解决方案的方法主要有三种。因此，只有通过找到大量有缺陷的解决方案以形成有缺陷的解决方案的子集，然后根据我们的意图找到最终的解决方案。基于此，多目标算法是通过将多准则问题转变为一个关键问题，这种方法也可以视为辅助手段。这种方法的棘手部分是如何获取实际体重信息，至于面部特征，我们将建议一种基于权重的多功能优化算法，该算法可以更好地反映脸部的特征。我们将人脸的每个特征都视为多个目标，并且在提取面部特征时，面部特征会受到外界的强烈影响，例如位置，光照条件和强度的变化，并且所有部位和每个部位都会受到影响。因此，我们可以使用加权方法从每个受影响的分数中提取不同的权重。通过开展试验测试，结果表明，在有多目标优化的算法的作用下，比在没有多目标优化的算法作用下人脸识别效果有所提高，大约提高了5—10个百分点。
4结论
鉴于多准则优化算法在科学研究的各个领域中的广泛使用，本文提出了一种多准则优化算法来对复杂的多准则人脸图像上的各种面部特征进行特征提取的多准则优化，以达到提高人脸识别率的目标、提高整个人脸识别视频网络系统的性能。
参考文献
[1]江斌,桂冠.基于物联网的人脸识别视频网络的优化方法研究[C]//物联网与无线通信-2018年全国物联网技术与应用大会论文集.2018.
[2]余雷.基于物联网的远程视频监控优化方法研究[J].科技通报,2014(6).
[3]张勇.远程视频监控系统的传输技术的实现[D].电子科技大学,2011(9)
第4篇：卷积神经网络实现过程范文
关键词：人脸识别技术；病毒管控；人工智能；神经网络
互联网在今天的社会中发挥着举足轻重的作用。如今社会，随着许多人工智能技术、网络技术、云计算等互联网技术不断发展，像人脸识别等技术的应用越来越广泛，在控制病毒传播途径等场合发挥了巨大作用，不断地提高着社会的安全性和便利性，不仅提高了防控中病毒检测效率，也为病毒的控制提供了可靠的技术方法，能够及时发现和控制公共场所的安全隐患因素，避免对社会经济、居民生活造成破坏，。但目前的人脸识别等技术还存在许多缺陷，需要完善和革新，充满着巨大的潜力和进步空间。
1人脸识别技术研究意义
人脸识别技术是一种生物特征识别技术，最早产生于上世纪60年代，基于生理学、图像处理、人机交互及认知学等方面的一种识别技术。相比于其他人类特征像指纹识别、声纹识别、虹膜识别等技术，人脸识别虽然存在人脸识别单一性低，且区分度难度高、易受环境影响等不足。但是人脸识别技术拥有速度快、大范围群体识别及非接触、远距离可识别等优势，都是其他生物识别识别技术所不具备的，而在传播性强、感染风险大的病毒传播过程中，这些显然是必须要考虑的重要影响因素。通过将人脸识别等人工智能技术引入信息管理系统，综合集成视频监控、图像处理、深度学习和大数据等技术，结合非接触测温、定位等技术，助力病情防控，在一定程度上推动病毒病情防控信息化、智能化发展进程。可作为加强公共场所的人员的体温实时监测、地址信息定位的监控管理，规范公共场所针对病毒传播的预防行为。
2人脸识别技术
2.1人脸检测技术
人脸检测是自动人脸识别系统中的一个关键环节。早期的人脸识别研究主要针对具有较强约束条件的人脸图象（如无背景的图象），往往假设人脸位置静止或者容易获取。人脸检测分为前深度学习时期，AdaBoost框架时期以及深度学习时期。前深度学习时期，人们将传统的计算机视觉算法运用于人脸检测，使用了模板匹配技术，依赖于人工提取特征，然后用这些人工特征训练一个检测器；后来技术发展，在2001年Viola和Jones设计了一种人脸检测算法，它使用简单的Haar-like特征和级联的AdaBoost分类器构造检测器，检测速度较之前的方法有2个数量级的提高，并且保持了很好的精度，称这种方法为VJ框架。VJ框架是人脸检测历史上第一个最具有里程碑意义的一个成果，奠定了基于AdaBoost目标检测框架的基础，使用级联AdaBoost分类器进行目标检测的思想是：用多个AdaBoost分类器合作实现对候选框的分类，这些分类器组成一个流水线，对滑动窗口中的候选框图像进行判定，确定检测目标是人脸还是非人脸。Adaboost框架技术的精髓在于用简单的强分类器在初期快速排除掉大量的非人脸窗口，同时保证高的召回率，使得最终能通过所有级强分类器的样本数数量较少。在深度学习时期，开始将卷积神经网络应用于人脸检测领域。研究方向有两种：一是将适用于多任务的目标检测网络应用于人脸检测中；另一种是研究特定的的人脸检测网络。人脸检测技术具有特殊唯一性和稳定性，在现今社会对于构建居民身份识别系统，病毒传播防控系统，以及计算机视觉交互模型的构建具有广泛的应用。人脸检测技术不仅作为人脸识别的首要步骤，也在许多其他领域发挥巨大影响，如人脸关键点提取、人脸追踪、基于内容的检索、数字视频处理、视频检测、安防监控、人证比对、社交等领域都有重要的应用价值。数码相机、手机等移动端上的设备已经大量使用人脸检测技术实现成像时对人脸的对焦、图集整理分类等功能，各种虚拟美颜相机也需要人脸检测技术定位人脸。评价一个人脸检测算法好坏的指标是检测率和误报率，我们定义检测率为：算法要求在检测率和误报率之间尽量平衡，理想的情况是达到高检测率，低误报率。
2.2人脸识别技术
目前主要流行的人脸识别技术包括几何特征识别，模型识别，特征脸识别和基于深度学习/神经网络的的人脸识别技术等。人脸特征识别主要通过对人脸面部结构特征如眼睛、鼻子等五官几何特点及其相对位置分布等，生成图像，并计算各个面部特征之间的欧式距离、分布、大小等关系该方法比较简单，反应速度快，并且具有鲁棒性强等优点，但是在实际环境下使用容易受检测的环境的变化、人脸部表情变化等影响，精度通常不高，细节处理上不够完善。模型识别技术主要包括隐马尔可夫模型、主动表象模型、主动形状模型等，识别率较高，并且对表情等变化影响较小。特征脸识别来源于主成分描述人脸照片技术（PCA技术），从数学上来讲，特征脸就是人脸的图像集协方差矩阵的特征向量。该技术能有效的显示人脸信息，效率较高。基于深度学习的人脸识别是获取人脸图像特征，并将包含人脸信息的特征进行线性组合等，提取人脸图像的特征，学习人脸样本数据的内在规律和表示层次。可以采用如三层前馈BP神经网络。BP神经网络是1986年由Rumelhart和McClelland为首的科学家提出的概念，是一种按照误差逆向传播算法训练的多层前馈神经网络，是应用最广泛的神经网络模型之一。BP网络本质上是一种能够学量的输入与输出之间的映射关系的输入到输出的映射，从结构上讲，BP网络具有输入层、隐藏层和输出层；从本质上讲，BP算法就是以网络误差平方为目标函数、采用梯度下降法来计算目标函数的最小值。BP神经网路输入层有n个神经元节点，输出层具有m个神经元，隐含层具有k个神经元，采用BP学习算法训练神经网络。BP算法主要包括两个阶段：向前传播阶段和向后传播阶段。在向前传播阶段，信息从输入层经过逐级的变换，传送到输出层。这个过程也是在网络完成训练后正常运行时执行。将Xp作为输入向量，Yp为期望输出向量则BP神经网络向前传播阶段的运算，得到实际输出表达式为向后传播阶段主要包括两大步骤：①计算实际输出Op与对应理想输出Yp之差；②按极小化误差方法调整带权矩阵。之所以将此阶段称为向后传播阶段，是对应于输入信号的正常传播而言的，因为该阶段都需要收到精度要求进行误差处理，所以也可以称之为误差传播阶段。(1)确定训练集。由训练策略选择样本图像作为训练集。(2)规定各权值Vij，Wjk和阈值Φj，θk参数，并初始化学习率α及精度控制参数ε。(3)从训练集中取输入向量X到神经网络，并确定其目标输出向量D。(4)利用上式计算出一个中间层输出H，再用本式计算出网络的实际输出Y。(5)将输出矢量中yk与目标矢量中dk进行比较，计算输出误差项，对中间层的隐单元计算出L个误差项。(6)最后计算出各权值和阈值的调整量。所以，卷积神经网络算法是通过训练人脸特征库的方式进行学习生成，对不同环境下不同表现情况的人脸图像识别有更高的精确性。
2.3人脸识别软件实现方式
(1)采集人脸数据集，然后对数据集进行标注，对数据进行预处理变成训练格式。(2)部署训练模型，根据训练算法所需依赖部署电脑环境。(3)训练过程，下载预训练模型，将人脸数据集分批次作为输入开始训练，最终输出为训练好的模型。(4)部署训练好的模型，捕获画面即可对画面中的人脸进行实时检测。
3人脸识别在病毒传播防控中的应用
通过人脸识别技术，可以实现无接触、高效率的对流动人员进行信息的收集、身份识别、定位地址信息等操作，大大减少了传染的可能性，切断了病毒传播途径，大大提高了工作效率。通过提前收录人脸信息，采用深度学习对人脸特征模型的训练学习，即可获取人脸识别特征模型，再次验证时即可实现人脸识别和个人信息快速匹配。AI人工智能帮助人们更好的解放双手，为人们的生活和工作提供了重要的帮助。本文还提出了在人脸识别的系统基础上，可以加入定位系统、测温系统等，依托物联网技术和云计算大数据，更加优化管控系统的效率。病毒传播防控中人脸识别系统流程可以概括为图2。
4结语
本文研究了一种人脸识别技术在病毒传播管控系统中的应用，并分析设计了人脸识别实时监测及病毒管控系统的流程，大大提高了信息管理的效率，减弱了传播风险。作为一门新兴技术，目前的人脸识别技术还存在着诸多不足之处，像存在环境光的影响、人脸表情变化、妆容变化、佩戴口罩等都会影响到系统识别精度；另外安全问题也引人深思：现今人脸支付方式迅猛发展，录入的人脸模型信息数据库存在有一定的安全风险，一旦被不法分子盗取信息后果不堪设想，所以模型数据库安全、网络安全，也是系统开发中必须重视的问题。人脸识别为代表的人工智能技术的研究，在病毒传播管控作出重大贡献，依托我国领先的计算机网络技术和5G等技术，加强人工智能技术与5G通信技术的结合，优势互补，以此来加快大数据、人工智能和物联网技术发展进程，对我国社会进步，促进城市建设和管理朝着高效、秩序、和谐稳定的方向不断发展，增强我国的经济实力有着重大价值和研究意义。
参考文献
[1]王彦秋,冯英伟.基于大数据的人脸识别方法[J].现代电子技术,2021,44(7):87-90.
[2]李刚,高政.人脸自动识别方法综述[J].计算机应用研究,2003,20(8):4-9,40.
[3]马玉琨,徐姚文.ReviewofPresentationAttackDetectioninFaceRecognitionSystem[J].计算机科学与探索,2021,7(15):1195-1206.
[4]余璀璨,李慧斌.基于深度学习的人脸识别方法综述[J].工程数学学报,2021,38.
[5]王红星,胡永阳,邓超.基于LBP和ELM的人脸识别算法研究与实现[J].河南理工大学学报(自然科学版),2005.
[6]钟陈,王思翔,王文峰.面向疫情防控的人脸识别系统与标准研究[J].信息技术与标准化,2020,6,11-13,1671-539X.
[6]彭骏,吉纲,张艳红,占涛.精准人脸识别及测温技术在疫情防控中的应用[J].软件导刊,2020,10,1672-7800.
第5篇：卷积神经网络实现过程范文
计算机视觉的第一步是特征提取，即检测图像中的关键点并获取有关这些关键点的有意义信息。特征提取过程本身包含4个基本阶段：图像准备、关键点检测、描述符生成和分类。实际上，这个过程会检查每个像素，以查看是否有特征存在干该像素中。
特征提取算法将图像描述为指向图像中的关键元素的一组特征向量。本文将回顾一系列的特征检测算法，在这个过程中，看看一般目标识别和具体特征识别在这些年经历了怎样的发展。
早期特征检测器
Scale Invariant Feature Transform（SIFT）及Good Features To Track（GFTT）是特征提取技术的早期实现。但这些属于计算密集型算法，涉及到大量的浮点运算，所以它们不适合实时嵌入式平台。
以SIFT为例，这种高精度的算法，在许多情况下都能产生不错的结果。它会查找具有子像素精度的特征，但只保留类似于角落的特征。而且，尽管SIFT非常准确，但要实时实现也很复杂，并且通常使用较低的输入图像分辨率。
因此，SIFT在目前并不常用，它主要是用作一个参考基准来衡量新算法的质量。因为需要降低计算复杂度，所以最终导致要开发一套更容易实现的新型特征提取算法。
二代算法
Speeded Up Robust Features（SURF）是最早考虑实现效率的特征检测器之一。它使用不同矩形尺寸中的一系列加法和减法取代了SIFT中浩繁的运算。而且，这些运算容易矢量化，需要的内存较少。
接下来，HOG（Histograms ofOriented Gradients）这种在汽车行业中常用的热门行人检测算法可以变动，采用不同的尺度来检测不同大小的对象，并使用块之间的重叠量来提高检测质量，而不增加计算量。它可以利用并行存储器访问，而不像传统存储系统那样每次只处理一个查找表，因此根据内存的并行程度加快了查找速度。
然后，ORB（Oriented FASTand Rotated BRIEF）这种用来替代SIFT的高效算法将使用二进制描述符来提取特征。ORB将方向的增加与FAST角点检测器相结合，并旋转BRIEF描述符，使其与角方向对齐。二进制描述符与FAST和HarrisCorner等轻量级函数相结合产生了一个计算效率非常高而且相当准确的描述图。
CNN：嵌入式平台目标识别的下一个前沿领域
配有摄像头的智能手机、平板电脑、可穿戴设备、监控系统和汽车系统采用智能视觉功能将这个行业带到了一个十字路口，需要更先进的算法来实现计算密集型应用，从而提供更能根据周边环境智能调整的用户体验。因此，需要再一次降低计算复杂度来适应这些移动和嵌入式设备中使用的强大算法的严苛要求。
不可避免地，对更高精度和更灵活算法的需求会催生出矢量加速深度学习算法，如卷积神经网络（CNN），用于分类、定位和检测图像中的目标。例如，在使用交通标志识别的情况下，基于CNN的算法在识别准确度上胜过目前所有的目标检测算法。除了质量高之外，CNN与传统目标检测算法相比的主要优点是，CNN的自适应能力非常强。它可以在不改变算法代码的情况下快速地被重新“训练（tuning）”以适应新的目标。因此，CNN和其他深度学习算法在不久的将来就会成为主流目标检测方法。
CNN对移动和嵌入式设备有非常苛刻的计算要求。卷积是CNN计算的主要部分。CNN的二维卷积层允许用户利用重叠卷积，通过对同一输入同时执行一个或多个过滤器来提高处理效率。所以，对于嵌入式平台，设计师应该能够非常高效地执行卷积，以充分利用CNN流。
事实上，CNN严格来说并不是一种算法，而是一种实现框架。它允许用户优化基本构件块，并建立一个高效的神经网络检测应用，因为CNN框架是对每个像素逐一计算，而且逐像素计算是一种要求非常苛刻的运算，所以它需要更多的计算量。
不懈改进视觉处理器
第6篇：卷积神经网络实现过程范文
Abstract： Classifier selection is the key factor for data classification. K-mean classifier， ISODATA classifier and SOFM neural network classifier are compared in computational complexity and classification performance. The experiments show that three kinds of classifiers cost equal time on the same image， but the self organizing feature map neural network classifier is optimal in classification performance.
关键词： K-均值分类器；ISODATA分类器；SOFM神经网络分类器
Key words： K-mean classifier；ISODATA classifier；SOFM neural network classifier
中图分类号：TP7 文献标识码：A 文章编号：1006-4311（2013）04-0182-02
0 引言
K-均值分类器、迭代自组织数据分类器和自组织特征映射神经网络分类器在遥感图像分类方面应用广泛。王晓军等人将非监督K-均值分类用在合成孔径雷达SAR图像各极化通道上进行参数估计[1]。包健等人将K-均值算法用于高光谱遥感影像的非监督分类中，具有较强的实用性[2]。贾明明等人选取对气候变化敏感的澳大利亚作为研究区。利用了ISODATA分类结果、NDVI阈值及其时间序列主成分分析特征量对研究区土地利用/覆被进行分类[3]。李正金等人进行了基于TM卫星遥感技术和小麦估产模型的冬小麦产量监测研究，采用优化的ISODATA分类方法，结合人机交互式判读解译作物信息[4]。夏浩铭等提取地物在空间上的联系，利用神经网络分类，获得较好的地物分类精度[5]。文章阐述了三种分类器的工作原理，分析了三种分类器的计算复杂度和分类效果。
1 K-均值分类器
基本K-均值思想很简单。首先，选择k个初始聚类中心，其中k是目标分类数目。每个样本按照距离函数计算与所有聚类中心的距离，样本加入到与之距离最短的聚类中心所在分组。新样本加入后，更新该分组的聚类中心。重复训练和更新，直到每类的聚类中心不发生变化为止。当分类数目已知时，利用K-均值分类方法能够方便地计算出样本聚类中心。但是在实际应用中，分类数目可能无法估算，这在一定程度上限制了这种方法的应用。
K-均值算法特点是每次调整样本后，修改一次聚合中心和准则值，当考察完n个样本后，一次迭代运算完成，新的聚合中心和准则值也计算出来。在迭代过程中，准则值逐渐减小，直到它的最小值为止。如果在一次迭代前后，准则值没有变化，说明算法已经收敛。
2 ISODATA分类器
ISODATA算法通过对样本迭代来确定聚类的中心。每一次迭代时，首先是在不改变类别数目的情况下改变分类。然后将样本平均矢量之差小于某一阈值的类别合并起来，根据样本协方差矩阵来决定其分裂与否。主要环节是聚类、集群分裂和集群合并等处理。
ISODATA分类算法最优迭代次数很难设定，一般遥感图像的数据量大，若迭代误差取值较小，分类也很难实现。沈照庆等人[6]以某次迭代中“合并”和“分裂”都为零为求最优分类数的迭代条件，而不是预先设定迭代次数；取最大和最小隶属度取代每一个隶属度为比对特征值，提高了分类速度和精度；利用等效转换研究隶属度矩阵的迭代误差变化规律，得出变化速度趋于稳定时为求解最优隶属度矩阵的智能迭代控制，减少人为事先干预。
3 SOFM神经网络分类器
神经网络由被称作神经元的相互连接处理单元组成。自组织特征映射（Self-Organizing Feature Map，简称SOFM）网络模拟大脑的神经系统自组织特征映射的功能，在学习过程中不需要指导，进行自组织学习。SOFM网络可用于图像压缩、语言识别、机器学习和优化问题等。
训练SOFM网络时首先初始化连接权重为小的随机数，训练开始后，输入向量送入网络。每输入一个样本矢量，各神经元的加权和中必然有一个最大值，经过侧反馈作用，在最大值点周围连接权重自适应调节。SOFM网络已经证明，网络通过反复学习输入模式，可使连接加权矢量空间分布密度与输入模式的概率分布趋于一致，也就是连接权矢量空间分布能反应输入模式的统计特征。训练好的网络在竞争层产生了一个或几个最大输出，它们在竞争层中的位置反映了输入向量在自身空间的特征。
4 实验结果分析
实验选取2003年青岛市一景SPOT5图像作为数据源，截取城乡结合部某地作为实验区域，实验区域在红波波段显示为图1（a）。对于实验区的遥感图像分别采用上述分类器进行地物分类实验。
用ENVI 4.3的分类功能根据K-均值算法分类。参数设置为：分类数量15（一般为最终输出分类数的2-3倍），最大迭代次数为40（默认是15），其它参数取默认值。K-均值关注的是不同波段的灰度信息，系统自动分类时，得到的分类数目为八类，结果如图1（b）所示。从分类结果上可以看出，K-均值分类算法对水体的分类效果较好，水体用红色表示，不但能分出主河道而且显示出在耕地中有一条灌溉沟渠。绿地在分类图中用绿色表示，图上中部的绿地分类正确，但在河道附近，部分耕地错分为绿地了。耕地被分为蓝色、黄色和暗绿色三类。反射系数高的南北方向道路和屋顶较亮的厂房被归为一类，东西走向的道路两边毛刺现象严重。建筑物错分率也较高。
在ENVI 4.3环境下，利用ISODATA算法分类。参数设置为：类别数范围[5-15]（一般最小数量不能小于最终分类数，最大数量为最终分类数量的2-3倍），最大迭代次数为40（默认是15），其它参数取默认值，结果见图1（c）。从分类结果上看，ISODATA分类算法对灰度值一致性好的水体分类效果较好，水体用红色表示。能区分出主河道而且显示出在耕地中有一条灌溉沟渠，但将图像下方，靠近南北走向的道路的一间面积较大的厂房错分为水体。绿地在分类图中用绿色表示，图上中部的绿地分类正确较好，但在河道附近，相当一部分耕地错分为绿地了。耕地分类效果表较好，但有部分错分为绿地。东西走向的道路线条比较连贯，两边有点毛刺现象，但不严重。的空地用粉红色表示，居民区是暗绿色，部分工厂厂房的屋顶错分为水体。
SOFM网络利用MATLAB中的神经网络工具箱实现。设定SOFM网络的输入矢量各维的数据范围是像素灰度在[1，32]之间，邻域像素卷积[25，800]之间，学习率为0.9，距离函数是欧氏距离函数，训练步长是5000。输入训练样本，每类500个，5类共2500个样本，距离为5类，每类表征一种地物类型。网络对类型的定义储存在训练网络中。利用训练好的网络对实验图像所有像元进行分类。分类结果用灰度图像表示，像素的颜色代表分类的类型，像素的位置对于测试图像同位置的地物，如图1（d）所示。白色表示道路，浅灰表示建筑物，灰色表示绿地，深灰表示耕地，黑色表示水体。从分类结果图上看，纵横贯穿郊区的主干道和楼区内的道路基本能够正确分类。由于反射系数与道路相近，工厂厂房的屋顶也被错分为道路。建筑物、耕地和绿地总体上分类正确。水体的分类结果令人满意，主水道和灌溉的沟渠都能清楚地分出。分类器处理样本图像的时间接近，都是20分钟左右。
5 总结
K-均值分类中耕地被分三类，道路两边毛刺现象严重，建筑物错分率也较高，分类效果最差。SOFM网络对道路、水体、耕地和绿地总体上分类正确，分类正确率最高。ISODATA分类对水体、耕地、道路分类基本正确，建筑物错分较多。
参考文献：
[1]王晓军，王鹤磊，李连华，孟藏珍，马宁.基于C均值分类的极化SAR图像白化斑点滤波方法[J].系统工程与电子技术，
2008，30（12）：2389-2392.
[2]包健，厉小润.K均值算法实现遥感图像的非监督分类.机电工程，2008，25（3）：77-80.
[3]贾明明，刘殿伟，宋开山，王宗明，姜广甲，杜嘉，曾丽红.基于MODIS时序数据的澳大利亚土地利用/覆被分类与验证.遥感
技术与应用，2010，25（3）：379-386.
[4]李正金，李卫国，申双.基于ISODATA法的冬小麦产量分级监测预报.遥感应用，2009，8：30-32.
第7篇：卷积神经网络实现过程范文
20世纪80年代以来,全球范围内移动无线通信得到了前所未有的发展,与第三代移动通信系统(3g)相比,未来移动通信系统的目标是,能在任何时间、任何地点、向任何人提供快速可靠的通信服务。因此,未来无线移动通信系统应具有高的数据传输速度、高的频谱利用率、低功耗、灵活的业务支撑能力等。但无线通信是基于电磁波在自由空间的传播来实现传输的。信号在无线信道中传输时,无线频率资源受限、传输衰减、多径传播引起的频域选择性衰落、多普勒频移引起的时间选择性衰落以及角度扩展引起的空间选择性衰落等都使得无线链路的传输性能差。和有线通信相比,无线通信主要由两个新的问题。一是通信行道经常是随时间变化的,二是多个用户之间常常存在干扰。无线通信技术还需要克服时变性和干扰。由于这个原因,无线通信中的信道建模以及调制编码方式都有所不同。
1.无线数字通信中盲源分离技术分析
盲源分离(bss:blind source separation),是信号处理中一个传统而又极具挑战性的问题,bss指仅从若干观测到的混合信号中恢复出无法直接观测的各个原始信号的过程,这里的“盲”,指源信号不可测,混合系统特性事先未知这两个方面。在研究和工程应用中,很多观测信号都可以看成是多个源信号的混合,所谓“鸡尾酒会”问题就是个典型的例子。其中独立分量分析ica(independent component analysis)是一种盲源信号分离方法,它已成为阵列信号处理和数据分析的有力工具,而bss比ica适用范围更宽。目前国内对盲信号分离问题的研究,在理论和应用方面取得了很大的进步,但是还有很多的问题有待进一步研究和解决。盲源分离是指在信号的理论模型和源信号无法精确获知的情况下,如何从混迭信号(观测信号)中分离出各源信号的过程。盲源分离和盲辨识是盲信号处理的两大类型。盲源分离的目的是求得源信号的最佳估计,盲辨识的目的是求得传输通道混合矩阵。盲源信号分离是一种功能强大的信号处理方法,在医学信号处理,阵列信号处理,语音信号识别,图像处理及移动通信等领域得到了广泛的应用。
根据源信号在传输信道中的混合方式不同,盲源分离算法分为以下三种模型:线性瞬时混合模型、线性卷积混合模型以及非线性混合模型。
1.1 线性瞬时混合盲源分离
线性瞬时混合盲源分离技术是一项产生、研究最早,最为简单,理论较为完善,算法种类多的一种盲源分离技术,该技术的分离效果、分离性能会受到信噪比的影响。盲源分离理论是由鸡尾酒会效应而被人们提出的,鸡尾酒会效应指的是鸡尾酒会上,有声、谈话声、脚步 声、酒杯餐具的碰撞声等,当某人的注意集中于欣赏音乐或别人的谈话,对周围的嘈杂声音充耳不闻时,若在另一处有人提到他的名字,他会立即有所反应,或者朝 说话人望去,或者注意说话人下面说的话等。该效应实际上是听觉系统的一种适应能力。当盲源分离理论提出后很快就形成了线性瞬时混合模型。线性瞬时混合盲源分离技术是对线性无记忆系统的反应,它是将n个源信号在线性瞬时取值混合后,由多个传感器进行接收的分离模型。
20世纪八、九十年代是盲源技术迅猛发展的时期,在1986年由法国和美国学者共同完了将两个相互独立的源信号进行混合后实现盲源分离的工作,这一工作的成功开启了盲源分离技术的发展和完善。在随后的数十年里对盲源技术的研究和创新不断加深,在基础理论的下不断有新的算法被提出和运用,但先前的算法不能够完成对两个以上源信号的分离;之后在1991年,法国学者首次将神经网络技术应用到盲源分离问题当中,为盲源分离提出了一个比较完整的框架。到了1995年在神经网络技术基础上盲源分离技术有了突破性的进展,一种最大化的随机梯度学习算法可以做到同时分辨出10人的语音,大大推动了盲源分离技术的发展进程。
1.2 线性卷积混合盲源分离
相比瞬时混合盲源分离模型来说,卷积混合盲源分离模型更加复杂。在线性瞬时混合盲源分离技术不断发展应用的同时,应用中也有无法准确估计源信号的问题出现。常见的是在通信系统中的问题,通信系统中由于移动客户在使用过程中具有移动性,移动用户周围散射体会发生相对运动,或是交通工具发生的运动都会使得源信号在通信环境中出现时间延迟的现象,同时还造成信号叠加,产生多径传输。正是因为这样问题的出现,使得观测信号成为源信号与系统冲激响应的卷积,所以研究学者将信道环境抽象成为线性卷积混合盲源分离模型。线性卷积混合盲源分离模型按照其信号处理空间域的不同可分为时域、频域和子空间方法。
1.3 非线性混合盲源分离
非线性混合盲源分离技术是盲源分离技术中发展、研究最晚的一项,许多理论和算法都还不算成熟和完善。在卫星移动通信系统中或是麦克风录音时,都会由于乘性噪声、放大器饱和等因素的影响造成非线性失真。为此,就要考虑非线性混合盲源分离模型。非线性混合模型按照混合形式的不同可分为交叉非线性混合、卷积后非线性混合和线性后非线性混合模型三种类型。在最近几年里非线性混合盲源分离技术受到社会各界的广泛关注,特别是后非线性混合模型。目前后非线性混合盲源分离算法中主要有参数化方法、非参数化方法、高斯化方法来抵消和补偿非线性特征。
2.无线通信技术中的盲源分离技术
在无线通信系统中通信信号的信号特性参数复杂多变,实现盲源分离算法主要要依据高阶累积量和峭度两类参数。如图一所示,这是几个常见的通信信号高阶累积量。
在所有的通信系统中,接收设备处总是会出现白色或是有色的高斯噪声,以高阶累积量为准则的盲源分离技术在处理这一问题时稳定性较强,更重要的是对不可忽略的加性高斯白噪声分离算法同时适用。因此,由高阶累积量为准则的盲源分离算法在通信系统中优势明显。
分离的另一个判据就是峭度,它是反映某个信号概率密度函数分布情况与高斯分布的偏离程度的函数。峭度是由信号的高阶累积量定义而来的,是度量信号概率密度分布非高斯性大小的量值。
第8篇：卷积神经网络实现过程范文
【关键词】系统故障预测 模型 数据
现阶段，针对系统故障预测方面的研究几乎为零，传统的做法一般主要是依靠科研人员通过人工分析采集到的数据，结合积累的经验等进行简单粗略的估计，而无法做到实际意义上的故障预测，且这类传统的方法往往需要耗费巨大的人力、物力成本，同时预测的周期短、精度差、准确性低，可靠性和实时性得不到保证，往往无法得到令人满意的效果。
为实现真正意义上的系统的故障预测，同时克服上述传统方法的弊端，针对高复杂度、高集成度的综合系统，开展自主学习的故障预测技术研究具有极其重要的意义。该研究能够进一步推动故障预测技术在复杂系统乃至航天等各领域内的实践和应用，为进一步研究故障预测技术打下基础。
1 故障预测的国内外研究现状
关于故障预测方面的研究国外已有一定的成果，但其在许多领域的应用并不完善，而国内在这方面的研究尚处于起步和探索阶段。
以系统运行各状态为基础，采用人工智能领域中深度置信网络（DBN）高效的深度学习算法构建故障的预测模型，从而实现系统故障的有效预测。
国外率先对复杂系统进行故障预测研究是20世纪70年代Saeks等人，他们所研究的是系统中出现故障的征兆，由于这种征兆幅值很小，还没有对系统造成破坏，所以很难用一般的方法辨别出，因此发展一直很缓慢，一度陷入困境。Khoshgoftaar等人在1992年提出了用神经网络来训练神经元进行软件系统的故障测定，这种经过训练的模型的优势在于对故障的趋势预测。2007年国际空间站的飞行控制委员会通过监测国际空间站上4个陀螺仪的若干参数提前数月预测和发现某个陀螺仪的失效故障，从而能够及时切换以保障空间站的正常运行。
我国在故障预测方面的研究较晚，目前尚处于理论研究阶段。如2003年重庆大学的孙才新院士及其课题组利用模糊数学中的灰色模型研究了电力系统故障的预测问题。2005年，南京理工大学的秦俊奇以大口径火炮为研究对象，运用先进的动态模糊综合评判理论和多Agent并行推理技术，在对火炮进行详细故障分析的基础上，对故障预测技术进行了系统的理论和应用研究并建立了相应的故障预测模型。近几年PHM技术也受到了军事及航天等领域越来越多的重视，北京航空航天大学可靠性工程研究所、航空643所、哈尔滨工业大学等研究机构从设备监控衰退规律、故障预测模型、健康管理技术等方面对PHM技术进行了较多跟踪研究。
2 模型建立方法及需要解决的关键技术
2.1 模型建立方法
建立自主学习模型时，采用数据挖掘的方法对系统大量的历史数据进行分析，同时并结合数据融合及维度变换设计特征集的分类器以提取和建立特征参数，建立其对应的特征指标参数体系，通过传感器网络采集获得参数，并对原始数据进行预处理以提取出有效数据，再将有效数据作为深度学习的数据基础，经过反复的训练和学习，以建立相关的故障预测模型，再应用测试验证系统进行反复验证、调整，最终建立故障预测的学习模型。
2.2 建立学习模型的关键技术
2.2.1 系统特征参数体系的建立
针对某系统，依据一定的原则，利用主观或客观的方法建立相互独立、能够敏感反映整个系统的各项指标参数，即表征系统的特征集，如工作、性能、功能、环境等参数，常用的方法包括数据挖掘、基于贝叶斯理论的信息融合、多维度数据变换等。
2.2.2 通过机器自主深度学习建立相应的模型
研究和借鉴国内外关于深度学习、故障预测方面的理论和成果，尤其关注深度学习在预测及多特征量预测方面的应用，在此基础上结合系统的特征参数、各类故障和非故障模式状态的特点，提出一种深度学习算法，通过学习和训练建立相应的故障预测模型，利用验证系统和实际系统的应用数据，通过逐层反复学习和训练设定模型的最优初始化参数，并以自顶向下的监督算法进行调整使得模型收敛，从而实现故障预测、深度学习与系统应用相结合。主要的自主学习技术包括卷积神经网络、深度波尔兹曼机模型、深度置信网络等。
2.2.3 多维度数据分析方法的研究
针对测试数据与监测数据的独立性，拟采用贝叶斯方法对数据进行融合，建立一种基于异构空间的数据模型，再结合特征提取与特征抽象，对多维度数据进行分析。
3 总结
通过对现有数据的分析，提取故障特征信息，建立故障特征信息库，构造一个多层的人工神经网络模型，通过模型层次的分析获得样本的本质表示，结合故障注入的方法，提出故障注入的方案，利用故障注入验证自主学习方法。
再结合多维度数分析方法，建立多维度数据模型，同样利用故障注入技术，建立多维度数据的故障信息，通过状态预测模型进行故障预测，结合注入的故障信息，对故障预测的结论进行反馈和确认。最终确立自主学习模型，达到系统故障预测的目的。
参考文献
[1]朱大奇.航空电子设备故障诊断技术研究[D].南京：南京航空航天大学，2002：1-3.
[2]彭俊杰，洪炳，袁成军.软件实现的星载系统故障注入技术研究[J].哈尔滨工业大学学报，2004，36（07）：934-936.
[3]张宝珍.先进的诊断和预测技术[J].装备质量，2001.
[4]Baroth E，Powers W T，Fox J.IVHM（integrated vehicle health management）techniques for future space vehicles[J].37thJoint Propulsion Conference & Exhibit，2001.
[5]郑胤，陈权崎，章毓晋.深度学习及其在目标和行为识别中的新进展[J].中国图像形象学报，2014（02）：175-184.
[6]郭丽丽，丁世飞.深度学习研究进展[J].计算机科学，2015，42（05）：28-33.
第9篇：卷积神经网络实现过程范文
关键词： 情感分析； 情感倾向性； 词典扩充； 电力客服工单； 主动服务
中图分类号： TN915.853?34； V249 文献标识码： A 文章编号： 1004?373X（2017）11?0163?04
Dictionary expansion based sentiment tendency analysis of power customer service order
GU Bin， PENG Tao， CHE Wei
（State Grid Jiangsu Electric Power Company， Nanjing 210000， China）
Abstract： In order to improve the customer satisfaction and active service consciousness of the electric power enterprises effectively， the textual characteristic of the power customer service order is combined to construct the sentiment analysis model of the power customer service order. The keywords of the service order are extracted according to TF?IDF thought. The word2vec training is used to get the word vector of each word. The cosine similarity is calculated to expand the high similarity field vocabulary to the sentiment dictionary. The service order sentiment analysis and text classification are performed. The validity of the method is verified with experimental analysis. The results show that， in comparison with the original sentiment dictionary， the method of dictionary expansion and service order sentiment tendency analysis is superior， has higher accuracy， and can provide a certain reference significance for the customer relation management of power enterprise.
Keywords： sentiment analysis； sentiment tendency； dictionary expansion； power customer service order； active service
0 引 言
随着电力体制改革的逐步深化，配电市场竞争不断加剧，迫切需要供电企业改变传统的思维方式和工作模式，进一步树立市场化服务意识，从客户需求出发，挖掘客户的潜在需求和内在价值，从而提升客户满意度和运营效益。作为与客户交流、沟通的重要窗口，电力企业95598客服系统记录了海量的客户信息，若能彻底挖掘客服工单中的客户特征、情感信息并了解客户的关注焦点，对电力企业和客户都将具有十分重要的意义[1]。
电力客服工单情感倾向性分析可以有效地发掘客户情感信息和需求，可根据客户情感倾向性识别潜在的投诉客户，可根据反馈信息判别某项业务的实施效果等。针对文本情感倾向性分析，现有的理论研究比较侧重于文本特征提取以及采用机器学习方法对文本进行分类，但是基于具体业务特征进行情感词典扩充的研究还比较少，导致情感倾向性计算往往会存在一定的差异，因此，根据电力行业的特c，进行客户服务工单情感词典扩充及情感倾向性的研究非常有必要。
情感分析是指利用文本挖掘、机器学习技术分析挖掘隐藏在文本中的情感信息，并将其分类为积极情感态度和消极情感态度[2]。目前，国内外关于文本情感倾向性分析已经进行了较多的研究工作[3?7]，文献[3]基于情感词间的点互信息和上下文约束，提出一种两阶段的领域情感词典构建算法，提升了情感词情感倾向的识别能力。文献[4]研究了基于矩阵投影（MP）和归一化向量（NLV）的文本分类算法，实现对商品评价的情感分析，不仅可以有效识别商品评论情感性倾向，而且提升了识别效率。文献[5]将词级别向量和字级别向量作为原始特征，采用卷积神经网络提取文本特征并进行情感倾向性分析，结果表明字级别向量可取得较高的准确率。文献[6]提出一种词图模型的方法，利用PageRank算法得到情感词的褒贬权值，并将其作为条件随机场模型特征预测情感词倾向，提升了具体语境下预测的准确性，但是针对文本数量较大的情况准确率较低。文献[7]结合句子结构上下文语义关联信息，提出一种基于深度神经网络的跨文本粒度情感分类模型，提升了分类准确率，但该方法只适应于特定领域，泛化能力较低。
鉴于以上研究现状，本文以电力客户服务领域文本特征为突破口，构建了电力客服工单情感分析模型，基于工单关键词提取对原始的情感词典进行扩充，并对工单情感倾向性进行分析，最后，通过算例应用验证了本文所提方法的有效性。
1 相关工作
1.1 情感分类
情感分类技术的主要目标是基于文本数据识别用户所表达的情感信息，并将文本数据分为正类和负类。当前，针对情感分类的研究，主要从监督学习、基于规则方法、跨领域情感分析等方面展_研究，与此同时，针对文本特征的提取和特征情感判别是情感分类研究的两个关键问题。
1.2 Word2vec介绍
word2vec是Google在2013年开源的一款将词表征为实数值向量（word vector）的高效工具，采用的模型有CBOW（Continuous Bag?of?Words，即连续的词袋模型）和Skip?Gram两种，word2vec采用的是Distributed Representation的词向量表示方式，经过对输入集数据进行训练，可以实现将文本词汇转换为维空间向量，然后基于空间向量相似度来表达文本语义相似度，模型输出结果可用于自然语言处理领域相关工作，比如文本聚类、词典扩充、词性分析等。
word2vec生成词向量的基本思想来源于NNLM（Neural Network Language Model）模型，其采用一个三层神经网络构建语言模型，假设某个词的出现只与前个词相关，其原理示意图如图1所示。
图1中，最下方的为前个输入词，并根据其预测下一个词每个输入词被映射为一个向量，为词语的词向量。网络的第一层（输入层）为输入词语组成的维向量网络第二层（隐藏层）计算为偏置因子，使用激活函数tanh；网络第三层（输出层）包含个节点，每个节点表示下一词的未归一化log概率，并使用softmax激活函数将输出值归一化，最后使用随机梯度下降法对模型进行优化。
图1 NNLM原理模型图
模型的目标函数为：
需要满足的约束条件为：
2 电力客服工单情感分析模型
本文以某电力公司客服工单数据为研究对象，在深入理解电力业务及工单文本语义特点的基础上，建立了一种电力客服工单情感分析模型。首先，在进行文本预处理的基础上，对文本进行分词处理并且完成关键词提取；然后，采用word2vec训练工单数据，并基于关键词进行情感词典扩充，构建电力客服领域专用情感词典；最后，进行工单情感倾向性分析。
2.1 工单文本预处理
由于工单文本数据中存在大量价值含量较低甚至没有价值意义的数据，在进行分词、情感分析中会对结果产生较大的影响，那么在文本挖掘之前就必须先进行文本预处理，去除大量没有挖掘意义的工单数据。工单文本预处理工作主要包括：删除未标注业务类型数据、分句处理、文本去重、短句删除等。
分句处理：将工单数据处理成以句子为最小单位，以句尾标点符号为标志分割，包括“，”，“。”，“；”，“！”等符号。
文本去重：就是去除工单数据中重复的部分，常用的方法有观察比较删除法、编辑距离去重法、Simhash算法去重等。
短句删除：删除过短的文本，如“还可以”，“非常好”等，设置文本字符数下限为10个国际字符。
2.2 电力客户服务领域情感词典构建
2.2.1 分词
本文采用python的jieba分词工具对数据集进行分词，并完成词性标注和去除停用词，由于情感分析通常由名词、形容词、副词和连词等反映出来，因此删除词性为动词的词汇。jieba中文分词工具包包含三种分词模式：精确模式、全模式和搜索引擎模式，综合分词效果及后文的研究，本文选择精确模式进行分词，三种模式的分词效果如表1所示。
另外，在实际的分词过程中，出现了个别分词结果与实际的语义不符，原因是字典中缺少相关的专有名词，或者是这些词语的词频较低，比如“客户/咨询/抄/表示/数等/信息”，“客户/查户/号”，“变压器/重/过载”，“查/分/时/电价”等，因此，需要对原有词典进行更新。python中采用jieba.load_userdict（dict.txt）语句添加自定义词典，其中dict.txt是保存字典内容的文件，其格式为每一行分三部分：一部分为词语；另一部分为词频；最后为词性（可省略），用空格隔开。
2.2.2 关键词提取
构建电力客户服务领域专属情感词典，需要尽可能保证领域词典的多样性，关键词的提取要求一方面能够尽量反应出这个特征项所属的类别，另一方面能够把自身属于的类别与其他类别有效地区分开来，依据此原理，本文采用TF?IDF思想进行电力客户服务领域关键词的提取，关键词选取的权重决定了情感词典的多样性，为下文情感词典的扩充做好基础，算法原理如下。
将工单文档和特征项构建成二维矩阵，各条工单的特征向量可表示为：
式中：表示第个工单中第个特征中的词频。则与为：
式中：表示语料库中的文件总数；表示包含词语的文件总数，防止分母为零的情况，通常对分母做+1的处理。因此，的计算公式为：
实际应用中，依据维度的大小确定相应的权重大小，这样就形成了代表语料特征的关键词集。
2.2.3 基于word2vec进行情感词典扩充
随着经济技术的发展及客户文化的差异，不同的客户通常使用不同的词汇描述同一个对象特征，且电力行业中存在许多专用词汇，同样也表达了一定情感，但这些词脱离于现有的情感词典，因此，有必要对现有的情感词典进行扩充，进而提升工单情感倾向性分析的准确性[8]。选取中国知网情感词集和大连理工大学林鸿飞教授整理和标注的中文情感词汇本体库作为基础的情感词典，然后依据权重较大的关键词对原有词典进行扩充[9]。基于上文电力客户服务工单中提取的关键词，采用word2vec工具对工单数据集进行训练，根据CBOW模型或Skip?Gram模型训练出每个词的词向量，并通过计算余弦相似度得到文本语义上的相似度，并将相似度较高的词语加入到情感词典中。
依据上文分词后得到的工单文本数据，采用Linux Version2.6环境对数据进行训练，操作命令如下：
./word2vec ?train data95598.txt ?output vectors_95598data.bin ?cbow 0 ?size 200 ?winodw 5 ?negative 0 ?hs 1 ?sample le?3 threads 12 ?binary 1
其中，data95598.txt为输入数据集；vectors_95598data.bin为模型输出文件；采用Skip?Gram模型进行训练，词向量维度设置为200；训练窗口大小设置为5；-sample表示采样的阈值，训练结果采用二进制方式存储。这样，得到的模型文件中就包含了每个词的词向量。
采用余弦相似度计算关键词的相似词，即基于生成的词向量计算两个维向量的相似度，因为word2vec本身就是基于上下文语义生成的词向量，因此，余弦值越大，表明两个词语的语义越相似。向量与的余弦计算公式如下：
通过distince命令计算输入词与其他词的余弦相似度，经过排序返回相似词列表，再经过人工筛选，将这些词加入到原有情感词典中，实现对原有情感词典的扩充。
2.3 工单情感倾向性分析
工单情感倾向性分析是基于构建的情感词典，计算每个客服工单的情感分值，从而判断工单的情感倾向性。通过上文处理，每一个客服工单都可以被分割成一个个子句片段，表示为每个子句片段由一系列分词后的词语构成，提取每个句子的情感词、否定词等，表示为依据情感词典中给定词的极性值计算每个子句的情感值，分别算每个句子的正向和负向情感分值，计算公式如下：
式中：SenSum表示某个客服工单的情感分值；表示第个子句中第个正向情感词的极性值；表示第个子句中第个负向情感词的极性值。
在否定子句中，当为偶数时，否定子句情感为正；当为奇数时，否定子句情感极性为负。对所有的子句情感分值求和并求均值，就得到了整个客服工单的情感值，进而判断客服工单的情感倾向性，若SenSum为正，表示工单情感为正向；否则，工单情感为负向。
3 实验分析
3.1 实验数据准备
本文的实验环境基于Linux系统，采用python语言进行算法的实现，抽取某电力公司95598客服工单数据作为研究对象，运用jieba包进行中文分词处理，并采用word2vec训练数据生成词向量及扩充情感词典。由于工单数据是按照业务类型生成的，因此选取业务类型为表扬的工单作为正类，选取业务类型为投诉的作为负类，其中，正类和负类数据比例为21，共得到20 000条数据作为实验数据集，随后进行情感倾向性分析，随机选择70%的数据作为训练集，30%的数据作为测试集。
3.2 评价指标
当前针对文本分类效果评估有许多方法，本文选择准确率（precision）、召回率（recall）和值进行文本情感分类效果的评估，准确率是对分类精确性的度量，召回率是对分类完全性的度量，值越大说明分类效果越好，准确率和召回率是一组互斥指标，值是将二者结合的一个度量指标，值越大，分类效果越好，并将通过本文情感分析模型得到的结果与业务员标注的类型做对比分析。它们的计算公式如下：
3.3 实验结果及分析
本文基于抽取到的客服工单数据，结合设计的电力客服工单情感分析模型，实现对电力客户服务领域情感词典的扩充，并基于构建的电力客服领域专属词典进行工单情感倾向性分析，70%的数据用于训练word2vec并进行情感词典的扩充，30%的数据用于测试工单情感分类的准确性。测试集共包含工单数6 000条，其中正类工单3 895条，负类工单2 105条。将采用本文情感分析模型得到的结果与原始基础情感词典得到的结果进行对比分析，见表2。
由表2可知，采用本文构建的电力客服工单词典针对正向和负向的情感词都有较高的准确率、召回率和值，由此可知，本文设计的电力客服工单情感分析模型是合理的，且具有明显的性能优势。
4 结 语
本文设计了一种电力客服工单情感分析模型，构建了电力客服领域情感专用词典并进行工单情感倾向性分析。采用word2vec工具对采集到的数据进行训练，并用测试集数据对本文提出的模型进行验证分析，结果表明，本文所提方法具有一定的合理性和可行性，可为电力企业客户关系管理提供一定的参考意义，促进企业客户满意度及运营效益的提升。此外，本文主要研究了基于构建的电力客服专用情感词典进行客户情感倾向性分析，但是对于无监督性学习方法情感倾向性分析以及情感强度的分析还有待进一步研究。
参考文献
[1] 李胜宇，高俊波，许莉莉.面向酒店评论的情感分析模型[J].计算机系统应用，2017，26（1）：227?231.
[2] SINGH VK， PIRYANI R， UDDIN A， et al. Sentiment analysis of movie reviews： a new feature?based heuristic for aspect?level sentiment classification [C]// Proceedings of 2013 International Multi?Conference on Automation， Computing， Communication， Control and Compressed Sensing （iMac4s）. Kottayam： IEEE， 2013： 712?717.
[3] 郗亚辉.产品评论中领域情感词典的构建[J].中文信息学报，2016，30（5）：136?144.
[4] 钟将，杨思源，孙启干.基于文本分类的商品评价情感分析[J].计算机应用，2014，34（8）：2317?2321.
[5] 刘龙飞，杨亮，张绍武，等.基于卷积神经网络的微博情感倾向性分析[J].中文信息学报，2015，29（6）：159?165.
[6] 黄挺，姬东鸿.基于图模型和多分类器的微博情感倾向性分析[J].计算机工程，2015，41（4）：171?175.
[7] 刘金硕，张智.一种基于联合深度神经网络的食品安全信息情感分类模型[J].计算机科学，2016，43（12）：277?280.