爱玩科技网
您的当前位置:首页一种新型组合神经网络模型研究

一种新型组合神经网络模型研究

来源:爱玩科技网
》荔■

V8儿A1Lc。LNEV.1l

电子科学

一种新型组合神经网络模型研究

王蓉

(四川建筑职业技术学院教务处四川德阳618000)

[摘要]神经网络是现代人工智能的晟重要的研究领域之一,由于单一神经网络存在诸多的局限和不足,首先简要分析单一神经网络的局限,然后提出一种新型的综合神经网络模型,模型由多个神经网络组成。使各个网络之间有相互关联,是几个神经网络模型有机结合起来后综合的结果。

[关键词]神经网络组合神经网络模型中图分类号:TP3文献标识码:^文章编号:1671--7597(2∞8)1220013一01

i、簟一神经月终的局■

神经网络作为一种通用的非线性辨识模型,已经广泛的应用于非线性时间序列的分析预测和控制中。但是,单个神经网络在应用中仍存在着一些问题:

1.可理解性差。神经网络在预测能力方面的优势是以牺牲其可理解性为代价的。由于在模型中引入非线性所增加的解析困难,难以像对现行模型那样发展出一套基于概率统计的模型辨识技术。

2.选择合适的模型比较困难。单个神经网络建立预测模型时有些因素直接影响着它的预测精度,这砖因素包括:输入变量的选择、网络结构的确定以及需要多丈的pil练集。在实际运用过程中,研究者所掌握的全部资料町能仅是一个一维(或)的时间序列。由于缺乏用以进行模型辨识的先验知识,研究者或者不得不退而采用传统的线性模型:或者需要依靠经验和不完备的经验来进行神经网络模型的辨识。显然,这两种解决方法经常是不充分的:前者无法有效应用于非线性时间序列;后者无法保证对最优模型的选择。

3.选出的模型不能保证是最优的。尽管建立一个神经网络模型时需要考虑各种各样的参数,但通过训练一组不同的神经网络,然后根据各个神经网络在验证集上的预测效果选出最好的网络作为最终的预测器。这样选择的样本依然存在的缺陷.冈为在验证机上取得好的效果并不能保证该神经网络在新的数据集一}=取得同样的效果。当数据有噪声并且时间序列本身是不平稳的情况F,这个问题就更突出了。

:、新基组合神经角培横受的提出

对于单个网络的局限,鉴于实际应用情况的不规律性,下面提出一种多角度建立多个单个子网络的组合神经网络,用以解决上述单个神经网络所面临的困难和不足。由于实际中的很多预测问题可以由不同角度分别建立不同的模型,并由其得到互不相同的预测值,而且大多数问题中基本上为非线性问题的.因此,可以由不同神经网络从不同角度分别对同一具体问题所建立的模型,从而会有多个神经网络对同一个问题做出预测,得出多个不同预测值。即我们可以得到的多个数学模型。都能从某个角度比较正确的反映真实系统中的输入输出以及状态之间的定量关系,但无从得知何者更为精确。对此,本文提出了一种新型的综合神经网络模型。模型由多个神经网络组成,使各个网络之间有相互关联.每个神经网络代表由该角度所建立的数学模型,在输出层得到各自模型的预测值,将各模璎结果有机的关联起来,使之得到统一的结果,即为几个神经嗍络模型有机结合起来后综合的结果。在具体的实现中,可将各模型的输出值比较后的差值作为误差进行反向传播,按照梯度下降法调整各层神经元的权值和闽值,使误差信号逐步减小,最终使得各个神经网络模型输出层的各个输出值之间的差值减小到实际要求的精度范围.从而使各个神经网络模型得到统一的预测值。本文提出的新型综合神经网络通过由不同角度建立的不同神经网络(异因)有机结合起来,而建立的一个综合的神经网络(关联),使之最终得到统一输出结果(同果).

三、新型组合神经罔培模型舟络结构

如前所说,这种新型关联神经网络是由多个神经网络组成的综合神经网

络,为了清晰地展示其原理,本文将以从两个不同角度建立的关联神经网络模型为例来建立模型,其中的算法可容易地推广到多个角度的关联神经网络模型。其神经网络模型结构如图l所示。

图1新型神经网络模型

此关联神经网络由两个网络组成,根据已有样本来考虑实际问题时,可将样本数据划分为u。u,分别为两个神经网络的输入向量,Y,、y-为输出向

量。由样本u,…Y

可建立角度一的神经网络模型,由样本数据u,、Y.,可建

立角度二的神经网络模型.此二模型均町对实际问题进行预测:在此二模型建立完备的基础上,关联神经嘲络模型将二者通过其共同的预测值关联起来,比较、反馈继而再训练,直到_二模型的预测值差值达到一定的范围后方町结束模型训练。

四、撕墨神经网络模蛋掌习算法

根据传统的梯度F降法,提出了本文的神经网络的算法,将其构成原理如下,新型神经网络模型由正向传播、终值比较和误差反向传播组成。

1.正向传播中,输入信号从u。Uv各自输入层经隐层传向输出层,得到各自输出Yr和Y,。

2.终值比较由两部分构成:

(1)rN络与v网络输出层预测值与各自实际历史数据进行比较,判断其差值是否在误差范围内。

(2)r、vN个网络交叉结合点的预测值之间的差值是否在期望误差之内即两个网络的预测是否统一。如果在期望的误差范围之内,则算法结束;否则,转至反向传播。

(3)误差反传是将误差信号按原连接通路反向计算,由梯度下降法调整各层神经元的权值和闭值。使得误差信号逐步减小.

五、新型组合神经网络模型的特点(--)预测点目标值扮演的角色

1.在传统的神经网络模型中,预测点并未参与模型的学习训练.仅仅是作为预测值存在,当由所提供的数据用BP模型训练完毕后,在有目标预测值对应数据输入模型计算后直接推出的预测值。

2.组合神经网络模型中,推测点在扮演预测值的决策的同时,还参与了模型的两个分BP模型的训练,直到两个BP模型的预测值的差值在所需误差值之内为止.

停止训练,并由此可得最终工业总产值预测值.

(二)精确度区别

(下转第40页)

信息科掌

Ⅵ渊副

一曩§

取工具(如Last、Lastcomm、Who、Find等)、磁盘映象工具(如SnapBackDataArrest)、磁盘特殊文件获取工具(如GetSwap)等:常用的网络信息获取工具有windump、iris、tcpdump、ngrep、snort、sniffit、dsniff’grave—robber等。还有一些获取本地网络状态信息的工具,如netstat、route、arp等。Fport运行在Windows平台上,可以识别系统中哪个应用软件在与别的计算机通信或在监听别的计算机。

(二)证据保全工具

取证工作的一个基本原则是要证明所获得的证据和原始的数据是完伞相同的,需要证明的是取证人员在取证调查过程中没有造成任何对原始证物的改变。典型的数字证据保全工具有Md5sum、CRCMd5、DiskSig、DiskSig

pro、Seized。

EnCase的报告函数能方便地将证据及调查结果进行归档

(四)证据归档工具

在计算机取证的疑后阶段,主要对涉及计算机犯罪的时间、地点、直接证据信息、系统环境信息、取证过程以及取证专家对电子证据的分析结果和评估报告等进行归档处理。计算机证据要问其他证据相互印证、相互联系起来综合分析。证据归档工具比较典型的是NTI公司的软件NTI—Dnc,它可用于自动记录电子数据产生的时间、日期及文件属性;GuidanceSoftware公司的EncaseJ:具,它可以对调查结果采用html或文本方式显示,并可打印出来。

七、结束语

本文介绍,计算机取证的概念、特点、取证标准、原则、步骤等,并分析了取证工具。但随着计算机技术网络技术飞速发展、计算机犯罪技术手段的不断提高、反取证技术的出现,计算机取证仍将面临新的挑战。

参考文献;

[1]http://vmv.cnnic.net.cn/html/Dir/2007/01/22/4395.htⅡ

[2]许榕牛、吴海燕、刘宝旭.计算机取证概述[J】.计算机工程与应用,

2001(21):7-8.

(三)证据分析工具

证据分析是计算机取证的核心和关键,其内容包括分析计算机的类型,采用的操作系统类型,是否有隐藏的分区.有无町疑外设及当前计算机系统的网络环境等.通过将收集的程序、数据和备份与当前运行的程序数据进行对比,从中发现篡改痕迹.典型的证据分析工具有NewTechnology公司的提供的Ptable工具可以用来分析硬盘驱动器的分区情况,FileListF具是一个磁盘目录工具,可以将系统里的文件按照七次使用的时间顺序进行排列,让分析人员可以建立用户在该系统l:的行为时间表.Filterwe町以对磁盘数据根据所给的关键词进行模糊搜索等。GuidanceSoftware公司的Encase取证工具Encase是得到美国承认的计算机取证产品,是一个完伞集成的基于Windows界面的取证臆用程序,可将正在运行的系统在不停机的情况下,将系统的伞部运行环境和数据生成一个镜像文件,再对该文件进行分析.并可以将试图隐藏的数据文件以列表的形式列出来。EnCase中的分析工具包括关键字查找、hash值分析、文件数字摘要分析等。在整个过程中,利用

[3]钱桂琼、杨泽明、许榕生.计算机取证的研究与设计[J].计算机工程.

2∞2(6):56—58.

[4]谭敏、胡晓龙、杨卫平.计算机取证概述[J].网络安全技术与应用,

2006(12):75—77.

[5]于波、涂敏,计算机取证分析[J].计算机与现代化,2006(12):4-6.[6]邹君,计算机犯罪取证概述,http://icy.bjtzh.gov.cn/llyj/llyj一(

03)17.htm.

[7]陈祖义、龚俭、徐晓琴.计算机取证的工具体系[J].计算机工程.

2∞5(5):162—1.

(上接第13页)

1.传统模型中,由于不同角度之问关联不大,无法综合两类样本数据建立模型,使得各自建立的BP模型无法充分利用所给的数据.而使得各模型分别求得的预测值无从选择何者为最合理的结果。

2.新型神经网络模犁中,两个联系不大的数据分别在各自的BP模型中进行训练,本身交叉点的预测值的比较凹馈训练将两者完美的结合在一起,因此训练数据全面,最终的精度也会较高。

六、应用实倒讨论

根据上面确定的网络输入输出因子,利用2000年到2006年共7年的历史统计数据作为网络的训练样本,2006年至U2007年间共计2年的历史统计数据作为预测检验值(即,假设此二年的货运量仍未知.根据7年的数据样本由模型进行预测)。考虑应用目前最为广泛有效的BP神经网络模型,其中包括常规的BP网络模型(两个角度的影响因素直接作为输入样本,建立BP模型.进行训练)、单独由规模因素的影响角度(角度1)建节的BP神经网络模型和单独由结构崩素的影响角度(角度2)建市的BP神经网络模型.以及本文所提出的关联神经网络模型,采用同样的数据样本来进行预测。

运输系统作为社会经济系统中的一个子系统,在受外界因素影响和作用的同时,对外部经济系统也具有一定的反作用,使得运输需求同时受到来自运输系统内外两方面因素的影响。

从货运量的产生来看,它是外部经济需求和运输系统供给两方面冈素共同作用的结果。在外部经济系统地作用看,在经济体系内部存在许多影响货运需求的因素,将这些因素归纳起来,有两大部分:一部分属于各种经济总量因素,如国民经济发展规模、工业发展规模及基建规模等:另一部分属于各种经济结构因素,如产业结构、工业结构等。货运需求不仅受国民经济总量的影响。还要受经济结构因素的影响。从内部运输系统的作用来看,也存在类似情况。因此,货运量影响因素总体上可分为jjl!模因素和结构因素两类,其中结构类因素主要体现在产业结构和运输结构上。在国民经济发展的不同阶段,规模因素和结构因素在货运量增长中所起的作用也不同,货运量增长变化也呈现不同形式。同时。由于运输市场中供需非均衡性客观存在。内外部系统对货运量的影响不一,而且由于作用形式复杂,这就使得货运量预测具有较大的复杂性和非线性等特点。我们既可以根据规模因素建立模型预测t也可以根据结构因素进行预测。

根据对关于货运量影响因素的分析,这里分别选取国内生产总值GDP和工业总产值作为规模因素的因子.选取铁路运输线路长度、铁路货车数量、公路运输线路长度、民用载货车辆数量以及复线单程比藿和等级公路比重作为结构因素的因子,共计指标作为货运量的影响因子(其中,前两者为规模因素,此为角度1;后六者为结构因素。即为角度2),以货运总量、铁路货运量和公路货运量作为货运量的输出因子,即网络的输出。

参考文献:

[1]刘晋钢、韩燮、李华玲,即神经网络改进算法的应用[J].华北工学院学报.2002,(06).

[2]刘鹰,赵琳,神经网络.BP算法的改进和仿真[J].计算机仿真,

(03).

1999,

从结果我们可以得出。新型神经网络预测结果较另外i种模型误差最小,与实际数据最为相近。这说明.此种新犁的组合神经网络模型/fi同于以上三个模,i!!,它不是直接根据各项历史数据建模,而足将不同的预测模型进行适当的组合,得到一个比任何的预测值更好的组合预测值。另外,从预测的可靠性和风险性考虑.仅使用单一预测模型对复杂的系统进行预测是不可行的。而且单一的不同预测模掣所载用的信息是不会相同的,任何一种模型几乎都会包含一些有用的信息.而单纯的将这些不同角度的影响因素作为输入样本建立模型的话,则会增加神经刚络模型的训练难度,甚至降低其预测精度。而本文提出的组合神经网络则町以有效地解决这一矛盾,它将不同角度的影响因素分别建立合适的分模型并单独训练好后,进而将分模型通过预测点有效的结合起来,建立一个相互联系的综合模型,从而最终得到一个比任何一个的预测之更好的组合预测值。

新型关联神经网络预测精度较单个网络为高,尤其凸显了其在数据量较少的情况下.通过不同角度的影响因素分别建立合适的分模型并单独训练好后,进而将分模型通过预测点有效的结台起来,建立一个相互联系的综合模型,从而町以最大效用的发挥少量数据的宏观预测能力.

因篇幅问题不能全部显示,请点此查看更多更全内容