部最小，是否能够收敛以及训练时间的长短有很大关系。初始值过大过小都会影响学习速度，因此权值的初始值应选为均匀分布的小数经验值，般取初始权值在，之间的随机数，也有选取在，之间的随机数的，其中为输入特征个数。为避免每步权值的调整方向是同向的，应将初始值设为随机数。学习速率学习速率决定每次循环中所产生的权值变化量。快的学习速率可能导致系统的不稳定。但慢的学习速率导致较长的训练时间，可能收敛很满，不过能保证网络的误差值跳出误差表面的低谷而最终趋于最小误差值。所以在般情况下，倾向于选择较慢的学习速率以保证系统的稳定性。学习速率的选择范围在之间。如同初始权值的选取过程样，在个神经网络的设计中，网络要经过几个不同的学习速率的训练，通过观察每次训练后的误差平方和的下降速率来判断所选定的学习速率是否合适，若下降很快，则说明学习速率合适，若出现振荡现象，则说明学习速率过快。对于每个具体网络都存在个合适的学习速率，但对于较复杂网络，在误差曲面的不同部位可能需要不同的学习速率。为了减少寻找学习速率的训练次数和训练时间，比较合适的方法是采用变化的自适应学习速率，使网络的训练在不同的阶段自动设置不同的学习速率。般说，学习速率越快，收敛越快，但容易振荡而学习速率越慢，收敛越慢。期望误差的选取在网络的训练过程中，期望误差值也应当通过对比训练后确定个合适的值。所谓合适，是相对所需要的隐含层的节点数来确定，因为较小的期望误差要靠增加隐含层的节点以及训练时间来获得。般情况下，作为对比，可以同时对两个不同期望误差的网络进行训练，最后通过综合因素的考虑来确定采用其中个网络。尽管含有隐含层的神经网络能实现任意连续函数的逼近，但在训练过程中如果些参数选取合适，可以加快神经网络的训练，缩短神经网络的训练时间和取得满意的训练结果。对训练过程影响较大的是权系数的初值学习速率等。调整量与误差成正比，即误差越大，调整的幅度就越大。调整量与输入值的大小成正比，由于输入值越大，在这次学习过程中就显得越活跃，所以与其相连的权值的为则权值设计公式变为验证将目标矢量作为输入矢量带入网络中可以得到综上所述，为网络的吸引子，而则不是网络的吸引子。目录第部分绪论人工神经网络的定义人工神经网络的基本原理生物神经元人工神经元模型人工神经网络模型常见神经元响应函数神经网络基本学习算法有教师学习监督学习无教师学习无监督学习强化学习再励学习第二部分反向传播网络网络网络主要应用网络特点多层网络简介三层网络三层网络结构图三层网络学习算法三层网络设计需要考虑的问题第三部分自适应竞争神经网络自组织网络网络类型网络学习规则竞争网络网络结构竞争网络原理网络工作方式网络训练竞争网络的局限性第四部分地震预报的实现基于人工神经网络的地震预测研究背景模型的建立自适应竞争网络对地震等级进行预测数据处理自适应竞争网络设计网络对地震的大小进行预测数据处理网络的设计第五部分作业第部分绪论人工神经网络的定义人工神经网络的定义不是统的，对人工神经网络的定义人工神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。人工神经网络的基本原理人工神经网络，结构和工作机理基本上以人脑的组织结构大脑神经元网络和活动规律为背景的，它反映了人脑的些基本特征，但并不是要对人脑部分的真实再现，可以说它是种抽象简化或模仿。生物神经元神经元是大脑处理信息的基本单元，人脑大约由个神经元组成，神经元互相连接成神经网络。神经元以细胞体为主体，由许多向周围延伸的不规则树枝状纤维构成的神经细胞，其形状很像棵枯树的枝干。主要由细胞体树突轴突和突触，又称神经键组成。图生物神经元的示意图生物神经元传递信息的过程为多输入单输出，神经元各组成部分的功能来看，信息的处理与传递主要发生在突触附近，当神经元细胞体通过轴突传到突触前膜的脉冲幅度达到定强度，即超过其阈值电位后，突触前膜将向突触间隙释放神经传递的化有三层或三层以上的多层神经网络，每层都由若干个神经元组成，如图所示，它的左右各层之间各个神经元实现全连接，即左层的每个神经元与右层的每个神经元都由连接，而上下神经元无连接。多层网络网络按有教师学习方式进行训练，当对学习模式提供给网络以后，其神经元的激活值将从输入层经中间层向输出层传播，在输出层的各神经元输出对应于输入模式的网络响应。然后，按减少希望输出与实际输出误差的原则，从输出层经中间层，最后回到输入层逐层修正个连接权。由于这种修正过程是从输出到输入逐层进行的，所以称它为误差逆传播算法。随着这种误差逆传播训练的不断进行，网络对输入模式响应的正确率也将不断提高。由于网络有处于中间位置的隐含层，并有相应的学习规则可循，可训练这种网络，使其具有对非线性模式的识别能力。图用于多指标综合评价的三层神经网络三层网络三层网络结构图图三层网络结构图三层网络学习算法为了使网络具有种功能，完成项任务，必须调整层间连接权值和节点阈值，使所有样品的实际输出和期望输出之间的误差稳定在个较小的值以内。在训练网络算法中，误差反向传播算法是最有效最常用的种方法。网的学习过程主要有以下四个部分组成。输入模式顺传播输入模式由输入层经中间层向输出层传播计算。输出误差逆传播输出的误差由输出层经中间层传向输入层。循环记忆训练模式顺传播与误差逆传播的计算过程反复交替循环进行。学习结果判别判定全局误差是否趋向极小值。三层网络设计需要考虑的问题在进行网络的设计时，应从网络的层数每层中的神经元数初始值及学习速率等几个方面考虑。网络的层数已经证明三层网络可以实现多维单位立方体到的映射，即能够逼近任何有理函数。这实际上给了个设计网络的基本原则。增加层数可以更进步降低误差，提高精度，但同时也使网络复杂化，从而增加网络权值的训练时间。而误差精度的提高实际上可以通过增加隐含层的神经元数目来获得，其训练结果也比增加层数更容易观察和调整。所以般情况下，应优先考虑增加隐含层的神经元个数。隐含层的神经元数网络训练精度的提高，可以通过采用个隐含层而增加神经元数的方法来获得。这在结构的实现上要比增加更多的隐含层简单的多。在具体设计时，比较实际的做法是隐含层取输入层的两物质，突触有两种类型，兴奋性突触和抑制性突触。前者产生正突触后电位，后者产生负突触后电位。人工神经元模型通用模型求和操作响应函数人工神经网络模型前向网络从输出到输入有反馈的前向网络用来存储种模式序列，层内互连前向网络限制层内同时动作的神经元分组功能相互结合型网络常见神经元响应函数阈值单元线性单元非线性单元函数神经网络基本学习算法有教师学习监督学习神经网络学习系统误差分析误差信号期望输出输入期望输出无教师学习无监督学习强化学习再励学习神经网络学习系统外部环境评价信息输入期望输出神经网络学习系统输入期望输出第二部分反向传播网络网络反向传播网络，简称网络是将学习规则般化，对非线性可微分函数进行权值训练的多层网络。权值的调整采用反向传播的学习算法，它是种多层前向反馈神经网络，其神经元的变换函数是型函数。输出量为到之间的连续量，它可实现从输入到输出的任意的非线性映射。网络主要应用函数逼近用输入矢量和相应的输出矢量训练个网络逼近个函数模式识别和分类用个特定的输出矢量将它与输入矢量联系起来把输入矢量以所定义的合适方式进行分类数据压缩减少输出矢量维数以便于传输或存储具有将强泛化性能使网络平滑地学习函数，使网络能够合理地响应被训练以外的输入泛化性能只对被训练的输入输出对最大值范围内的数据有效，即网络具有内插值特性，不具有外插值性。超出最大训练值的输入必将产生大的输出误差网络特点输入和输出是并行的模拟量网络的输入输出关系是各层连接的权因子决定，没有固定的算法权因子通过学习信号调节。学习越多，网络越聪明隐含层越多，网络输出精度越高，且个别权因子的损坏不会对网络输出产生大的影响只有当希望对网络的输出进行限制，如限制在和之间，那么在输出层应当包含型激活函数。在般情况下，均是在隐含层采用型激活函数，而输出层采用线性激活函数。多层网络简介多层网络是种杂性的地震灾害预测研究中有很大的优越性。本文中利用大量地震数据，建立了非线性人工神经网络。经过网络训练，获得了潜在地震灾害预测系统。同时，通过模拟预测，分析了人工神经网络在潜在地震灾害预测中的可能性和有效性。相对于传统的预报方法，神经网络在处理这方面的问题中有独特的优势，主要表现在以下几个方面容错能力强。由于神经网络的知识信息采用分布式存储，个别元件损坏不会引起输出，是就使得预测过程中容错能力很强，可靠性高。预测速度快。训练好的网络在对未知样本进行预测时仅需要少量的加法好乘法，使得其运算速度明显快于其他方法。避开了特殊因素与判别目标的复杂关系描述，特别是公式的表述。网络可以自己学习好记忆各输入和输出量之间的关系。模型的建立以我国城市以及其邻近地区，自年到年地震常发地区的地震资料作为样本来源，实现基于神经网络的地震预测。根据这些地震资料，提取出个预报因子和实际发生的最大地震级作为输入和目标向量。预报因子为次数最多的地震级值平均地震级数平均纬度平均纬度偏差平均经度平均经度偏差大于的地震次数相邻两年的地震次数差，当绝对值超过均值的个数量级时，先除以再取整相邻的两年最大地震的地震级数差，当其为负数时作乘以处理最大地震震级表地震活动指标年值年份次数最多的震级值平均震级纬度偏差经度偏差平均纬度平均经度次数次数差震级差最大震级自适应竞争网络对地震等级进行预测数据处理输入量次数最多的地震级值平均地震级数平均纬度