神经网络的应用论文 ㊣ 精品文档 值得下载

代替前向神经网络函数作为网络的激活函数，生成的个与径向基函数神经网络在结构上相似的神经网络。

由于小波神经网络独特的数学背景，使得这种网络存在多种形式和多种学习方法，而各种不同形式的小波神经网络从结构形式上看，可以分为两大类。

第类是小波变换与常规神经网络的结合第二类是小波分解与前向神经网络的融合。

前者称为结合，是指彼此虽紧密相联，但却相互独立，即为松散型小波神经网络，它以小波空间作为模式识别的特征空间，通过小波基与信号的内积进行加权和来实现信号的特征提取，然后把提取的特征向量送入常规神经网络进行处理，即小波变换预处理神经网络。

因此，原则上说，这种神经网络并不属于真正意义的小波神经网络，它仅仅是信号经小波变换后，再输入给常规神经网络以完成分类函数逼近等功能对于第二类，即为紧致型小波神经网络，它是将常规单隐层神经网络的隐节点函数用小波函数的尺度与平移参数来代替的。

小波神经网络的结构和表达式与网络的基本致，即由三层输入层隐含层输出层构成。

不同之处在于，网络隐含层神经元的激励函数取函数，小波神经网络则采用满足可允许条件的小波函数为激励函数，的具体取法可以视需要进行选择。

输出层的激励函数常见的有函数和线性函数。

网络训练过程基于误差逆传播思想，按梯度下降方向调整权值，以及小波参数。

由于隐含层采用不同的激励函数，因而在调整权值和小波参数时，所采用的算法有所变化。

小波网络的具体实现过程如下。

其中，表示第个输入样本的第维取值表示第个神经网络输出的第维取值表示中间隐含层到输出层的权值表示输入层到中间隐含层的权值表示中间层的伸缩和平移参数表示第个实际输出样本的第维取值表示神经网络的误差函数表示神经网络的偏置。

杨守建，陈恳基于神经网络的交通标志识别计算机工程与科学仲云飞，梅韬，吴邦彬，陈端遗传算法优化神经网络在大坝扬压力预测中的应用水电能源科学，刘晓强，杨燕华，赵跃基于人工神经网络的软土地基沉降预测技术研究水道港口王玉龙，崔玉，李鹏，李锐基于小波分析改进的神经网络模型电力系统负荷预测电网与清洁能源入层隐含层输出层以及样本个数的神经元个数分别为。

若令则有在梯度下降的思想下，相应的参数调整过程如下。

其中，为学习系数。

小波神经网络学习过程载入输入输出样本，并对其进行归化，得到归化输入与输出，令，并初始化迭代步长。

，计算神经网络的输出，令对进行初始化，则神经网络的隐含层输出的矩阵形式如下。

若令对进行初始化，则神经网络的输出层输出如下。

利用算法修正权值和。

令则神经网络总的误差输出如下。

神经网络输出层系数矩阵的修正方法如下。

神经网络隐含层系数矩阵的修正方法如下。

其中，表示的列。

若满足退出条件，则退出否则，返回。

对于小波网络中小波函数的选择，通常根据经验和实际的不同情况。

在图像压缩应用中，要求小波函数具有紧支撑对称性正交性和消失矩，已证明正交小波函数不能同时具有这些性质在信号的近似和估计应用中，小波函数的选择与信号的特征相匹配，应考虑小波的波形支撑大小和消失矩的数目在信号检测的应用中，若检测边缘，则采用光滑函数的阶导数型的反对称小波若脉冲检测，则采用光滑函数二阶导数型的对称小波。

参考文献叫轮盘赌法，它的基本原则是按照个体的适应度大小比例进行选择。

交叉交叉也称交配，即将两个父代个体的编码串的部分基因进行交换，产生新的个体。

交叉算子是种群遗传算法的重要算子，是种群产生新个体的主要手段。

对于二进制编码，具体实施交叉的方法有单点交叉两点交叉多点交叉和致交叉等。

对于实数编码，交叉的方法有离散重组中间重组和线性重组等。

变异变异操作首先在种群中随机选择个个体，对于选中的个体按照定的概率随机改变串结构的个值，即对种群中的每个个体以概率改变个或些基因座上的值为其他的基因。

同生物界样，遗传算法发生变异的概率很低。

变异操作为新的个体提供了机会。

终止条件判断终止条件判断是指在什么条件下认为算法找到了最优解，从而可以终止算法。

通常使用遗传算法解决具体问题并不知道问题的最优解是什么，也不知道最优解的目标函数值，因而需要算法终止，并获得最优解。

遗传神经网络的基本原理遗传算法优化神经网络算法的流程如图。

确定神经网络的拓扑结构确定遗传算法的参数并初始化遗传编码解码得到权值与阈值计算神经网络的输出误差遗传算法根据输出误差利用选择交叉变异重插入等方法得到新的遗传编码误差小于阈值否结束是基本原理为利用遗传算法具有全局搜索和收敛速度快的特点，将其与神经网络结合起来，不仅能发挥神经网络的泛化映射能力，而且具有使神经网络克服收敛速度慢和容易陷入局部误差极小点等缺点。

遗传神经网络的主要优化目标是神经网络的权值与阈值。

因此，神经网络的拓扑结构必须提前确定，而且通用遗传算法存在收敛精度不高，容易过早收敛等问题。

在实际应用中，可以从以下两方面入手。

第，将遗传算法与梯度下降法的等方法结合使用，以改善收敛效果。

第二，将小生境方法等手段引入遗传算法，提高遗传算法的性能。

坝基岩体渗透系数的识别将渗透区域进行有限元剖分，随机取组渗透系数，计算出各点的水头值，得到组原始训练样本。

具体实现生成样本数据。

初始化遗传算法与神经网络参数。

计算适应度，然后根据适应度值进行选择重组变异及重插入等运算，直到达到最大迭代次数。

利用梯度下降法对神经网络权值与阈值再进行次优化，并输出优化结果。

输出最优解平均解随迭代次数变化的关系神经网络输出与期望输出的比较程序的运行时间等。

三模糊神经网络在预测地基沉降量中的应用模糊逻辑和神经网络的比较神经网络模糊逻辑基本组成神经元模糊规则知识获取样本算法实例专家知识逻辑推理知识表达分布式表达隶属函数推理机制学习函数的自控制并行计算速度快模糊规则的组合启发式搜索速度慢推理操作神经元的叠加隶属函数的最大最小自然语言实现不明确，灵活性低实现明确，灵活性高自适应性通过调整权值学习，容错性高归纳学习，容错性低优点自学习自组织能力，容错，泛化能力可利用专家的经验缺点黑箱模型，难于表达知识难于学习，推理过程模糊性增加模糊神经网络是在神经和模糊系统的基础上发展起来的，是种将模糊逻辑推理的知识性结构和神经网络的自学习能力结合起来的种局部逼近网络，融合弥补了神经网络在模糊数据处理方面的不足和模糊逻辑在学习方面的缺陷，是种集语言计算逻辑推理分布式处理和非线性动力学过程为身的系统。

因此，它具有处理不确定信息的模糊推理能力杂度，本节将隶属函数变为将神经网络的输出函数变为若令其中，表示输入样本组成的维矩阵表示输入样本的隶属度函数值所组成的维矩阵表示线性系数组成的维矩阵表示中心所组成的维矩阵表示中心宽度所组成的维矩阵。

神经网络的输出表示为其中，神经网络误差对系数矩阵的偏导数为其中，表示矩阵点乘，表示矩阵在列方向上求和。

型模糊神经网络学习算法步骤将给定的输入输出样本适当分成两部分。

部分用来训练另部分用来测试和评价求得的系统的性能。

根据训练样本，利用聚类方法对输入样本进行聚类，聚类后的每个组对应于条规则。

假设聚类有个组，则有条模糊规则。

聚类时，如何决定合适的组数，虽有多因素考虑，但通常有两个方法。

个方法是用根据均值法中的距离平方和指标，看数组增加个时，减少的程度另个方法是判断分成组后每个组的体积大小。

训练神经网络。

首先计算隶属函数值组成的矩阵，在此基础上计算神经网络的输出及相应的然后计算误差对系数矩阵的偏导数，根据梯度下降法更新最后利用来更新，等参数。

如果未达到退出条件，则继续迭代，否则退出。

四小波神经网络在电力负荷预测中的应用小波理论基础定义设为平方可积函数，即，若其傅里叶变换满足条件其中，。

则称为个基本小波或小波母函数，该式为小波函数的容许性条件。

将小波母函数进行伸缩和平移，设其伸缩因子为，平移因子为，伸缩平移后的母函数为称为依赖于参数的小波基函数。

定义当参数是连续变化的值时，称为连续小波基函数，它们是由同母函数经过伸缩和平移后得到的组函数系列。

对于函数，其连续小波变换为其中，表示为的复共轭。

定义当取离散值，而仍然取连续值时，经此种离散化后的小波和相应的小波变换称为二进小波和二进小波变换。

定义当参数都取离散值时，固定伸缩步长，位移步长，取，从而把连续小波变成离散小波，即对于函数，其离散小波变换为定义对于任何，如果函数具有如下性质便称构成个小波框架，上式为小波框架条件。

其中为框架界。

其频率表示为若时，这个框架称为个紧密架。

任何变换都必须存在逆变换才有实际意义。

在中，若满足课容许性条件式，则又可由连续小波逆变换重构又可由离散小波逆变换重构其中，称为的对偶，它满足几种典型的小波函数小波其他这是种最简单的正交小波，即小波系该小波是从两尺度方程系数出发设计出来的离散正交小波，般简写，是小波的阶数。

小波和尺度函数中的支撑区为，的消失阶为。

除外小波，不具有对称性即非线性相位，没有显示表达式除外。

但的传递函数模的平方具有显式表达式。

假设，其中为二项式系数，则有小波系函数系主要特性体现在具有线性相位，它主要应用在信号与图像的重构中，通常的用法是采用个函数进行分解，用另个小波函数进行重构。

函数系表示为的形式依据样本数据进行学习的能力。

模糊神经网络主要利用神经网络结构来实现模糊推理，从而是神经网络的权值具有在模糊逻辑中推理参数的物理意义。

模糊逻辑系统简介设为个离散或连续的集合，被称为论域，用表示论域的元素。

模糊集合是用隶属函数来表示的。

定义论域中的模糊子集，是以隶属函数为表征的集合，即由映射确定论域的子集。

称为模糊子集的隶属函数，称为对的隶属度，它表示论域中的元素属于其模糊子集的程度，它在闭区间内可取连续取值，隶属度也可以简记为。

般来说，模糊逻辑系统是指那些与模糊概念和模糊逻辑有直接关系的系统，它由模糊产生器模糊规则库模糊推理机和反模糊化器四部分组成。

模糊产生器将论域上的点映射为上的模糊集合，反模糊化器将论域上的模糊集合映射为上确定的点，模糊推理机根据模糊规则库中的模糊推理知识及由模糊产生器产生的模糊集合，推理出模糊结论，即论域上的模糊集，并将其输入到反模糊化器中。

般模糊逻辑系统按照常见的形式分为纯模糊系统模糊逻辑系统和广义逻辑系统。

其中，前两种模糊系统较多见。

在模糊逻辑系统中，模糊规则有着下列特殊形式。

模糊产生器模糊规则库反模糊化器模糊推理机上的上的模糊集上的模糊集上的其中，表示第条规则表示模糊规则表示输入值为系统根据规则得到的输出值表示模糊集合为常系数。

部分是模糊的，部分是确定的，即输出为各输入变量的线性组合。

对于个输入向量，模糊逻辑系统的输出定义为式中，加权系数包括了规则作用于输入所有可能取得的所有真值。

其中，表示规则下模糊集合的隶属函数。

此模糊逻辑系统的主要优点是它的输出能由规则库中的诸隶属函数及规则的输出部分精确确定。

因此，能用系统辨别的方法来确定该系统的参数，用确定系统阶数的方法确定规则数缺点在于其规则的结论部分是非模糊的。

定义由中心平均反模糊化器乘积推理规则单值模糊产生器及高斯型隶属函数构成的模