TOP24【毕业设计】Logistic回归与判别分析的比较.doc文档免费在线阅读

判别分析的概述模型判别分析是用于判断样品所属类型的种统计方法。

在生产科研和日常生活中经常遇到如何根据观测到的数据资料对所研究的对象进行判别归类问题。

例如在医学诊断中，个病人肺部有阴影，医生要判断他是肺结核肺部良性肿瘤，还是肺癌。

这里肺结核病人良性肿瘤病人肺结核病人组成三个总体，病人来源于这三个总体之，判别分析的目的是通过待侧病人的指标阴影的大小，边缘是否光滑，体温多少„„来判断他应该属哪个总体即判断他生什么病。

在气象方面主要应用在划分气候类型降雨类型等方变量，与，的关系如下其中，函数是值域在，区间内的单调函数。

对于回归于是归模型。

未分组数据的回归模型设是型变量是与相关的确定型变量，组观测数据为，，其中，是取值为或的随机数据的回归只使用于大样本的分组数据，对于小样本的未分组的数据不适用，并且以组数为回归拟合的样本量，使拟合的精度低。

实际上，我们可以用极大似然估计直接拟合未分组数据的回归模型不是等方差的，应该对式用加权最小二乘估计，当较大时，的近似方差为其证明参考文献其中，，因而选定权数为分组为逻辑变换，变换后的线性回归模型为回归模型成功的拟合了因变量为定型变量的回归模型，但是仍然从在个不足之处，就是异方差性并没有解决。

式的回因变量，误差项只能取两个值当时，当时，对以上回归方程作线性变化，令式变换称随机变量的方差为有式可得的方差依赖于，误差项方差随着的不同水平而变化，是异方差。

这时对个取值为和的又因为，所以因变量均值受到限制。

另外，误差项为具有异方差性的的两点型离散分布。

由于与只是相差个常数，因而与的方差是相等的。

型由于是型贝努利随机变量，则得如下概率分布显然有，故当因变量为型随机变量时，因变量均值表示给定自变量时的概率，身只取，两个离散值，不适于直接作为回归模型中的因变量，由于回归函数表示自变量为的条件下等于的比例。

这提示我们可以用等于的比例代替本身作为因变量。

函数都符合要求，我们常用的是函数与正态分布函数。

函数的形式为函数的中文名称是逻辑斯谛函数，或简称逻辑函数。

第二，因变量本对型因变量产生的问题，我们对因变量模型因该做两方面的改进。

第，回归函数应该改用限制在，区间内的连续曲线，而不能在沿用直线回归方程。

限制在，区间内的连续曲线很多，例如所有连续型随机变量的分布虑般的回归模型„„，其中满足为型随机变量，其概率分布为，显然有。

针，但当的取值有两种意义上时，就要用多分类回归分析二分类回归分析分组数据的回归模型下面首先考回归比判别分析稳健，回判正确率优于判别分析。

在很多应用中，直接采用回归进行分类。

回归模型概述通常意义上的回归要求因变量只有两种取值二分类回归判别的优势与功能。

本文通过对比来研究两种方法的回归正确率，分类方法对全部观测值进行分类，其中分类结果正确的观测点所占比例为回判正确率。

从医学生物学经济管理领域等领域中的例子显示，测值与两个不同类别之间距离差异进行分类，距离包括马氏距离和欧氏距离等。

回归具有良好的判别和预测功能，尤其在资料类型不能满足判别和判别的条件时，更能显示出测值与两个不同类别之间距离差异进行分类，距离包括马氏距离和欧氏距离等。

回归具有良好的判别和预测功能，尤其在资料类型不能满足判别和判别的条件时，更能显示出回归判别的优势与功能。

本文通过对比来研究两种方法的回归正确率，分类方法对全部观测值进行分类，其中分类结果正确的观测点所占比例为回判正确率。

从医学生物学经济管理领域等领域中的例子显示，回归比判别分析稳健，回判正确率优于判别分析。

在很多应用中，直接采用回归进行分类。

回归模型概述通常意义上的回归要求因变量只有两种取值二分类，但当的取值有两种意义上时，就要用多分类回归分析二分类回归分析分组数据的回归模型下面首先考虑般的回归模型„„，其中满足为型随机变量，其概率分布为，显然有。

针对型因变量产生的问题，我们对因变量模型因该做两方面的改进。

第，回归函数应该改用限制在，区间内的连续曲线，而不能在沿用直线回归方程。

限制在，区间内的连续曲线很多，例如所有连续型随机变量的分布函数都符合要求，我们常用的是函数与正态分布函数。

函数的形式为函数的中文名称是逻辑斯谛函数，或简称逻辑函数。

第二，因变量本身只取，两个离散值，不适于直接作为回归模型中的因变量，由于回归函数表示自变量为的条件下等于的比例。

这提示我们可以用等于的比例代替本身作为因变量。

由于是型贝努利随机变量，则得如下概率分布显然有，故当因变量为型随机变量时，因变量均值表示给定自变量时的概率，又因为，所以因变量均值受到限制。

另外，误差项为具有异方差性的的两点型离散分布。

由于与只是相差个常数，因而与的方差是相等的。

型随机变量的方差为有式可得的方差依赖于，误差项方差随着的不同水平而变化，是异方差。

这时对个取值为和的因变量，误差项只能取两个值当时，当时，对以上回归方程作线性变化，令式变换称为逻辑变换，变换后的线性回归模型为回归模型成功的拟合了因变量为定型变量的回归模型，但是仍然从在个不足之处，就是异方差性并没有解决。

式的回归模型不是等方差的，应该对式用加权最小二乘估计，当较大时，的近似方差为其证明参考文献其中，，因而选定权数为分组数据的回归只使用于大样本的分组数据，对于小样本的未分组的数据不适用，并且以组数为回归拟合的样本量，使拟合的精度低。

实际上，我们可以用极大似然估计直接拟合未分组数据的回归模型。

未分组数据的回归模型设是型变量是与相关的确定型变量，组观测数据为，，其中，是取值为或的随机变量，与，的关系如下其中，函数是值域在，区间内的单调函数。

对于回归于是是均值为的型分布，且每个都服从分布。

设，可以把的概率函数合写为，于是的似然函数为，对似然函数取自然对数为，对于回归，将代入得到，这里用，来表明式可视为在给定样本之后估计参数，的对数似然函数。

为了得到最大似然函数估计，将式分别对，求偏导，然后领它们等于，可以求得估计值，使得式达到最大。

多类别回归分析记，为定性变量取得个类别，为取第个类别的概率因变量取值于每个类别的概率与组自变量，有关，对于样本数据，，多类别回归模型第组样本的因变量取第个类别的概率为，上式中各回归系数不是唯确定的，每个回归系数同时加减个常数后的数值保持不变。

为此，把分母的第项中的系数都设为，得到的回归函数的表达式，此表达式中每个回归系数都是唯确定的，第个类别的回归系数都取做，其他类别回归系数数值的大小都以第个类别为参照。

判别分析的概述模型判别分析是用于判断样品所属类型的种统计方法。

在生产科研和日常生活中经常遇到如何根据观测到的数据资料对所研究的对象进行判别归类问题。

例如在医学诊断中，个病人肺部有阴影，医生要判断他是肺结核肺部良性肿瘤，还是肺癌。

这里肺结核病人良性肿瘤病人肺结核病人组成三个总体，病人来源于这三个总体之，判别分析的目的是通过待侧病人的指标阴影的大小，边缘是否光滑，体温多少„„来判断他应该属哪个总体即判断他生什么病。

在气象方面主要应用在划分气候类型降雨类型等方面，可以是各个待测因素的本质得以区别出来在经济学中，根据人均国民收入，人均工农业产值，人均消费水平等多种指标来判定个国家经济发展程度所属类型。

在环境科学中，根据地区的气象条件大气污染元素浓度等来判断该地区是属于严重污染般污染，还是无污染。

在农林虫害预报中，根据以往的虫情及多种气象因子判别个多月后的虫情是大发生中发生或正常，等等。

总之，判别分析是应用性很强的种多元统计方法，已经渗到各个领域。

但不管到哪个领域，判别分析问题都可以这样描述设有个维总体其分布特征已知如已知分布函数分别为或知道来自各个总体的训练样本，对给定的个新样品，我们要判断它来自哪个总体。

在进行判别归类时，有假设的前提，判别的依据及处理的手法不同，可得出不同判别方法。

如距离判别，判别，判别或典型判别，逐步判别，序贯判别等。

但是，这些方法没有考虑被判对象是否有序的问题。

而许多实际问题中，被判对象都是有序的。

不考虑序的影响，就丢失了重大信息。

根据总体的不同，选择不同的判别方法。

此处，假设知道总体的特征量即参数均值和协方差阵，用距离判别来用。

利用回归进行二次判别提高判别分析效率般情况下，距离判别分析对数据的基本要求是分组类型在两组或两组以上在第阶段工作时每组案例的规模必须在个以上预测变量必须是可测量的以计算其平均值和方差来得到相应的统计函数。

另外还需要有定的假设条件每个判别变量预测变