判别分析的基本思想

判别分析又称“分辨法”，是在分类确定的条件下，根据某一研究对象的各种特征值判别其类型归属问题的一种多变量统计分析方法。 y=a1x1+a2x2+……+anxn（a1为系数，Xn为变量）。事先非常明确共有几个类别，目的是从已知样本中训练出判别函数 1.各自变量为连续性或有序分类变量 2.自变量和因变量符合线性假设 3.各组的协方差矩阵相等，类似与方差分析中的方差齐 4.变量间独立，无共线性 注：违反条件影响也不大，主要看预测准不准，准的话违反也无所谓 1.对客户进行信用预测；2.寻找潜在客户等 1.最大似然法 适用于 自变量均为分类变量 的情况，算出这些情况的概率组合，基于这些组合大小进行判别 2.距离判别 对新样品求出他们离各个类别重心的距离远近，适用于 自变量均为连续变量 的情况， 对变量分布类型无严格要求 3.Fisher判别法 与主成份分析有关，对分布、方差等都没有什么限制，按照类别与类别差异最大原则提取公因子然后使用公因子判别 4.Bayes判别 强项是进行多类判别，要求总体呈多元正态分布 。利用贝叶斯公式，概率分布逻辑衍生出来一个判别方法，计算这个样本落入这个类别的概率，概率最大就被归为一类 在spss中一般用Fisher判别即可，要考虑概率及误判损失最小的用Bayes判别，但变量较多时，一般先进行逐步判别筛选出有统计意义的变量，但通常在判别分析前我们已经做了相关的预分析，所以不推荐使用逐步判别分析（采用步进法让自变量逐个尝试进入函数式，如果进入到函数式中的自变量符合条件，则保留在函数式中，否则，将从函数式中剔除）。 都是研究分类的。聚类分析，对总体到底有几种类型不知道（研究分几类较为合适需从计算中加以调整）。判别分析则是在总体类型划分已知，对当前新样本判断它们属于哪个总体。如我们对研究的多元数据的特征不熟悉，当然要进行聚类分析，才能考虑判别分析问题。 1.自身验证（拿训练数据直接预测验证，但是对预测样本预测好不代表对新样本预测好） 2.外部数据验证（收集新的数据来验证，这是最客观最有效的，但是麻烦而且两次收集的数据不一定是同质的） 3.样本二分法（一般划分2/3为训练集，1/3为验证集，但是浪费了1/3的样本） 4.交互验证（Cross-Validation）----刀切法（10分法，数据划分为10个集合，每次挑选一个出来做验证集，其余9个做训练集，可以做10次，因为验证集可换10种可能） 在spss软件中通过【分析】—【留一分类】获得此项结论。 下面采用实例来说明。 如下图-1数据集包含了刚毛、变色、弗吉尼亚这三种鸢尾花的花萼长、宽和花瓣长、宽，分析目的是希望能够使用这4个变量来对花的种类进行区分。spno为事先的分组，度量标准设为【名义】。 主要是对假设条件的检验，在spss中 【分析】—【描述统计】—【描述】 ，如图-2 如图-3可以看到数据的分布没有特别的离异点，也没有缺失值和不合理的分布，从而可以用该数据做接下来的判别分析。 1）选择分类变量及其范围：如图-4所示 【分组变量】矩形框中选择表明已知的观测量所属类别的变量(一定是离散变量)，在定义范围框最小值中输入该分类变量的最小值，最大框中输入该分类变量的最大值。 2)    指定判别分析的自变量 3） 选择观测量 如果希望使用一部分观测量进行判别函数的推导而且有一个变量的某个值可以作为这些观测量的标识，则用Select 功能进行选择，键入标识参与分析的观测量所具有的该变量值， 一般均使用数据文件中的所有合法观测量此步骤可以省略。 4） 选择分析方法：如图-5所示 【一起输入自变量】 选项，当认为所有自变量都能对观测量特性提供丰富的信息时，使用该选择项。选择该项将不加选择地使用所有自变量进行判别分析，建立全模型，不需要进一步进行选择。 【使用步进式方法】 选项，当不认为所有自变量都能对观测量特性提供丰富的信息时，使用该选择项。因此需要判别贡献的大小，再进行选择当鼠标单击该项时【方法】按钮加亮，可以进一步选择判别分析方法。一般我们做判别分析前已经做了相关的预分析（不推荐）。 如图-6所示【方法】选项：步进法让自变量逐个尝试进入函数式，如果进入到函数式中的自变量符合条件，则保留在函数式中，否则，将从函数式中剔除。可供选择的判别分析方法有： 1.Wilks"lambda 选项，它是组内平方和与总平方和之比，用于描述各组的均值是否存在显著差别，当所有观测组的均值都相等时，Wilks"lambda值为1；当组内变异与总变异相比很小时，表示组件变异较大，表示组间变异较大，系数接近于0。系统默认选项。 2.未解释方差。 它指把计算残余最小的自变量优先纳入到判别函数式中。 3.Mahalanobis"距离 。它把每步都使靠得最近的两类间的马氏距离最大的变量进入判别函数 4.最小 F值。它把方差差异最大的自变量优先纳入到判别函数中。 5.Rao"s V 。劳氏增值法：它把劳氏统计量V产生最大增值的自变量优先纳入到判别函数中。可以对一个要加入到模型中的变量的V 值指定一个最小增量。选择此种方法后，应该在该项下面的V-to-enter 后的矩形框中输入这个增量的指定值。当某变量导致的V值增量大于指定值的变量后进入判别函数。 【标准】：选择逐步判别停止的判据 1.使用F值。系统默认的判据。当加人一个变量(或剔除一个变量)后，对在判别函数中的变量进行方差分析。当计算的F值大于指定的进入值时，该变量保留在函数中。默认值是3.84：当该变量使计算的F值小于指定的删除值时，该变量从函数中剔除。默认值为2.71。即当被加入的变量F 值为3.84 时才把该变量加入到模型中，否则变量不能进入模型；或者，当要从模型中移出的变量F值<2.71时,该变量才被移出模型,否则模型中的变量不会被移出.设置这两个值时应该注意进入值>删除值。 2.使用F检的概率。决定变量是否加入函数或被剔除的概率而不是用F值。加入变量的F值概率的默认值是0.05(5%)，移出变量的F值概率是0.10(10%)。删除值(移出变量的F值概率) >进入值(加入变量的F值概率)。 【输出】：对于逐步选择变量的过程和最后结果的显示可以通过输出栏中的两项进行选择： 1.步进摘要。要求在逐步选择变量过程中的每一步之后显示每个变量的统计量。 2.两两组间距离的F值。要求显示两两类之间的两两F值矩阵。 这里我们选择建立全模型,所以不用对方法进行设置。 如图-7所示【statistics】选项:可以选择的输出统计量分为以下3 类: (1） 描述性 1.平均值。可以输出各类中各自变量的均值、标准差和各自变量总样本的均值和标准差。 2.单变量ANOVA复选项。对各类中同一自变量均值都相等的假设进行检验，输出单变量的方差分析结果。 3.Box"s M 复选项。对各组的协方差矩阵相等的假设进行检验。如果样本足够大，差异不显著的p值表明矩阵差异不明显。 （2）函数系数栏：选择判别函数系数的输出形式 1.Fisherh"s。给出Bayes判别函数的系数。对每一类给出一组系数，并给出该组中判别分数最大的观测量。（注意：这个选项不是要给出Fisher判别函数的系数。这个复选框的名字之所以为Fisher"s，是因为按判别函数值最大的一组进行归类这种思想是由Fisher提出来的。这里极易混淆，请注意辨别。） 2.未标准化。给出未标准化的判别函数（即典型判别函数）的系数（SPSS默认给出标准化的判别函数信息）。 （3）矩阵 1.组内相关。即类内相关矩阵，它是根据在计算相关矩阵之前将各组(类)协方差矩阵平均后计算类内相关矩阵。 2.组内协方差。即计算并显示合并类内协方差矩阵，是将各组(类)协方差矩阵平均后计算的。区别于总协方差阵。 3.分组协方差。对每类输出显示一个协方差矩阵。 4.总体协方差。计算并显示总样本的协方差矩阵。 如图-8所示【分类】选项： (1) 先验概率：两者选其一 1.所有组相等。各类先验概率相等。若分为m类，则各类先验概率均为1/m。系统默认 2.根据组大小计算。由各类的样本量计算决定，即各类的先验概率与其样本量成正比。 (2) 使用协方差矩阵 ：选择分类使用的协方差矩阵 1.在组内。指定使用合并组内协方差矩阵进行分类。系统默认 2.分组。指定使用各组协方差矩阵进行分类。 由于分类是根据判别函数，而不是根据原始变量，因此该选择项不是总等价于二次判别。 (3) 图：选择要求输出的统计图 1.合并组。生成一张包括各类的散点图。该散点图是根据前两个判别函数值作的散点图。如果只有一个判别函数就输出直方图。 2.分组。根据前两个判别函数值对每一类生成一张激点图，共分为几类就生成几张散点图。如果只有一个判别函数就输出直方图。 3.区域图。生成用于根据函数值把观测量分到各组中去的边界图。此种统计图把一张图的平面划分出与类数相同的区域。每一类占据一个区各类的均值在各区中用*号标出。如果仅有一个判别函数，则不作此图。 (4) 输出栏：选择生成到输出窗中的分类结果 1.个案摘要。要求输出每个观测量包括判别分数、实际类、预测类(根据判别函数求得的分类结果)和后验概率等。选择此项还可以选择其附属选择项：将个案限制在前，并在后面的小矩形框中输入观测量数n选择。此项则仅对前n个观测量输出分类结果。观测数量大时可以选择此项。 2.摘要表。要求输出分类的小结，给出正确分类观测量数(原始类和根据判别函数计算的预测类相同)和错分观测量数和错分率。 3.不考虑该个案时的分类（留一分类）。输出对每个观测量进行分类的结果，所依据的判别是由除该观测量以外的其他观测量导出的，也称为交互校验结果。建议勾选 (5)使用均值替换缺失值：即用该类变量的均值代替缺失值。缺失值缺失大于10%，不介意勾选 本例中如图-8中勾选。 如图-9所示【保存】选项:指定生成并保存在数据文件中的新变量 1.预测组成员。要求建立一个新变量，预测观测量的分类。是根据判别分数把观测量按后验概率最大指派所属的类。每运行一次Discriminant过程，就建立一个表明使用判别函数预测各观测量属于哪一类的新变量。第1 次运行建立新变量的变量名为dis_l，如果在工作数据文件中不把前一次建立的新变量删除，第n次运行Descriminant 过程建立的新变量默认的变量名为dis_n。 2.判别分数。要求建立fisher判别分数的新变量。该分数是由未标准化的判别系数乘自变量的值，将这些乘积求和后加上常数得来。每次运行Discriminant过程都给出一组表明判别分数的新变量，建立几个判别函数就有几个判别分数变量。 3. 组成员概率。Bayes后验概率值。有m类，对一个观测量就会给出m个概率值，因此建立m个新变量。 本例不勾选。 下面为最重要的结果，可在撰写结论使用。

20210308 未完更新中 为了克服“维数灾难”，人们将高维数据投影到低维空间上来，并保持必要的特征，这样，一方面数据点变得比较密集一些，另一方面，可以在低维空间上进行研究。 Fisher判别分析的基本思想 ：选取适当的投影方向，将样本数据进行投影，使得投影后各样本点尽可能分离开来，即：使得投影后各样本 类内 离差平方和尽可能小，而使各样本 类间 的离差平方和尽可能大。 ①设已知有两个类 和 ，在已知的数据中， 类有 个个体， 类有 个个体，即： 注意：个体 为列向量，列向量的元素为不同特征的具体数值。如，小明身高180，体重70，可以设小明这个个体为 ②计算两个类的 均值 ：    ③计算两个类的 类内离差平方和 矩阵： 总的离差阵为 类间离差阵为 ④设需要找的投影向量为 ，将所有的个体 投影到 方向上，则可以得到投影后的结果为 ，即： 第一类个体在 方向上的投影结果为： ； 第二类个体在 方向上的投影结果为： ； ⑤计算投影后两类的均值与类内离差平方和矩阵 总离差： 类间方差： ⑥要使得在新的（投影后）数据空间中，数据的分离性能最好，即要使得两个类的类内距离最小，类间距离最大，建立目标函数 ，希望找到合适的投影向量 ，使得目标函数 达到最大。 采用Lagrange乘数法求解。令分母等于非零常数，即： 定义lagrange函数为 对 求偏导得 又矩阵 与 是对称矩阵，因此，上式可化简为 令 ，有 记上式得解为 ，则 继续化简有： 两边同时左乘 得： 因此， 即为矩阵 的最大特征值对应的特征向量 又 故 又 为一标量，因此 记 则 而标量 并不会影响 的投影方向。 综上所述， 的解为

问题一：判别分析的应用 在气候分类、农业区划、土地类型划分中有着广泛的应用。在市场调研中，一般根据事先确定的因变量（例如产品的主要用户、普通用户和非用户、自有房屋或租赁、电视观众和非电视观众）找出相应处理的区别特性。在判别分析中，因变量为类别数据，有多少类别就有多少类别处理组；自变量通常为可度量数据。通过判别分析，可以建立能够最大限度的区分因变量类别的函数，考查自变量的组间差异是否显著，判断那些自变量对组间差异贡献最大，评估分类的程度，根据自变量的值将样本归类。应用范围1）信息丢失2）直接的信息得不到3）预报4）破坏性实验假设条件1）分组类型在两种以上，且组间样本在判别值上差别明显。2）组内样本数不得少于两个，并且样本数量比变量起码多两个。3）所确定的判别变量不能是其他判别变量的线性组合。4）各组样本的协方差矩阵相等。5）各判别变量之间具有多元正态分布。6）样品量应在所使用的自变量个数的10~20倍以上时，建立的判别函数才比较稳定；而自变量个数在8~10之间时，函数的判别效果才能比较理想。当然，在实际工作中判别函数的自变量个数往往会超过10个，但应该注意的是，自变量的个数多并不代表效果好spss操作：“分析”～“分类”～“判别”～进入判别分析主对话框。这里有容易引起歧义的二个变量，最上面的为分组变量。对分组变量的了解需要联系判别分析的原理以及适用范围。因为判别分析是已知分类数目的情况下，进行分析，这个已知的分类数目就是这个分组变量。其实，一般分析步骤中，都是先进行聚类分析，聚类之后得到的分类结果就是这个分组变量，然后再选择这个分组变量，进行分析。也就是，聚类分析是母亲，母亲的孩子就是判别分析。得到的判别函数就是预测想要知道的个案究竟属于哪一类。另一个变量就是选择变量，它位于主对话框的最下面。这个选择变量在回归分析相应的对话框中也有，意思就是选择你需要的变量，这个变量可以为数据窗口的一个整个变量，也可以利用子设置“值”进行选择，所以，它的名字叫做选择变量。“统计量”子对话框：“描述性”栏，包括“均值”“单变量ANOVA”“BoxsM”需要特别说明，以后只要见到ANOVA这个单词，它的意思就是方差分析，也就是进一步输出方差分析表，其中最重要的就是P值也就是Sig值。BoxsM复选框：指的是输出对组协方差矩阵的等同性检验的检验结果。也就是对各类协方差矩阵相等的假设进行检验。“函数系数”栏：其实就是将判别函数系数进行设置。包括“费雪”和“未标准化”。费雪指的是对每一类给出一组系数，并且给出该组中判别分数最大的观测量。“矩阵”栏：都是复选框，对应相应的矩阵也就是在结果表中的四种数阵。“组内相关”“组内协方差”“分组协方差”“总体协方差”这个都是计算机自动计算，人工计算是不可能完成的任务。“分类”子对话框：本文也提到过先验概率，先验概率就是已知一部分信息，来了解未知信息也就是后验概率。“所有组相等”也就是如果分为几类，这所有的类中的先验概率都相等。“根据组大小计算”各类先验概率按照和各类样本量呈正比。“使用协方差矩阵”栏：是二个单选框。“在组内”指使用合并组内协方差矩阵进行分析“分组”指使用各组协方差矩阵进行分析。“输出”栏～“个案结果”：对每一个观测量输出判别分数，也就是选定变量的个案的分进哪个组的资格得分。实际类，预测类，也就是根据判别得分计算的古今对比。实际类就是目前实际上分为几类，预测类就是过去对未来预测，它们一对比，就可以知道过去和现在差别在哪里。附属选项“将个案限制在”在后面的小矩形框中输入观测量数，含义为仅输出设置的观测量结果，当个案也就是观测量太多，可以用此法。“摘......>> 问题二：判别分析的判别函数 判别分析通常都要设法建立一个判别函数，然后利用此函数来进行批判，判别函数主要有两种，即线性判别函数（Linear Discriminant Function）和典则判别函数（Canonical Discriminate Function）。线性判别函数是指对于个总体，如果各组样品互相对立，且服从多元正态分布，就可建立线性判别函数，形式如下：其中，是判别组数；是判别指标（又称判别分数或判别值），根据所用的方法不同，可能是概率，也可能是坐标值或分值；是自变量或预测变量，即反映研究对象特征的变量；是各变量系数，也称判别系数。建立函数必须使用一个训练样品。所谓训练样品就是已知实际分类且各指标的观察值也已测得的样品，它对判别函数的建立非常重要。典则判别函数是原始自变量的线性组合，通过建立少量的典则变量可以比较方便地描述各类之间的关系，例如可以用话散点图和平面区域图直观地表示各类之间的相对关系等。 问题三：关于SPSS判别分析 150分 判别分析的目的 是为了 将待分类的事物 根据已有的分类数据 进行分类，所以 最终会出来一个判别类别系数 可以写判别方程，然后就可以根据这个方程来预测了 问题四：简单判别分析结果分析，为入门弟子求教 1、懂业务。从事数据分析工作的前提就会需要懂业务，即熟悉行业知识、公司业务及流程，最好有自己独到的见解，若脱离行业认知和公司业务背景，分析的结果只会是脱了线的风筝，没有太大的使用价值。 2、懂管理。一方面是搭建数据分析框架的要求，比如确定分析思路就需要用到营销、管理等理论知识来指导，如果不熟悉管理理论，就很难搭建数据分析的框架，后续的数据分析也很难进行。另一方面的作用是针对数据分析结论提出有指导意义的分析建议。 3、懂分析。指掌握数据分析基本原理与一些有效的数据分析方法，并能灵活运用到实践工作中，以便有效的开展数据分 析。基本的分析方法有：对比分析法、分组分析法、交叉分析法、结构分析法、漏斗图分析法、综合评价分析法、因素分析法、矩阵关联分析法等。高级的分析方法 有：相关分析法、回归分析法、聚类分析法、判别分析法、主成分分析法、因子分析法、对应分析法、时间序列等。 4、懂工具。指掌握数据分析相关的常用工具。数据分析方法是理论，而数据分析工具就是实现数据分析方法理论的工具，面对越来越庞大的数据，我们不能依靠计算器进行分析，必须依靠强大的数据分析工具帮我们完成数据分析工作。 5、懂设计。懂设计是指运用图表有效表达数据分析师的分析观点，使分析结果一目了然。图表的设计是门大学问，如图形的选择、版式的设计、颜色的搭配等等，都需要掌握一定的设计原则。 问题五：聚类分析与判别分析如何结合运用 1.聚类分析与判别分析的区别与联系 都是研究分类的，在进行聚类分析前，对总体到底有几种类型不知道（研究分几类较为合适需从计算中加以调整）。判别分析则是在总体类型划分已知，对当前新样本判断它们属于哪个总体。如我们对研究的多元数据的特征不熟悉，当然要进行聚类分析，才能考虑判别分析问题。 2.聚类分析分两种：Q型聚类（对样本的聚类），P型聚类（对变量的聚类） 聚类分析需要注意的是，一般小样本数据可以用系统聚类法，大样本数据一般用快速聚类法（K均值聚类法）。需要根据统计量判断分几类比较合适，一般用R平方统计、伪F统计量等。如用前者时，可以从R平方的变换看n个样品分成几类比较合适，如分为5类时，R平方为0.9，当分为四类时，其值减小较快，如R平方为0.4，则认为分五类比较合适。另外，不同的分类方法产生的分类结果可能不同，要结合实际情况选出最优的分类方法。 3.判别分析 有Fisher判别，Bayes判别和逐步判别。一般用Fisher判别即可，要考虑概率及误判损失最小的用Bayes判别，但变量较多时，一般先进行逐步判别筛选出有统计意义的变量，再结合实际情况选择用哪种判别方法。 问题六：辨别词语意义的方法主要有哪些 1，历史出处法，如 纸上谈兵 ，战国时，赵国大将 赵括，不注重实际，只是依照一些兵书， 去作战，结果大败。 2，词素分解法，如 史无前例 史 ，历史。无，没有。前，以前，例，例子。所以总词语的 意思是，在历史上从来没有过的事。 3，句中移位法，如 就是说同一个词，在不同的地方，词义不同。如，打酱油的“打”和打 你的”打“ 问题七：偏最小二乘判别分析和判别分析有什么区别 就在于这个偏字,主要是偏最小二乘法比最小二乘法多了一项主成分分析而已 问题八：相关系数的取值范围及意义 相关系数取值范围如下： 1、符号：如果为正号，则表示正相关，如果为负号，则表示负相关。通俗点说，正相关就是变量会与参照数同方向变动，负相关就是变量与参照数反向变动； 2、取值为0，这是极端，表示不相关； 3、取值为1，表示完全正相关，而且呈同向变动的幅度是一样的； 4、如果为-1，表示完全负相关，以同样的幅度反向变动； 5、取值范围：[-1，1].

判别分析是在分组已知的情况下，根据已经确定分类的对象的某些观测指标和所属类别来判断未知对象所属类别的一种统计学方法。 下面我们主要从下面四个方面来解说： [if !supportLineBreakNewLine] [endif] 实际应用 理论思想 建立模型 [if !supportLineBreakNewLine] [endif] 分析结果 [if !supportLineBreakNewLine] [endif] 一、实际应用 判别分析最初应用于考古学, 例如要根据挖掘出来的人头盖骨的各种指标来判别其性别年龄等.。慢慢的成为一种常用的分类分析方法，其通过已知的分类情况，根据数据的特征对其他研究对象进行预测归类。在实际生活中，判别分析也被广泛用于预测事物的类别归属。 [if !supportLineBreakNewLine] [endif] 企业营销中，营销人员可通过已有的客户特征数据（如消费金额、消费频次、购物时长、购买产品种类等），预测当前的消费者属于哪种类型的顾客（款式偏好型、偏重质量型、价格敏感型...），并根据其特点有针对性的采取有效的营销手段。或是根据各成分含量指标，判断白酒的品牌或水果的产地等。 除此以外，判别分析还可与聚类分析结合使用。比如，银行的贷款部门想要在发放贷款之前，可通过此方法判断申请人是否具有良好的信用风险。[if !supportLineBreakNewLine] [endif] 二、理论思想 判别分析首先需要对研究的对象进行分类，然后选择若干对观测对象能够较全面描述的变量，接着按照一定的判别标准建立一个或多个判别函数，使用研究对象的大量资料确定判别函数中的待定系数来计算判别指标。对一个未确定类别的个案只要将其代入判别函数就可以判断它属于哪一类总体。 [if !supportLineBreakNewLine] [endif] 常用的判别分析方法有距离判别法、费舍尔判别法和贝叶斯判别法。 [if !supportLineBreakNewLine] [endif] 费舍尔判别法： 费舍尔判别法利用投影的方法使多维问题简化为一维问题来处理。其通过建立线性判别函数计算出各个观测量在各典型变量维度上的坐标并得出样本距离各个类中心的距离，以此作为分类依据。 [if !supportLineBreakNewLine] [endif] 贝叶斯判别法： 贝叶斯判别法通过计算待判定样品属于每个总体的条件概率并将样本归为条件概率最大的组。其主要思想如下：首先利用样本所属分类的先验概率通过贝叶斯法则求出样本所属分类后验概率，并依据该后验概率分布作出统计推断。 [if !supportLineBreakNewLine] [endif] 距离判别法： 距离判别思想是根据各样品与各母体之间的距离远近作出判别的。其通过建立关于各母体的距离判别函数式，得出各样品与各母体之间的距离值，判别样品属于距离值最小的那个母体。 [if !supportLineBreakNewLine] [endif] [if !supportLineBreakNewLine] [endif] 三、建立模型 [if !supportLineBreakNewLine] [endif] 一般判别分析法的思路： 首先建立判别函数； 然后通过已知所属分类的观测量确定判别函数中的待定系数； 最后通过该判别函数对未知分类的观测量进行归类。 逐步判别分析法的思路： 逐步判别分析分为两步 首先根据自变量和因变量的相关性对自变量进行筛选， 然后使用选定的变量进行判别分析。 逐步判别分析是在判别分析的基础上采用有进有出的办法，把判别能力强的变量引入判别式的同时，将判别能力最差的变量别除。最终在判别式中只保留数量不多而判别能力强的变量。 数据条件： [if !supportLists]§ [endif]用户使用的分组变量必须含有有限数目的不同类别，且编码为整数。名义自变量必须被重新编码为哑元变量或对比变量。 [if !supportLists]§ [endif]个案独立的 [if !supportLists]§ [endif]预测变量应有多变量正态分布，组内方差-协方差矩阵在组中应等同。 [if !supportLists]§ [endif]组成员身份假设为互斥的（不存在属于多个组的个案），且全体为穷举的（所有个案均是组成员）。如果组成员身份为真正的分类变量时，则此过程最有效；如果组成员身份基于连续变量的值（如高智商与低智商），则用户需要考虑使用线性回归以利用由连续变量本身提供的更为丰富的信息。 一般判别分析案例： [if !supportLineBreakNewLine] [endif] 题目：以下3种不同种类豇豆豆荚的质量、宽度和长度的统计表，每种类型都为20个样本，共60个样本。根据不同种类豇豆豆荚的特征，建立鉴别不同种类豇豆的判别方程。 一、数据输入 [if !vml] [endif] 二、操作步骤 1、进入SPSS，打开相关数据文件，选择“分析”|“分类 ”|“判别式”命令2、选择进行判别分析的变量。在“判别分析”对话框的左侧列表框中，选择“类型”进入“分组变量”列表框。单击“定义范围”按钮，在“最小值”和“最大值”中分别输入1和3，单击“继续”按钮返回“判别分析”对话框。分别选择“质量”“宽度”“长度”3个变量进入“自变量”列表框，选中“使用步进法”单选按钮。 [if !vml] [endif] 3、设置判别分析的统计输出结果。 单击“判别分析”对话框中的“统计”按钮。在“函数系数”选项组中，选中“费希尔”和“未标准化”复选框；在“矩阵”选项组中，选中“组内协方差”复选框。设置完毕后，单击“继续”按钮返回“判别分析”对话框。 [if !vml] [endif] 4、设置输出到数据编辑窗口的结果。单击“保存”按钮，选中“预测组成员”复选框。 [if !vml] [endif] 5、其余设置采用系统默认值即可。单击“确定”按钮，等待输出结果。 [if !supportLineBreakNewLine] [endif] 四、结果分析 1、组统计量表可以看出，每一种豇豆豆荚的质量、宽度和长度的均值和标准差，也可以知道总样本的均值和标准差。 [if !vml] [endif]2、汇聚的组内矩阵表可以知道，各因素之间的协方差和相关系数。可以发现，各因素之间的相关性都较小，因此在判别方程中不需要剔除变量。 [if !vml] [endif] 3 、输入和删除变量情况统计表可以知道，第一步纳入的变量是质量，到第三步所有变量全部纳入，且从显著性值均为0可以看出，逐步判别没有剔除变量。 [if !vml] [endif] 4、典型判别方程的特征值可以知道，特征根数为2，其中第一个特征根为77.318，能够解释所有变异的89.4%。 [if !vml] [endif] 5、判别方程的有效性检验可以看出，显著性均为0，因此两个典型方程的判别能力都是显著的。 [if !vml] [endif] 6、标准化的典型判别方程可以知道，本例中的两个标准化的典型判别方程表达式分别为：Y1=0.681*质量-0.674*宽度+0.612*长度Y2=0.363*质量+0.777*宽度+0.302*长度 [if !vml] [endif] 7、未标准化的典型判别方程可以知道，本例中的两个未标准化的典型判别方程表达式为：Y1=-11.528+0.210*质量-1.950*宽度+0.186*长度Y2=-15.935+0.112*质量+2.246*宽度+0.092*长度 [if !vml] [endif] 8、贝叶斯的费希尔线性判别方程可以得到3个分类方程。在这里我们只写出第一个分类方程。Y1=-90.708+2.557*质量+18.166*宽度+1.922*长度[if !vml] [endif]9、判别分析在数据编辑窗口的输出结果新产生的变量记录是每一样品的判别分类结果，可以看出，样品判别分类结果与实际类别是一致的。 [if !vml] [endif] 分析结论： [if !supportLineBreakNewLine] [endif] 通过判别分析可以知道，在本案例中，3种豇豆豆荚的样品判别分类结果与实际类别是一致的。另外，我们可以得到不同的判别方程，分别包括标准化的典型判别方程、未标准化的典型判别方程和贝叶斯的费希尔线性判别方程，方程的表达式见上面的结果分析。[if !supportLineBreakNewLine] [endif] 参考案例数据： [if !supportLineBreakNewLine] [endif] 【1】spss统计分析与行业应用案例详解(第四版)  杨维忠,张甜,王国平  清华大学出版社 （获取更多知识，前往gz号程式解说） 原文来自https://mp.weixin.qq.com/s/Yapg-5jwMK6cITG_FZsfVA

关于判别分析的描述正确的是：可以帮助识别潜在顾客和判别分析的因变量应为类别型变量判别分析又称“分辨法”，是在分类确定的条件下，根据某一研究对象的各种特征值判别其类型归属问题的一种多变量统计分析方法。其基本原理是按照一定的判别准则，建立一个或多个判别函数，用研究对象的大量资料确定判别函数中的待定系数，并计算判别指标。据此即可确定某一样本属于何类。当得到一个新的样品数据，要确定该样品属于已知类型中哪一类，这类问题属于判别分析问题。判别分析，是一种统计判别和分组技术，就一定数量样本的一个分组变量和相应的其他多元变量的已知信息，确定分组与其他多元变量信息所属的样本进行判别分组。解决问题：已知某种事物有几种类型，现在从各种类型中各取一个样本，由这些样本设计出一套标准，使得从这种事物中任取一个样本，可以按这套标准判别它的类型。判别分析通常都要设法建立一个判别函数，然后利用此函数来进行批判，判别函数主要有两种，即线性判别函数（Linear Discriminant Function）和典则判别函数（Canonical Discriminate Function）。

判别分析的特点是根据已掌握的、历史上每个类别的若干样本的数据信息，总结出客观事物分类的规律性，建立判别公式和判别准则。 判别分析和聚类分析都是要求对样本进行分类，但两者的分析内容和要求是不一样的。 聚类分析 是给定数量的样品，但样品应划分出怎样的类别还不清楚，需要聚类分析来判别。 判别分析 是已知样品应分为怎样的类别，判断每一个样品应属于怎样的类别。 距离判别是以给定样品与各总体之间的距离的计算值为准则进行类别判断的一种方法。由于马氏距离不受量纲的影响，因此，在距离判别法中，也采用马氏距离作为类别判断的依据。 （1）若ω（x）>0 则x属于G₁ （2）若ω（x）<0 则x属于G₂ （3）若ω（x）=0 则待判 其中，ω（x）为x的线性函数：（推导过程略） 故常称ω（x）为线性判别函数 协方差阵相同时： 判别函数为： 相应的判别规则为： 协方差阵不同时： 判别函数为： 相应的判别规则为： 该法是按照类内方差尽量小，类间方差尽量大的准则来要求判别函数。组与组的分开借用了方差分析的思想。 从两个总体中抽取p个指标的样品观测数据，根据方差分析的思想构造一个判别函数： 其中系数确定的原则是使两组间的区别最大，而使每个组内部的离差最小。 有了判别式以后，对于一个新的样品，将它的p个指标带入判别函数中求出y值。然后与判别临界值进行比较，就可以判断它属于哪一个总体。 分析过程： 设有k个总体G₁，G₂，…，Gk，从中抽取的样品数为n₁，n₂，…，nk，令n=n₁+n₂+…+nk。设判别函数为： 其中， 在多总体情况下继续选取系数向量c即可。 注：一般来说，对经验样品回判率大于80%就可以使用Fisher判别。 贝叶斯判别的基本思想是认为所有G个类别都是空间中 互斥 的子域，每个观测都是空间中的一个点。 在考虑先验概率的前提下，利用Bayes公式按照一定的准则构建一个判别函数，分别计算该样品落入各个子域的概率，所有概率中最大的一类就被认为是样品所属的类别。 Bayes判别的数学推导略，其数学模型的建立可参考：[百度文库](https://wenku.baidu.com/view/37949474a8114431b80dd803.html)，P5-P14 但在Bayes判断规则之前，设 有必要进行统计检验H₀₁：μ₁=μ₂=…=μk。当H₀₁被接受，说明k个总体是一样的，也就没有必要建立判别函数； 若H₀₁被拒绝，就需要检验每两个总体之间差异的显著性，重复操作。 逐步判别的思想类似于逐步回归。变量按照其重要性逐步引入，已经引入的变量也可能因为新的变量而被剔除。每次引入或剔除变量都进行相应的统计检验。 利用 威尔克斯统计量 对变量的重要性进行区分： 其中Λ（X ，Xj）表示X 与Xj的威尔克斯检验统计量，Λ=组内离差平方和/样本点总离差平方和。 步骤：分析->分类->判别，选入变量，如下图： 定义分组变量范围，如下图： 点击 Statistics 按钮，选择如下图： 单击 分类 按钮，如下图： 单击 Save 按钮，选项如下图： 主要输出结果： 右图是贝叶斯判别函数系数表，将样品的各参数带入2个贝叶斯判别函数，比较得出的函数值，哪个函数值较大就将该样品归于哪一类。 以及最后的样品判别结果见下表： 可以直接读出预测组的分类为第2类。

载入数据： 分析操作步骤： Fisher(F)：给出的是Bayes线性判别函数的系数 未标准化(U)：给出未标准化的典型判别系数，即费希尔投影函数。 先验概率选相等给出的结果是距离判别的结果，根据组样本大小计算用于贝叶斯判别。 输出是贝叶斯判别选项 这里可以修改各组的假定概率，点击运行即可保存。 预测组成员(Predicted group membership)：存放判别样品所属类别的值； 判别得分（Discriminant scores）：存放Fisher判别函数值（投影函数）的值，有几个典型判别函数就有几个判别函数值变 组成员概率（Probabilities of group membership）：存放样品属于各类的Bayes后验概率值，总体分为几类就生成几个后验概率变量。 例5.4.1鸢尾花 案例的 结果 分析 ： 案例处理汇总分析，反映有效样本和变量的缺失情况，鸢尾花这个例子没有缺失变量。 给出组别1、组别2、组别3以及组别1、2、3共同的均值、标准差差和变量个数，这个用于费希尔判别，可见第五版课本P138。组内协方差就是当组一、组三和组二协方差相等时方差的联合无偏估计，对比下第五版课本P117的方差的联合无偏估计和第五版课本P135的公式，可得方差的联合无偏估计*（三组变量总个数-组数）=组内平方和及叉积和矩阵（E），用于费希尔判别，可见第五版课本P138。   因为总体协方差*相应的自由度=总平方和，组间平方和=总平方和-组内平方和，所以总的协方差矩阵*相应的自由度-方差的联合无偏估计*（三组变量总个数-组数）=组间平方和及叉和矩阵（H），用于费希尔判别，可见第五版课本P138。Box"s M统计量检验各组内协方差阵相等的假设。原假设为：H0:Σ1=Σ2=Σ3=Σ  概率值小于0.05，故在0.05的显著性水平下各总体协方差阵不相等，即组一、组二和组三协方差不相等。因此在分类选项中的协方差矩阵选择可以考虑采用分组协方差。由于只有三个组，所以只有两个判别函数。反映判别函数的特征根（第一个特征根为32.192、第二个特征根为0.285，可见第五版课本P138）、解释方差的比例和典型相关系数（组间平方和与总平方和之比的平方根，表示判别函数与组别间的关系程度）。第一个判别函数解释了99.1%的方差，第二判别函数解释了0.9%的方差，两个判别函数解释了全部方差。 Fisher判别函数有效性检验结果。该检验的原假设是不同组的平均Fisher判别函数值不存在显著差异。从表中给出的p值来看，P=0.00<0.05，说明在0.05的显著性水平下有理由拒绝原假设。1到 2 表示没有函数被移去，拒绝原假设，表明两个判别函数能将各组样品分开，2的表示排除了第一个判别函数后的显著性检验，拒绝原假设，第二个判别函数也能将各组样品分开。 标准化判别函数系数可以看出预测变量在组成判别函数时的相对贡献，如本例，第一判别函数的花瓣长比较重要，第二判别函数在花萼宽比较重要。标准判别函数系数的计算是由非标准化判别函数系数乘以联合组内协方差矩阵主对角的平方根得来。 结构系数即预测变量与典型判别函数的联合组内相关系数，由联合组内相关系数矩阵*标准化判别函数系数矩阵计算得到。 非标准化判别函数系数，即费歇尔判别函数系数。是由上面的特征根所对应的特征向量（标准化特征向量）而得来的。可见第五版课本P138。 中心化的费希尔判别函数（Fisher投影函数） ，表示为 y1=-0.083*花萼长-0.153*花萼宽+0.220*花瓣长+0.281*花瓣宽-2.105 y2=0.002*花萼长+0.216*花萼宽-0.093*花瓣长+0.284*花瓣宽-6.661  反映判别函数在各组的重心，即判别函数的组均值，由非标准化判别函数系数矩阵*（各组平均值-总平均值）得到，可见第五版课本P138。 将样本中150个样品的判别函数得分作一散点图，如下所示： 判别： 本例使用了所有判别函数且概率相等，所以费希尔判别等价于距离判别等价于各先验概率均相等时的贝叶斯判别。 分类函数处理汇总。已处理150个观测量，没有缺失值。 因为之前选择的是先验概率所有组相等，所以组一与组二的概率都为0.333，这个用于贝叶斯判别。 这里的Fisher 的线性判别式函数系数为贝叶斯的线性判别函数系数，这是用贝叶斯判别分析法产生的分类函数系数，可见课本第五版课本P121的5.2.17式，可以计算出每个观测在各组的分类函数值，然后将观测分类到较大的分类函数值中。 给出了判别结果，通过判别函数的预测，有147个观测是正确的，其中，y=1组50个观测全部被判对，y=2组50个观测中有48个观测被判对，y=3组50个观测中有49个观测被判对，从而有98%的原始观测被判对。（可见第五版课本P141） 例5.2.3破产和 非破产公司的案例结果分析 ： 案例处理汇总分析，反映有效样本和变量的缺失情况。这里排除了一个变量，因为破产组与非破产组中第47个数据是待判数据，所以只能选用前46个变量进行分析。给出组别1、组别2以及组别1、2共同的均值、方差和变量个数，这个用于距离判别，可见第五版课本P123。 组内协方差就是当组一协方差与组二协方差相等时方差的联合无偏估计，用于距离判别，可见第五版课本P123。 组别1、组别2的协方差，用于计算组内协方差和当组一协方差与组二协方差不相等时的距离判别，可见第五版课本P123。Box"s M统计量检验各组内协方差阵相等的假设。原假设为：H0:Σ1=Σ2 =Σ  概率值小于0.05，在0.05的显著性水平下各总体协方差阵不相等，即组一协方差与组二协方差不相等。因此在分类选项中的协方差矩阵选择可以考虑采用分组协方差。 判别： 本例假定概率相等，所以距离判别等价于各先验概率均相等时的贝叶斯判别。分类函数处理汇总，已处理47个观测量，没有缺失值。因为之前选择的是先验概率所有组相等，所以组一与组二的概率都为0.5，这个用于贝叶斯判别。这里的Fisher 的线性判别式函数系数为贝叶斯的线性判别函数系数（可见课本第五版课本P123），这是用贝叶斯判别分析法产生的分类函数系数，可见课本第五版课本P121的5.2.17式，可以计算出每个观测在各组的分类函数值，然后将观测分类到较大的分类函数值中。 给出了判别结果，通过判别函数的预测，有41个观测是正确的，其中，y=1组21个观测有18个被判对，y=2组25个观测中有24个观测被判对，从而有96%的原始观测被判对。在交叉验证中，其中，y=1组21个观测有18个被判对，y=2组25个观测中有23个观测被判对，从而有92%的原始观测被判对。   spss几点说明： 1、spss只有Bayes判别和Fisher判别的直接选项，没有距离判别的直接选项，只在个案结果（Casewise Statistics）中给出了一个结果。 2、spss中Bayes判别和Fisher判别的操作没有分开进行 3、spss中给出的判别表达式（投影函数）都是针对协方差阵相等的情形给出的，对于协方差阵不相等的情况要手动计算 4、spss判别以Bayes判别为主，主要菜单与选项都是针对Bayes判别分析设置，并且最终保存的判别结果也是以Bayes判别为依据；Fisher判别操作仅给出投影表达式、各类投影中心坐标或投影分解图去做判别，并没有提供费歇尔法的计算机处理程序。 5.当协方差不等时，除了做不出交叉验证的结果和出现典型判别式函数的组协方差及相等性检验外，其他结果几乎不变；当概率不同，协方差相等时，交叉验证的结果不同。

判别分析，是一种统计判别和分组技术，就一定数量样本的一个分组变量和相应的其他多元变量的已知信息，确定分组与其他多元变量信息所属的样本进行判别分组。解决问题：已知某种事物有几种类型，现在从各种类型中各取一个样本，由这些样本设计出一套标准，使得从这种事物中任取一个样本，可以按这套标准判别它的类型。

　　问：回归分析、判别分析的涵义和用途是什么？ 　　校解析答案： （1）回归分析。任何一个市场营销问题都要涉及一组变量，而市场营销调研人员主要对其中的一个感兴趣，他要了解在不同的时间、地点该变量的变动情况。这个变量就叫做因变量。市场营销调研人员在确定了因变量之后，还要进一步考察其他变量在不同的时间、地点对因变量的变动有何影响。这类变量叫自变量。所谓回归分析，是指一种表述自变量对因变量影响的公式技术。如果在回归分析中，统计方程式只涉及一个自变量，我们称该方程式为简单回归；如果涉及两个或两个以上自变量，我们称该统计方程式为多元回归。 　　（2）判别分析。在许多市场营销问题中，因变量往往是分类型变量而不是数值型变量，在这种情况下就无法运用回归分析。例如：某摩托车厂希望解释顾客对三种品牌的偏好程度；某洗衣粉厂试图根据对其产品使用量的大、中、小来确定购买者的特征；某百货公司想判别将来可能成功和不能成功的商店地理位置。在上述情况中，都是将两个或两个以上的群体根据某特征予以明确分类，使任何一个群体都归属于某一类，目的在于发现重要的判别变量，使之组合成为可预测的公式。这种解决问题的方法，就是判别分析。 　　 　　

作为一款专业的数据分析软件，IBM SPSS Statistics可以为金融、市场、医学等多个领域的数据分析提供巨大的帮助，是数理统计中较为常用的一个工具。 这篇文章将介绍如何进行 SPSS一般判别分析 。 概述 判别分析是在已知分辨数目的情况下，根据已知数据的分类指标和所属类别，对未知部分数据进行类别判断的分析方法。 图1：数据样本 上图是我们这里选择的一个数据样本，是某公司的员工基础信息，将雇佣类别简单分为管理和非管理后，有表中所示的分类，数据一共有474个个案，前四百个有明确的分类结果（即是否管理人员），后74个没有分类数据。 在这种一部分数据缺失的情况下，我们就可以利用SPSS的判别分析来对缺失数据进行分析补充，也就是这里提到的一般判别分析。 二、分析操作 1.功能位置 图2：判别分析位置 在“分析”——“分类”中选择“判别式”，就可以打开判别分析的对话框。 2.变量设置 图3：变量设置 将待分析的变量“雇佣类别（是否管理）”移入“分组变量”窗口，在下面的“自变量”窗口中移入分组依据。 在本数据中，员工是否是管理职位与其他几个变量均有一定关系，所以在“自变量”窗口中移入剩余变量类型作为目标变量。 如果要对数据集中的一个子集进行分析，可以使用“选择变量”窗口。 图4：定义范围 分组变量还需要进行范围设置，本数据中这是一个二分数据，为了避免0数据导致的缺失值，所以用2代替0，表示不是管理人员，1表示是管理人员，在范围中设置最小值为1，最大值为2即可。 3.输出统计 图5：输出统计设置 单击“统计”，可以设置在分析结果中数据的统计结果，包括描述性统计数据、函数系数和矩阵，各个数据均有一定的统计意义，我们这里设置输出样本的均值。 4.分类设置 图6：分类设置 分类对话框中设置的是先验概率和显示内容，将先验概率选择为“所有组相等”，我们没有使用协方差矩阵，这个设置不用管，设置输出图形为领域图。 5.保存设置 图7：保存设置 在保存对话框中可以设置判别分析的类型，选择“预测组成员”，如果有需要，也可以将模型信息导出到XML文件。 6.分析完成 图8：结果输出 设置完成后点击确定，就可以在输出日志窗口中看到判别分析的结果了。 除了工作日志里的分析结果，在数据页内，还会出现一个新的分组，如下图所示。 图9：判别结果 这个新的分组就是IBM SPSS Statistics完成判别分析的成果，可以看到，没有分类结果的部分数据已经被补充完整，本次分析就结束啦。 三、小结 以上就是我整理的关于如何使用 IBM SPSS Statistics 对数据分类进行判别分析、补充缺失的特定数据的具体方法和案例参考了，希望可以对大家有所帮助！ 更多软件资讯和案例分享欢迎进入IBM SPSS Statistics中文网站查看。

是的判别分析又称“分辨法”，是在分类确定的条件下，根据某一研究对象的各种特征值判别其类型归属问题的一种多变量统计分析方法。

线性判别分析（Linear Discriminant Analysis，简称LDA）是一种经典的有监督数据降维方法。LDA的主要思想是将一个高维空间中的数据投影到一个较低维的空间中，且投影后要保证各个类别的类内方差小而类间均值差别大，这意味着同一类的高维数据投影到低维空间后相同类别的聚在一起，而不同类别之间相距较远。如下图将二维数据投影到一维直线上： 上图提供了两种方式，哪一种投影方式更好呢？从图上可以直观的看出右边的比左边的投影后分类的效果好，因此右边的投影方式是一种更好地降维方式。 上图直观的给出了LDA分类的主要思想，下图通过数学公式来推导如何得到这个最佳的投影方式。 为了方便解释LDA的原理，我们以二分类为例。 假设现有数据集 D = {(x 1 , y 1 ), (x 1 , y 1 ), ... ,(x m , y m )}，其中任意样本x i 为n维向量。定义N j 为第j类样本的个数，X j 为第j类样本的集合，而μ j 为第j类样本的均值向量，Σ

是用于判别样品所属类型的一种统计分析方法，是根据表明事物特点的变量值和他们所属的类，求出判别函数，根据判别函数对未知所属类别的食物进行分类的一种分析方法。

食物分类通过以下几方面进行辨别分析：味道：可以从食物的味道上来辨别食物的四性，味道甜的，是属于热的食物，例如大蒜、柿子等等，苦的酸的大多都是偏寒的食物，例如木瓜，苦菜等等。环境：从食物的生长环境可以判断，水生类的植物，例如海带，紫菜属于偏寒的食物，长在陆地上的如花生、山药，因为在土里，水分少，所以属于热性食物。位置：根据生长的位置，在高空生长的食物，例如向日葵，因为受到的热比较充足，所以属于热性食物，如果是朝阴面生长的食物，因为湿气重，所以属于寒类食物，例如蘑菇木耳。季节：冬天生长的食物，例如冬瓜、萝卜等等属于偏寒性，夏季生长的食物，比较潮湿的，属于寒类食物，例如西瓜，黄瓜等等。寒凉性：寒凉的食物，适用于热性的体质，比如口渴，发热等等，而寒凉的食物，都具有清热泻火的功效，寒性体质的人少食用。温热性：温热性的食物，适用于寒性的体质，风寒呕吐，风湿关节疼等等，有散寒的功效，还有一些食物属于平性食物，对于温凉性的病人都可以选用，有开胃健脾的功效。日常生活离不开食物，食物也分很多种类。第一类，谷类及薯类，谷类包括米，面，杂粮。薯类包括马铃薯，红薯等。第二类，动物性食物，包括肉，禽，鱼，奶，蛋等。第三类，豆类及其制品，包括大豆及其他干豆类。第四类，蔬菜水果类，包括鲜豆，根茎，叶菜，茄果等。第五类，纯热能食物，包括动植物油，淀粉，食用糖和酒类。

根据样本的某些指标来决定样本归属的类别。例如在医疗诊断中，要确定一个病人是否患有急性阑尾炎，这就是一个判别问题。为了回答这一问题往往需要对病人进行多项指标（变量）的检测，然后根据各项指标的观测值将病人归入患有急性阑尾炎或不患有急性阑尾炎的类中。判别分析通常是先确立一个判别函数，将各指标的观测值代入相应的变量，再根据某判别规则（如函数值大于某值）作出判断、鉴别或决策。例如，为了研究亚硝酸基盐化合物与胃癌的关系，有人曾对胃癌组（记为H1）、萎缩性胃炎组（H2）、浅表性胃炎组（H3）3组病人测量以下6个指标（变量）：性别（x1，男为1，女为0）、年龄（x2）、胃液中pH值（x3）、唾液中亚硝酸盐浓度（x4）、胃液中亚硝酸盐浓度（x5）、胃液中二甲基亚硝酸胺浓度 (x6）。用判别分析法，可求出6个指标（变量）在 3个疾病组中分布有显著不同的是x1,x2，x4,x6；其余两个指标在不同组中的分布大体相同。对应于每个疾病组可建立以下的判别函数：u1=-11.48+2.68x1+0.37x2+0.04x4+0.90x6 (H1） u2=-14.06+3.79x1+0.35x2+0.50x4+1.82x6 (H2） u3=-6.36+1.84x1+0.27x2+0.34x4+0.84x6 (H3）在判别分析时，可将测得的病例值（x1,x2,x4,x6）代入判别函数，求得一组函数值u1，u2，u3。这里的判别规则是：如果u1最大，则病例判属疾病组H1；如果u2最大，则判属H2；如果u3最大，则属H3。这样，诊断就变成了数据的处理及分析，现代化医院自动诊断的原理就基于此。通常说的把医生的经验和知识存入计算机，也就是在计算机中建立诊断的经验方式──判别函数。判别函数中变量前的系数含有重要的信息。上列中变量x3，x5前的系数都为0；x1前的3个系数（2.68，3.79，1.84）说明相对于女性（x1=0）而言，男性 (x1=1）更容易得萎缩性胃炎（3.79）或胃癌（2.68）； x2前的3个系数说明相同年龄者得胃癌、萎缩性胃炎、浅表性胃炎的比为0.37:0.35:0.27；等等。

1.程序功能程序GRTYPE可根据用户提供的花岗岩类样品的实际矿物含量、岩石化学成分或微量元素丰度，判别花岗岩类的成因类型。判别结果以待判样品归属于M、I、S、A四种成因类型的最大和次大概率给出。因此，该法尤其适用于研究过渡成因类型的花岗岩，是对目前广泛采用的确定花岗岩成因类型的各种地球化学参数或图解法的重要补充（马鸿文，1992）。2.方法原理能够定量反映花岗岩类地球化学特征的参数有：①实际矿物含量；②岩石化学成分；③微量元素丰度。马鸿文（1992）选择了我国新疆西准噶尔蛇绿岩套中的斜长花岗岩、澳大利亚东南部Kosciusko岩基的I型、S型花岗岩（Hine et al.，1978）和Gabo、Mumbulla岩套的A型花岗岩（Collins et al.，1982），分别作为典型的M型、I型、S型和A型花岗岩，建立了花岗岩成因类型的判别分析方法。本程序即采用这一算法。采用实际矿物含量、岩石化学成分和微量元素丰度，对参加判别分析的样品的回判准确率分别高达94.1%、97.1%和98.5%（马鸿文，1992）。3.程序结构结晶岩热力学软件4.使用说明（1）输入格式程序运行过程中，按照屏幕提示，依次提供以下参数：OFN　输出文件名IFN　输入文件名待判样品名称和原始分析数据由输入文件读入。选择实际矿物含量（vol%）判别法时，原始数据输入格式为：A6,8F6.1。各变量的排列顺序依次为：Sample（样品号）、Qtz（石英）、Kfl（钾长石）、Plg（斜长石）、Bit（黑云母）、Mus（白云母）、Hbl（角闪石）、Opq（不透明矿物）、Apt（磷灰石）。选择岩石化学成分（wB%）判别法时，原始数据输入格式为：A6,11F6.2。各变量的排列顺序依次为：Sample（样品号）、SiO2、TiO2、Al2O3、Fe2O3、FeO、MnO、MgO、CaO、Na2O、K2O、P2O5。选择微量元素丰度（10-6）判别法时，原始数据输入格式为：A6,11F6.1。各变量的排列顺序依次为：Sample（样品号）、Ba、Rb、Sr、Th、U、Zr、La、Ce、Cr、Co、Ni。每次计算的样品个数不限。（2）输出格式全部计算结果输出到文件OFN中。内容包括桉样品顺序依次列出各样品归属花岗岩某一成因类型的最大和次大概率，最后给出一次判别计算的待判样品分别归属于M型、I型、S型、A型的样品数。一次运行程序，可选择1～3种判别法。每种判别法的计算结果按相同格式输出。5.程序文本结晶岩热力学软件结晶岩热力学软件$　/"SiO2O Ti02O Al2O3 Fe2O3 FeO MnO MgO CaO Na2O K2O P205"，$　//"3. trace elements（A6,11F6.1,ppm）："，$　/"Ba Rb Sr Th U Zr La Ce Cr Co Ni"）read（*,*）jobif（job.eq.0）goto 300write（*,*）"Input filename=？"read（*,5）IFNopen（4,file=IFN,status＝"old"）write（Iunit,45）45 format（/"Granite type discriminating list："，$　/"Sample Gmax Ymax Gsub Ysub"）do j=1,k1IM（j）=0end do50　If（job.eq.1）thenread（4,51,ERR=100,END=200）Sample,（Xyl（j）,j=1,m1）51　format（A6,8F6.1）call GRDISC（Sample,ml,kk,Lmax,Cl,C01,Xyl,Iunit）else if（job.eq.2）thenread（4,52,ERR=100,END=200）Sample,（Xy2（j）,j=1,m2）52 format（A6,11F6.2）Sum=0do j=1,m2Sum=Sum+Xy2（j）end doSum=0.01*Sumdo j=1,m2Xy2（j）=Xy2（j）/Sumend docall GRDISC（Sample,m2,kk,Lmax,C2,C02,Xy2,Iunit）elseread（4,53,ERR=100,END=200）Sample,（Xy3（j）.,j=1,m3）53 format（A6,11F6.1）call GRDISC（Sample,m3,kk,Lmax,C3,C03,Xy3,Iunit）end ifIM（Lmax）=IM（Lmax）+1IM（kl）=IM（k1）+1goto 50100 write（*,*）"File read error,data skipped！"goto 300200 write（*,210）（IM（k）,k=1,kl）write（Iunit,210）（IM（k）,k=1,kl）210 format（/"Granite type discriminating result："，/5X，"M-type＝"，$13/5X，"I-type＝"，I3/5X，"S-type＝"，I3/5X，"A-type＝"，13/5X,$"Samples＝"，I3）goto 10300 write（*,310）OFN310 format（/5X，"Edit"，A，"＂to look over the results！"）end*************************************************************************subroutine GRDISC（Sample,m,kk,Lmax,C,CO,Xy,Iunit）character Sample*6,Gr（4）,Gmax,Gsubdimension Xy（m）,Q（4）,QLN（4）,C0（kk）,C（kk,m）data Gr/"M"，"I"，"S"，"A"/data Q/-1.82161243,2*-1.22377543,-1.38629436/Ymax=1E-16do k=1,kkQLN（k）=Q（k）+CO（k）do j=1,mQLN（k）=QLN（k）+C（k,j）*Xy（j）end doi f （QLN（k）.gt.Ymax）Ymax=QLN（k）end doSum=0do k=1,kkQLN（k）=QLN（k）-YmaxQLN（k）=exp（QLN（k）Sum=Sum+QLN（k）end dodo k=1,kkQLN（k）=QLN（k）/Sumend doYmax=1E-16Lmax=ldo k=1,kkif（QLN（k）.gt.Ymax）thenYsub=YmaxGsub=Gr（Lmax）Lmax=kYmax=QLN （k）Gmax=Gr （k）else if（QLN（k）.gt.Ysub）thenYsub=QLN（k）Gsub=Gr（k）end ifend dowrite（*,71）71　format（//"Sample M-type I-type S-type A-type"）write（*,72）Sample,（QLN（k）,k=l,kk）72 format（1X,A6,4F8.4）write（Iunit,75）Sample,Gmax,Yrnax,Gsub,Ysub75 format（1X,A6,3X,A3,4X,F6.4,3X,A3,4X,F6.4）end6.计算实例实例1：新疆西准噶尔蛇绿岩套中斜长花岗岩（马鸿文，1990，未发表资料）的岩石化学成分法判别成因类型。输入文件：exam85.dat结晶岩热力学软件输出文件：exam86.dat结晶岩热力学软件HTB077　M　1.0000　M　.OOOOHTB075　M　1.0000　M　.0000HSL055　M　1.0000　M　.0000HST027　M　1.0000　M　.0000HHG030　M　1.0000　M　.0000Granite type discriminating result:M-type=9I-type=0S-type=0A-type=0Samples=9实例2：北京地区八达岭花岗杂岩（马鸿文等，1996，未发表资料）的微量元素丰度花判别成因类型。输入文件：exam87.dat结晶岩热力学软件输出文件：exarn88.datGranite type discriminating list:Sample Gmax Ymax Gsub YsubB003　M　1.0000　I　.0000B004　M　.9962 I　.0038B005　M　1.0000　I　.0000B007　A　1.0000　M　.0000B008　M　.9991　I　.0009B009　A　1.0000　I　.0000B010　A　1.0000　M　.0000B016　A　1.0000　M　.0000B017　A　1.0000　M　.0000B018　A　1.0000　M　.0000B019　A　1.0000　I　.0000B013　A　1.0000　M　.0000B014　A　.9836 I　.0164B015　A　1.0000　M　.0000B0l1　A　1.0000　M　.0000B012　I　1.0000　M　.0000B020　A　.9999 I　.0001B006　A　1.0000　M　.0000B021　A　1.0000　M　.0000B022　A　1.0000　M　.0000Granite type discriminating result:M-type=4I-type=1S-type=0A-type=15Samples=20

Fisher判别分析，即 LDA 相应的R实现为：MASS包中的 lad() 函数，qda() 函数lad(x, grouping, prior = proportions ,tol = 1.0e-4, method , CV = FALSE, nu, .....)lad(formula, data, .... ,subset , na.action )

都在特征提取和数据降维方面发挥作用。根据查询相关信息显示，线性判别分析和二次判别分析的相同点都是在特征提取和数据降维方面发挥作用，用于解决多分类问题。线性判别分析是对费舍尔的线性鉴别方法的归纳，这种方法使用统计学，模式识别和机器学习方法，试图找到两类物体或事件的特征的一个线性组合，以能够特征化或区分；二次判别分析是LDA的变体，允许数据的非线性分离。

1、聚类分析又称群分析、点群分析。根据研究对象特征对研究对象进行分类的一种多元分析技术, 把性质相近的个体归为一类, 使得同一类中的个体都具有高度的同质性, 不同类之间的个体具有高度的异质性。根据分类对象的不同分为样品聚类和变量聚类。2、判别分析是一种进行统计判别和分组的技术手段。根据一定量案例的一个分组变量和相应的其他多元变量的已知信息, 确定分组与其他多元变量之间的数量关系, 建立判别函数, 然后便可以利用这一数量关系对其他未知分组类型所属的案例进行判别分组。判别分析中的因变量或判别准则是定类变量, 而自变量或预测变量基本上是定距变量。依据判别类型的多少与方法不同, 分为多类判别和逐级判别。判别分析的过程是通过建立自变量的线性组合(或其他非线性函数), 使之能最佳地区分因变量的各个类别。二、聚类分析与判别分析的区别1、基本思想不同( 1) 聚类分析的基本思想我们所研究的样品或指标( 变量) 之间存在程度不同的相似性( 亲疏关系) , 于是根据一批样品的多个观测指标, 具体找出一些能够度量样品或指标之间相似程度的统计量, 以这些统计量作为划分类型的依据。把一些相似程度较大的样品( 或指标) 聚合为一类, 把另外一些相似程度较大的样品( 或指标) 又聚合为另一类; 关系密切的聚合到一个小的分类单位, 关系疏远的聚合到一个大的分类单位, 直到把所有的样品(或指标)聚合完毕。( 2） 判别分析的基本思想对已知分类的数据建立由数值指标构成的分类规则即判别函数, 然后把这样的规则应用到未知分类的样本去分类。由基本思想可知, 在聚类分析中, 所有样品或个体所属类别是未知的, 类别的个数一般也是未知的, 分析的依据就是原始数据, 没有任何事先的有关类别的信息可参考。

_问题描述：答案1：： 临界比又称决断值，是根据测验得分区分出高分组与低分组后，然后求高、低分组在每个条目的平均差异。具体方法是将各个条目的总分由高到低排列，总得分前27%为高分组，后27%为低分组，将属于高分组的受试者新增一个变量，赋值为1，低分组新增一个变量，赋值为2。采用独立样本t检验，检验高、低分组受试者在各条目平均数上的差异。如果某个条目的CR值差异没有统计学意义((P ; 0.05)，则认为该条目不具备鉴别不同被试的反应程度，予以删除。更具体详细的介绍可以找 问卷统计分析实务--SPSS操作与应用/统计分析方法，吴明隆编看一下，对问卷编制非常有用，网上有pdf下载追问 在spss判别分析结果中有没有临界值？我怎么找不到，谢谢。提问者的评价：感谢你的无私帮助 :::::::::::::::::::请参考以下相关问题:::::::::::::::::::: SPSS多远回归分析 F临界值的算法 :::::::::::::::::::请参考以下相关问题:::::::::::::::::::: SPSS中，如何通过t值判断差异是否显著 :::::::::::::::::::请参考以下相关问题:::::::::::::::::::: spss中曲线估计应该看R方还是F值来判断哪个模型拟合的更好？

判别分析通常都要设法建立一个判别函数，然后利用此函数来进行批判，判别函数主要有两种，即线性判别函数（Linear Discriminant Function）和典则判别函数（Canonical Discriminate Function）。线性判别函数是指对于个总体，如果各组样品互相对立，且服从多元正态分布，就可建立线性判别函数，形式如下：其中，是判别组数；是判别指标（又称判别分数或判别值），根据所用的方法不同，可能是概率，也可能是坐标值或分值；是自变量或预测变量，即反映研究对象特征的变量；是各变量系数，也称判别系数。建立函数必须使用一个训练样品。所谓训练样品就是已知实际分类且各指标的观察值也已测得的样品，它对判别函数的建立非常重要。典则判别函数是原始自变量的线性组合，通过建立少量的典则变量可以比较方便地描述各类之间的关系，例如可以用话散点图和平面区域图直观地表示各类之间的相对关系等。

按照习惯大类分成化学分析法，电化学分析法和仪器分析法1.化学分析里面包括滴定法（氧化还原滴定，酸碱滴定，络合滴定等），重量分析法等等2.电化学分析里面包括循环伏安，极谱，电解等等方法3.仪器分析就更多了，紫外可见分光光度法(UV-Vis)，原子发射光谱法，色谱法（包括气相色谱GC,高效液相色谱HPLC），毛细管电泳(CE)，核磁共振(NMR)，X粉末多晶衍射(XRD)，质谱(MS)等等

1）当对象为数据框data.frame时lda(x,grouping,prior = propotions,tol = 1.0e-4,method,CV = FALSE,nu,...)2) 当对象为公式Formula时lda(formula,data,...,subnet,na.action)3) 当对象为矩阵Matrix时lda(x,group,...,subnet,na.action)

不是的距离判别分析方法是判别样品所属类别的一应用性很强的多因素决策方法，根据已掌握的、历史上每个类别的若干样本数据信息，总结出客观事物分类的规律性，建立判别准则，当遇到新的样本点，只需根据总结得出的判别公式和判别准则，就能判别该样本点所属的类别。 距离判别分析的基本思想是：样本和哪个总体的距离最近，就判它属于哪个总体。贝叶斯判别是根据最小风险代价判决或最大似然比判决，是根据贝叶斯准则进行判别分析的一种多元统计分析法。贝叶斯判别法的基本思想是：设有两个总体，它们的先验概率分别为q1、q2，各总体的密度函数为f1（x）、f2（x），在观测到一个样本x的情况下，可用贝叶斯公式计算它来自第k个总体的后验概率

判断分析法是指通过一些具有市场经验的经营管理人员或专家对企业未来某一特定时期的产品销售业务情况迸行综合研究,并做出推测和判断的方法。

Discriminant Analysis判别分析主对话框 如图 1-1 所示图 1-1 Discriminant Analysis 主对话框（1）选择分类变量及其范围在主对话框中左面的矩形框中选择表明已知的观测量所属类别的变量(一定是离散变量)， 按上面的一个向右的箭头按钮，使该变量名移到右面的Grouping Variable 框中。此时矩形框下面的Define Range 按钮加亮，按该按钮屏幕显示一个小对话框如图1-2 所示，供指定该分类变量的数值范围。图 1-2 Define Range 对话框在Minimum 框中输入该分类变量的最小值在Maximum 框中输入该分类变量的最大值。按Continue 按钮返回主对话框。(2)指定判别分析的自变量图 1-3 展开 Selection Variable 对话框的主对话框在主对话框的左面的变量表中选择表明观测量特征的变量，按下面一个箭头按钮。把选中的变量移到Independents 矩形框中，作为参与判别分析的变量。（3） 选择观测量

逐步判别法：按照所指定的纳入/排除标准，依次引入和剔除变量，直到方程稳定为止。该方法实质和多元回归分析中的逐步法等价。

聚类要注意的问题聚类结果主要受所选择的变量影响.如果去掉一些变量,或者增加一些变量,结果会很不同.相比之下,聚类方法的选择则不那么重要了.因此,聚类之前一定要目标明确._另外就分成多少类来说,也要有道理.只要你高兴,从分层聚类的计算机结果可以得到任何可能数量的类.但是,聚类的目的是要使各类距离尽可能的远,而类中点的距离尽可能的近,而且分类结果还要有令人信服的解释.这一点就不是数学可以解决的了.判别分析要注意的问题训练样本中必须有所有要判别的类型,分类必须清楚,不能有混杂.要选择好可能由于判别的预测变量.这是最重要的一步.当然,在应用中,选择的余地不见得有多大.要注意数据是否有不寻常的点或者模式存在.还要看预测变量中是否有些不适宜的;这可以用单变量方差分析(ANOVA)和相关分析来验证.判别分析是为了正确地分类,但同时也要注意使用尽可能少的预测变量来达到这个目的.使用较少的变量意味着节省资源和易于对结果进行解释.在计算中需要看关于各个类的有关变量的均值是否显著不同的检验结果(在SPSS选项中选择Wilks"Lambda,Rao"sV,TheSquaredMahalanobisDistance或TheSumofUnexplainedVariations等检验的计算机输出),以确定是否分类结果是仅仅由于随机因素.此外成员的权数(SPSS用priorprobability,即"先验概率",和贝叶斯统计的先验概率有区别)需要考虑;一般来说,加权要按照各类观测值的多少,观测值少的就要按照比例多加权.对于多个判别函数,要弄清各自的重要性.注意训练样本的正确和错误分类率.研究被误分类的观测值,看是否可以找出原因.

a. 目的 ：识别一个个体所属类别 b. 适用 ：被解释对象是非度量变量（nonmetric），解释变量是度量变量；分组类型2组以上，每组样品>1。 c. 应用 ：归类、预测 d. 判别分析与聚类分析 ： i. 聚类分析前，我们并不知道应该分几类，分类工作； ii. 判别分析时，样品的分类已事先确定，需要利用训练样 本建立判别准则，对新样品所属类别进行判定，归类工作。 a. 假设1：每一个判别变量（解释变量）不能是其他判别变量的线性组合。避免多重共线性问题。 b. 假设2：如果采用线性判别函数，还要求各组变量协方差矩阵相等----线性判别函数使用起来最方便、在实际 中使用最广。 c. 假设3：各判别变量遵从多元正态分布，可精确的计算 显著性检验值和归属概率，不然计算概率不准。 协方差相等/协方差不等 协方差相等/协方差不等 优点 ： i. 距离判别只要求知道总体的特征量(即参数)---均值和协差阵,不涉及总体的分布类型. ii. 当参数未知时,就用样本均值和 样本协差阵来估计. iii. 距离判别方法简单,结论明确,是很实用的方法. ii. 缺点 i. 该判别法与各总体出现的机会大小(先验概率)完全无关 ii. 判别方法没有考虑错判造成的损失,这是不合理的. v. 贝叶斯判别 的基本思想 i. 假定对研究对象已经有了一定的认识，这种认识可以用 先验概率 来描述，当取得样本后，就可以利用 样本来修正 已有的 先验概率分布，得到 后验概率 分布，再通过后验概率分布进 行各种统计推断。 ii. 贝叶斯判别属于 概率判别法。 iii. 判别准则： i. 个体归属某类的概率（后验概率）最大 ii. 错判总平均损失最小为标准。 vi. 贝叶斯判别的后验概率最大 i. 贝叶斯（Bayes）判别要变量服从 正态分布 类型。 ii. 、贝叶斯（Bayes）判别的判别准则是以个体归属某类的概率最大或 错判总平均损失 最小为标准。弥补了 距离判别和费歇（Fisher）判别的缺点。 5.1费歇（Fisher）判别核心思想 ： i. 通过多维数据投影到一维度直线上，将k组m维数据投影到 某一个方向,使得投影后组与组之间尽可能地分开。而衡量组 与组之间是否分开的方法借助于一元方差分析的思想 ii. 费歇（Fisher）判别是一种确定性判别。 5.2费歇（Fisher）判别小结 ： i. 费歇（Fisher）判别对判别变量的分布类型并无要求， 而贝叶斯（Bayes）判别要变量服从正态分布类型。因此， Fisher类判别较Bayes类判别简单一些。 ii. 当两个总体时，若它们的协方差矩阵相同，则距离判 别和Fisher判别等价。 当变量服从正态分布时，它们还 和Bayes判别等价。 iii. 与距离判别一样，费歇判别与各总体出现的机会大小 (先验概率)完全无关；也没有考虑错判造成的损失。 如何从m个变量中挑选出对区分k个总体有显 著判别能力的变量,来建立判别函数,用以判别归类。 1.忽略主要的指标； 凡是具有筛选变量能力的判别方法统称为逐步判别法。 i. 保留判别能力显著的变量 ii. 剔除判别能力不显著的变量 i. 逐步筛选变量 i. 根据各变量对区分k个总体的判别能力的大小，利用向 前选入、向后剔除或逐步筛选的方法来选择区分k个总体的 最佳变量子集。 ii. 判别归类 i. 对已选出变量子集，使用三大判别方法（距离判别、 Bayes判别、Fisher判别）对样品进行判别归类。

origin能做判别分析一、 主成分分析1.导入数据后，先将数据标准化，消除单位的影响。2、做主成分分析3、提取结果，根据特征值大于1提取出了三个主成分。根据成分矩阵可以写出主成分的表达式4、根据主成分排序结论：这三个主成分因该是反应城市的交通运输旅游住宿的水平，所以西部城市排名较后、东部城市靠前。二、判别分析目的：为了研究某地区育龄妇女的生育情况，根据生育峰值年龄、一胎生育率、二胎生育率、三胎生育率4项指标，收集到12个样品的分类情况，另收集到3个待判样品情况。 用贝叶斯判别法与费歇尔判别法建立判别规则，并对待判样品进行判断。1、 组均值检验及协方差检验（一）组均值同等检验图1.1 组平均值的同等检验由图1.1可知峰值年龄和二胎生育率平均值不显著，一胎生育率和三胎生育率平均值显著不同。（二）协方差矩阵的博克斯等同性检验图1.2 博克斯等同检验显著性〈0.05显著性水平，说明组间协方差阵显著不相等。2、进行判别（一） 费歇判图 2.1 费歇标准化判别函数系数由图2.1可以写出费歇判别函数y1=0.918*峰值年龄+1.524*一胎生育率+0.232*二胎生育率（二）贝叶斯判别图 2.2 贝叶斯判别式函数由图2.2可知贝叶斯判别式函数可写成从图2.3可以看出判别的结果，得知误判率等

：协方差矩阵，特征之间相互独立，其实就是一个对角矩阵。 线性判别分析(LDA)和二次判别分析(QDA)是两个经典的分类器。它们分别代表了线性决策平面和二次决策平面。这些分类器很容易计算得到解析解(指通过严格的公式所求得的解)，其天生具有多分类的特性，且在实践中无需调参。线性判别分析与二次判别分析不同之处在于二次判别分析可以学习二次边界，模型更加灵活。如图： 线性判别分析通过把输入的数据投影到由最大化类之间分离的方向所组成的线性子空间，可以执行有监督降维，输出的维度必然会比原来的类别更少，多分类环境下，它是一个十分强大的降维算法。 LDA与QDA都源于简单的概率模型，这些模型对于每一个类别k的相关分布P(X|y=k)都可以通过贝叶斯定理获得：我们最大化条件概率的类别k，更具体的说，P(X|y=k)被建模成多变量高斯分布：其中n代表特征个数，我们需要从训练数据中估计出类的先验概率P(y=k)，类别均值 ，以及协方差矩阵。在LDA中，每个类别k的高斯分布共享协方差矩阵，通过比较两个类别的对数概率，可以看出两个类别之间的线性决策面，即 。在QDA中，没有关于高斯协方差矩阵的假设，因此有了二次决策平面。 收缩是一种训练样本数量相比于特征而言很小的情况下可以提升预测准确性的工具。 默认的求解器为"svd"（奇异值分解），不依赖于协方差矩阵的计算，在特征数量特别大时很有优势，但是，它无法与收缩同时使用。还有求解器‘lsqr"（最小二乘），它是一个高效的算法，支持收缩，但是仅用于分类。最后一个求解器"eigen"（特征分解），基于类间散度和类内离散率之间的优化，支持收缩，可以用于分类，但是它需要计算协方差矩阵，因此其不适用于大量特征的情况。 我们用鸢尾花数据集做个示例，原数据特征为4维，降维后只剩两维，方便可视化。 这就是LDA降维后的效果，可以看到LDA将该数据集降成了可以明显区分的两个部分。 我们再看看不降维与降维的效果： 可以看出来，几乎无差别。至于LDA降维公式的推导，博主推过曾经手写推过一次，推完之后感觉没有什么实际意义，重要的是我们知道LDA用于有监督线性降维就OK了。以后在做数据建模的时候能有这方面的意识就行。至于QDA，因为它无法用于降维可视化，所以不多讲述，该算法主要运用在非线性关系上建模，比如异或问题，它就是一种非线性关系。 参考：《Scikit-Learn官方API》 如有疑问，请留言；如有错误，请指正

1.主成分分析主成分分析主要是一种探索性的技术，在分析者进行多元数据分析之前，用他来分析数据，让自己对数据有一个大致的了解，这是非常有必要的。主成分分析一般很少单独使用：a、了解数据。（screening the data），b、和cluster analysis（聚类分析）一起使用，c、和判别分析一起使用，比如当变量很多，个案数不多，直接使用判别分析可能无解，这时候可以使用主成分对变量简化（reduce dimensionality），d、在多元回归中，主成分分析可以帮助判断是否存在共线性（条件指数），还可以用来处理共线性。1、因子分析中是把变量表示成各因子的线性组合，而主成分分析中则是把主成分表示成各变量的线性组合。2、主成分分析的重点在于解释各变量的总方差，而因子分析则把重点放在解释各变量之间的协方差。3、主成分分析中不需要有假设（assumptions），因子分析则需要一些假设。因子分析的假设包括：各个共同因子之间不相关，特殊因子（specific factor）之间也不相关，共同因子和特殊因子之间也不相关。4、主成分分析中，当给定的协方差矩阵或者相关矩阵的特征值是唯一的时候，主成分一般是独特的；而因子分析中因子不是独特的，可以旋转得到不同的因子。5、在因子分析中，因子个数需要分析者指定（spss根据一定的条件自动设定，只要是特征值大于1的因子进入分析），而指定的因子数量不同而结果不同。在主成分分析中，成分的数量是一定的，一般有几个变量就有几个主成分。和主成分分析相比，由于因子分析可以使用旋转技术帮助解释因子，在解释方面更加有优势。大致说来，当需要寻找潜在的因子，并对这些因子进行解释的时候，更加倾向于使用因子分析，并且借助旋转技术帮助更好解释。而如果想把现有的变量变成少数几个新的变量（新的变量几乎带有原来所有变量的信息）来进入后续的分析，则可以使用主成分分析。当然，这种情况也可以使用因子得分做到。所以这种区分不是绝对的。在算法上，主成分分析和因子分析很类似，不过在因子分析中所采用的协方差矩阵的对角元素不再是变量的方差，而是和变量对应的共同度（变量方差中被各因子所解释的部分）。2.聚类分析（Cluster Analysis)聚类分析是直接比较各事物之间的性质，将性质相近的归为一类，将性质差别较大的归入不同的类的分析技术。在市场研究领域，聚类分析主要应用方面是帮助我们寻找目标消费群体，运用这项研究技术，我们可以划分出产品的细分市场，并且可以描述出各细分市场的人群特征，以便于客户可以有针对性的对目标消费群体施加影响，合理地开展工作。3.判别分析（Discriminatory Analysis)判别分析（Discriminatory Analysis）的任务是根据已掌握的1批分类明确的样品，建立较好的判别函数，使产生错判的事例最少，进而对给定的1个新样品，判断它来自哪个总体。根据资料的性质，分为定性资料的判别分析和定量资料的判别分析；采用不同的判别准则，又有费歇、贝叶斯、距离等判别方法。费歇（FISHER）判别思想是投影，使多维问题简化为一维问题来处理。选择一个适当的投影轴，使所有的样品点都投影到这个轴上得到一个投影值。对这个投影轴的方向的要求是：使每一类内的投影值所形成的类内离差尽可能小，而不同类间的投影值所形成的类间离差尽可能大。贝叶斯（BAYES）判别思想是根据先验概率求出后验概率，并依据后验概率分布作出统计推断。所谓先验概率，就是用概率来描述人们事先对所研究的对象的认识的程度；所谓后验概率，就是根据具体资料、先验概率、特定的判别规则所计算出来的概率。它是对先验概率修正后的结果。距离判别思想是根据各样品与各母体之间的距离远近作出判别。即根据资料建立关于各母体的距离判别函数式，将各样品数据逐一代入计算，得出各样品与各母体之间的距离值，判样品属于距离值最小的那个母体。4.对应分析（Correspondence Analysis)对应分析是一种用来研究变量与变量之间联系紧密程度的研究技术。运用这种研究技术，我们可以获取有关消费者对产品品牌定位方面的图形，从而帮助您及时调整营销策略，以便使产品品牌在消费者中能树立起正确的形象。这种研究技术还可以用于检验广告或市场推广活动的效果，我们可以通过对比广告播出前或市场推广活动前与广告播出后或市场推广活动后消费者对产品的不同认知图来看出广告或市场推广活动是否成功的向消费者传达了需要传达的信息。5.典型相关分析典型相关分析是分析两组随机变量间线性密切程度的统计方法，是两变量间线性相关分析的拓广。各组随机变量中既可有定量随机变量，也可有定性随机变量（分析时须F6说明为定性变量）。本法还可以用于分析高维列联表各边际变量的线性关系。注意1．严格地说，一个典型相关系数描述的只是一对典型变量之间的相关，而不是两个变量组之间的相关。而各对典型变量之间构成的多维典型相关才共同揭示了两个观测变量组之间的相关形式。2．典型相关模型的基本假设和数据要求要求两组变量之间为线性关系，即每对典型变量之间为线性关系；每个典型变量与本组所有观测变量的关系也是线性关系。如果不是线性关系，可先线性化：如经济水平和收入水平与其他一些社会发展水之间并不是线性关系，可先取对数。即log经济水平，log收入水平。3．典型相关模型的基本假设和数据要求所有观测变量为定量数据。同时也可将定性数据按照一定形式设为虚拟变量后，再放入典型相关模型中进行分析。6.多维尺度分析（Multi-dimension Analysis)多维尺度分析（Multi-dimension Analysis) 是市场研究的一种有力手段，它可以通过低维空间（通常是二维空间）展示多个研究对象（比如品牌）之间的联系，利用平面距离来反映研究对象之间的相似程度。由于多维尺度分析法通常是基于研究对象之间的相似性（距离）的，只要获得了两个研究对象之间的距离矩阵，我们就可以通过相应统计软件做出他们的相似性知觉图。在实际应用中，距离矩阵的获得主要有两种方法：一种是采用直接的相似性评价，先将所有评价对象进行两两组合，然后要求被访者所有的这些组合间进行直接相似性评价，这种方法我们称之为直接评价法；另一种为间接评价法，由研究人员根据事先经验，找出影响人们评价研究对象相似性的主要属性，然后对每个研究对象，让被访者对这些属性进行逐一评价，最后将所有属性作为多维空间的坐标，通过距离变换计算对象之间的距离。多维尺度分析的主要思路是利用对被访者对研究对象的分组，来反映被访者对研究对象相似性的感知，这种方法具有一定直观合理性。同时该方法实施方便，调查中被访者负担较小，很容易得到理解接受。当然，该方法的不足之处是牺牲了个体距离矩阵，由于每个被访者个体的距离矩阵只包含1与0两种取值，相对较为粗糙，个体距离矩阵的分析显得比较勉强。但这一点是完全可以接受的，因为对大多数研究而言，我们并不需要知道每一个体的空间知觉图。多元统计分析是统计学中内容十分丰富、应用范围极为广泛的一个分支。在自然科学和社会科学的许多学科中，研究者都有可能需要分析处理有多个变量的数据的问题。能否从表面上看起来杂乱无章的数据中发现和提炼出规律性的结论，不仅对所研究的专业领域要有很好的训练，而且要掌握必要的统计分析工具。对实际领域中的研究者和高等院校的研究生来说，要学习掌握多元统计分析的各种模型和方法，手头有一本好的、有长久价值的参考书是非常必要的。这样一本书应该满足以下条件：首先，它应该是“浅入深出”的，也就是说，既可供初学者入门，又能使有较深基础的人受益。其次，它应该是既侧重于应用，又兼顾必要的推理论证，使学习者既能学到“如何”做，而且在一定程度上了解“为什么”这样做。最后，它应该是内涵丰富、全面的，不仅要基本包括各种在实际中常用的多元统计分析方法，而且还要对现代统计学的最新思想和进展有所介绍、交代。主成分分析通过线性组合将原变量综合成几个主成分，用较少的综合指标来代替原来较多的指标（变量）。在多变量分析中，某些变量间往往存在相关性。是什么原因使变量间有关联呢？是否存在不能直接观测到的、但影响可观测变量变化的公共因子？因子分析法（Factor Analysis）就是寻找这些公共因子的模型分析方法，它是在主成分的基础上构筑若干意义较为明确的公因子，以它们为框架分解原变量，以此考察原变量间的联系与区别。例如，随着年龄的增长，儿童的身高、体重会随着变化，具有一定的相关性，身高和体重之间为何会有相关性呢？因为存在着一个同时支配或影响着身高与体重的生长因子。那么，我们能否通过对多个变量的相关系数矩阵的研究，找出同时影响或支配所有变量的共性因子呢？因子分析就是从大量的数据中“由表及里”、“去粗取精”，寻找影响或支配变量的多变量统计方法。可以说，因子分析是主成分分析的推广，也是一种把多个变量化为少数几个综合变量的多变量分析方法，其目的是用有限个不可观测的隐变量来解释原始变量之间的相关关系。因子分析主要用于：1、减少分析变量个数；2、通过对变量间相关关系探测，将原始变量进行分类。即将相关性高的变量分为一组，用共性因子代替该组变量。

建立判别函数的方法一般由四种：全模型法、向前选择法、向后选择法和逐步选择法。1）全模型法是指将用户指定的全部变量作为判别函数的自变量，而不管该变量是否对研究对象显著或对判别函数的贡献大小。此方法适用于对研究对象的各变量有全面认识的情况。如果未加选择的使用全变量进行分析，则可能产生较大的偏差。2）向前选择法是从判别模型中没有变量开始，每一步把一个队判别模型的判断能力贡献最大的变量引入模型，直到没有被引入模型的变量都不符合进入模型的条件时，变量引入过程结束。当希望较多变量留在判别函数中时，使用向前选择法。3）向后选择法与向前选择法完全相反。它是把用户所有指定的变量建立一个全模型。每一步把一个对模型的判断能力贡献最小的变量剔除模型，知道模型中的所用变量都不符合留在模型中的条件时，剔除工作结束。在希望较少的变量留在判别函数中时，使用向后选择法。4）逐步选择法是一种选择最能反映类间差异的变量子集，建立判别函数的方法。它是从模型中没有任何变量开始，每一步都对模型进行检验，将模型外对模型的判别贡献最大的变量加入到模型中，同时也检查在模型中是否存在“由于新变量的引入而对判别贡献变得不太显著”的 变量，如果有，则将其从模型中出，以此类推，直到模型中的所有变量都符合引入模型的条件，而模型外所有变量都不符合引入模型的条件为之，则整个过程结束。

在气候分类、农业区划、土地类型划分中有着广泛的应用。在市场调研中，一般根据事先确定的因变量（例如产品的主要用户、普通用户和非用户、自有房屋或租赁、电视观众和非电视观众）找出相应处理的区别特性。在判别分析中，因变量为类别数据，有多少类别就有多少类别处理组；自变量通常为可度量数据。通过判别分析，可以建立能够最大限度的区分因变量类别的函数，考查自变量的组间差异是否显著，判断那些自变量对组间差异贡献最大，评估分类的程度，根据自变量的值将样本归类。应用范围1）信息丢失2）直接的信息得不到3）预报4）破坏性实验假设条件1）分组类型在两种以上，且组间样本在判别值上差别明显。2）组内样本数不得少于两个，并且样本数量比变量起码多两个。3）所确定的判别变量不能是其他判别变量的线性组合。4）各组样本的协方差矩阵相等。5）各判别变量之间具有多元正态分布。6）样品量应在所使用的自变量个数的10~20倍以上时，建立的判别函数才比较稳定；而自变量个数在8~10之间时，函数的判别效果才能比较理想。当然，在实际工作中判别函数的自变量个数往往会超过10个，但应该注意的是，自变量的个数多并不代表效果好spss操作：“分析”～“分类”～“判别”～进入判别分析主对话框。这里有容易引起歧义的二个变量，最上面的为分组变量。对分组变量的了解需要联系判别分析的原理以及适用范围。因为判别分析是已知分类数目的情况下，进行分析，这个已知的分类数目就是这个分组变量。其实，一般分析步骤中，都是先进行聚类分析，聚类之后得到的分类结果就是这个分组变量，然后再选择这个分组变量，进行分析。也就是，聚类分析是母亲，母亲的孩子就是判别分析。得到的判别函数就是预测想要知道的个案究竟属于哪一类。另一个变量就是选择变量，它位于主对话框的最下面。这个选择变量在回归分析相应的对话框中也有，意思就是选择你需要的变量，这个变量可以为数据窗口的一个整个变量，也可以利用子设置“值”进行选择，所以，它的名字叫做选择变量。“统计量”子对话框：“描述性”栏，包括“均值”“单变量ANOVA”“BoxsM”需要特别说明，以后只要见到ANOVA这个单词，它的意思就是方差分析，也就是进一步输出方差分析表，其中最重要的就是P值也就是Sig值。BoxsM复选框：指的是输出对组协方差矩阵的等同性检验的检验结果。也就是对各类协方差矩阵相等的假设进行检验。“函数系数”栏：其实就是将判别函数系数进行设置。包括“费雪”和“未标准化”。费雪指的是对每一类给出一组系数，并且给出该组中判别分数最大的观测量。“矩阵”栏：都是复选框，对应相应的矩阵也就是在结果表中的四种数阵。“组内相关”“组内协方差”“分组协方差”“总体协方差”这个都是计算机自动计算，人工计算是不可能完成的任务。“分类”子对话框：本文也提到过先验概率，先验概率就是已知一部分信息，来了解未知信息也就是后验概率。“所有组相等”也就是如果分为几类，这所有的类中的先验概率都相等。“根据组大小计算”各类先验概率按照和各类样本量呈正比。“使用协方差矩阵”栏：是二个单选框。“在组内”指使用合并组内协方差矩阵进行分析“分组”指使用各组协方差矩阵进行分析。“输出”栏～“个案结果”：对每一个观测量输出判别分数，也就是选定变量的个案的分进哪个组的资格得分。实际类，预测类，也就是根据判别得分计算的古今对比。实际类就是目前实际上分为几类，预测类就是过去对未来预测，它们一对比，就可以知道过去和现在差别在哪里。附属选项“将个案限制在”在后面的小矩形框中输入观测量数，含义为仅输出设置的观测量结果，当个案也就是观测量太多，可以用此法。“摘要表”输出分类小结，给出正确和错分的观测量数，和错判率。“不考虑该个案时的分类”这个根据字面就可以理解，不赘述。“图”栏：“合并组”生成一张包括各类的散点图，该散点图根据前两个判别函数得到，如果只有一个判别函数，则生成直方图。“分组”复选框：有几类就有几张散点图，和上面一样，如果只有一个判别函数，就生成直方图。“区域图”复选框：将观测量分到各组中去的区域图。此图将一张图的平面划分出类数，相同的区域，每一类占据一个区，各类的均值在各区中用星号标出，如果仅有一个判别函数，即没有此图。“保存”子对话框：这个设置是非常重要的，并且特别直观，只要选择，就可以在数据窗口生成相应的新变量。这个新变量分别是：“预测组成员”这个预测组成员是根据判别分数，以及后验概率最大的预测分类。也就是，每个个案的预测分类。“判别得分”这个根据名字就可以理解。该分数=没有标准化的判别系数×自变量的值+一个常数。每次运行判别过程都给出一组表明判别分数的新变量。有几个判别函数就建立几个判别函数减1的新变量。新变量名称词头为dis-。举例：1 医学实践中根据各种化验结果，疾病症状等判断病人患有什么疾病。2 体育人才选拔根据运动员的体形，运动成绩，生理指标，心理素质指标判断是否继续培养。3 动植物分类判别分析最主要的分析目的：得到判别函数，对未知个案进行预测分类。“组成员概率”表示观测量属于哪一类的概率，有几类，就给出几类概率值，新变量默认名为dis预测分类数-判别概率，例如有三类，二个判别函数，则新变量名称可以为dis1-1,dis2-1,dis3-1,dis3-2以此类推。逐步判别分析：只要在主对话框中选择“使用步进式方法”，就可以筛选变量，同时，方法对话框将激活。“方法”对话框中“标准”栏的设置和线性回归的一样，不赘述。“方法”栏：原则就是，负面指标越小越好，正面指标越大越好。负面指标是wilks lambda和未解释方差，正面指标是马氏距离，最小F值，Raos V。马氏距离在回归中越大代表这个个案为影响点可能越大，也就是，只有这个个案为影响点，它越重要，越对判别函数影响越大，把它挑出来，也就是马氏距离最大。结果：1 sig值小于0.05，说明可以继续分析，函数具有判别作用，也就是有统计学意义。2 数据窗口对话框，将在“保存”子对话框设置的新变量和在主对话框的分组变量进行对比，每个个案被分到哪类，以及判别得分，都一目了然。3 根据输出表中的系数，可以写出判别函数，进行以后的预测。

判别方法是确定待判样品归属于哪一组的方法，可分为参数法和非参数法，也可以根据资料的性质分为定性资料的判别分析和定量资料的判别分析。此处给出的分类主要是根据采用的判别准则分出几种常用方法。除最大似然法外，其余几种均适用于连续性资料。1）最大似然法：用于自变量均为分类变量的情况，该方法建立在独立事件概率乘法定理的基础上，根据训练样品信息求得自变量各种组合情况下样品被封为任何一类的概率。当新样品进入是，则计算它被分到每一类中去的条件概率（似然值），概率最大的那一类就是最终评定的归类。2）距离判别：其基本思想是有训练样品得出每个分类的重心坐标，然后对新样品求出它们离各个类别重心的距离远近，从而归入离得最近的类。也就是根据个案离母体远近进行判别。最常用的距离是马氏距离，偶尔也采用欧式距离。距离判别的特点是直观、简单，适合于对自变量均为连续变量的情况下进行分类，且它对变量的分布类型无严格要求，特别是并不严格要求总体协方差阵相等。

判别分析方法经常与 聚类分析 联合使用。判别分析又称“分辨法”，是在分类确定的条件下，根据某一研究对象的各种特征值判别其类型归属问题的一种多变量统计分析方法。其基本原理是按照一定的判别准则，建立一个或多个判别函数，用研究对象的大量资料确定判别函数中的待定系数，并计算判别指标。据此即可确定某一样本属于何类。当得到一个新的样品数据，要确定该样品属于已知类型中哪一类，这类问题属于判别分析问题。判别分析，是一种统计判别和分组技术，就一定数量样本的一个分组变量和相应的其他多元变量的已知信息，确定分组与其他多元变量信息所属的样本进行判别分组。解决问题：已知某种事物有几种类型，现在从各种类型中各取一个样本，由这些样本设计出一套标准，使得从这种事物中任取一个样本，可以按这套标准判别它的类型。根据判别中的组数，可以分为两组判别分析和多组判别分析；根据判别函数的形式，可以分为线性判别和非线性判别；根据判别式处理变量的方法不同，可以分为逐步判别、序贯判别等；根据判别标准不同，可以分为距离判别、Fisher判别、Bayes判别法等。

1.聚类分析与判别分析的区别与联系 都是研究分类的，在进行聚类分析前，对总体到底有几种类型不知道（研究分几类较为合适需从计算中加以调整）。判别分析则是在总体类型划分已知，对当前新样本判断它们属于哪个总体。如我们对研究的多元数据的特征不熟悉，当然要进行聚类分析，才能考虑判别分析问题。2.聚类分析分两种：Q型聚类（对样本的聚类），P型聚类（对变量的聚类） 聚类分析需要注意的是，一般小样本数据可以用系统聚类法，大样本数据一般用快速聚类法（K均值聚类法）。需要根据统计量判断分几类比较合适，一般用R平方统计、伪F统计量等。如用前者时，可以从R平方的变换看n个样品分成几类比较合适，如分为5类时，R平方为0.9，当分为四类时，其值减小较快，如R平方为0.4，则认为分五类比较合适。另外，不同的分类方法产生的分类结果可能不同，要结合实际情况选出最优的分类方法。3.判别分析 有Fisher判别，Bayes判别和逐步判别。一般用Fisher判别即可，要考虑概率及误判损失最小的用Bayes判别，但变量较多时，一般先进行逐步判别筛选出有统计意义的变量，再结合实际情况选择用哪种判别方法。

spss进行判别分析步骤   1．Discriminant Analysis判别分析主对话框    如图 1-1 所示 图 1-1    Discriminant Analysis 主对话框（1）选择分类变量及其范围在主对话框中左面的矩形框中选择表明已知的观测量所属类别的变量(一定是离散变量)， 按上面的一个向右的箭头按钮，使该变量名移到右面的Grouping Variable 框中。此时矩形框下面的Define Range 按钮加亮，按该按钮屏幕显示一个小对话框如图1-2 所示，供指定该分类变量的数值范围。图 1-2   Define Range 对话框在Minimum 框中输入该分类变量的最小值在Maximum 框中输入该分类变量的最大值。按Continue 按钮返回主对话框。(2)指定判别分析的自变量图 1-3    展开 Selection Variable 对话框的主对话框在主对话框的左面的变量表中选择表明观测量特征的变量，按下面一个箭头按钮。把选中的变量移到Independents 矩形框中，作为参与判别分析的变量。（3） 选择观测量图 1-4    Set Value 子对话框如果希望使用一部分观测量进行判别函数的推导而且有一个变量的某个值可以作为这些观测量的标识，则用Select 功能进行选择，操作方法是单击Select 按钮展开Selection Variable。选择框如图1-3 所示。并从变量列表框中选择变量移入该框中再单击Selection Variable 选择框右侧的Value按钮，展开Set Value(子对话框)对话框，如图1-4 所示，键入标识参与分析的观测量所具有的该变量值，一般均使用数据文件中的所有合法观测量此步骤可以省略。（4） 选择分析方法在主对话框中自变量矩形框下面有两个选择项，被选中的方法前面的圆圈中加有黑点。这两个选择项是用于选择判别分析方法的l      Enter independent together 选项，当认为所有自变量都能对观测量特性提供丰富的信息时，使用该选择项。选择该项将不加选择地使用所有自变量进行判别分析，建立全模型，不需要进一步进行选择。l      Use stepwise method 选项，当不认为所有自变量都能对观测量特性提供丰富的信息时，使用该选择项。因此需要判别贡献的大小，再进行选择当鼠标单击该项时Method 按钮加亮，可以进一步选择判别分析方法。2．Method对话框 如图 1-5 所示:　 图 1-5    Stepwise Method 对话框单击“Method”按钮展开Stepwise Method对话框。（1）Method 栏选择进行逐步判别分析的方法可供选择的判别分析方法有：l   Wilks"lambda 选项，每步都是Wilk 的概计量最小的进入判别函数l   Unexplained variance 选项，每步都是使各类不可解释的方差和最小的变量进入判别函数。l   Mahalanobis"distance 选项，每步都使靠得最近的两类间的Mahalanobis 距离最大的变量进入判别函数l   Smallest F ratio 选项，每步都使任何两类间的最小的F 值最大的变量进入判刑函数l   Rao"s V 选项，每步都会使Rao V 统计量产生最大增量的变量进入判别函数。可以对一个要加入到模型中的变量的V 值指定一个最小增量。选择此种方法后，应该在该项下面的V-to-enter 后的矩形框中输入这个增量的指定值。当某变量导致的V值增量大于指定值的变量后进入判别函数。(2) Criteria 栏选择逐步判别停止的判据可供选择的判据有:l    Use F value 选项，使用F值，是系统默认的判据当加人一个变量(或剔除一个变量)后，对在判别函数中的变量进行方差分析。当计算的F值大于指定的Entry 值时，该变量保留在函数中。默认值是Entry为3.84：当该变量使计算的F值小于指定的Removal 值时，该变量从函数中剔除。默认值是Removal为2.71。即当被加入的变量F 值为3.84 时才把该变量加入到模型中，否则变量不能进入模型；或者，当要从模型中移出的变量F值<2.71时,该变量才被移出模型,否则模型中的变量不会被移出.设置这两个值时应该注意Entry值〉Removal 值。l    Use Probability of F选项，用F检验的概率决定变量是否加入函数或被剔除而不是用F值。加入变量的F值概率的默认值是0.05(5%);移出变量的F 值概率是0.10(10%)。Removal值(移出变量的F值概率) >Entry值(加入变量的F值概率)。(3) Display栏显示选择的内容对于逐步选择变量的过程和最后结果的显示可以通过Display 栏中的两项进行选择：l    Summary of steps 复选项，要求在逐步选择变量过程中的每一步之后显示每个变量的统计量。l    F for Pairwise distances 复选项，要求显示两两类之间的两两F 值矩阵。3.Statistics对话框 指定输出的统计量如图1-6 所示：图 1-6    Statistics 对话框可以选择的输出统计量分为以下3 类:(l) 描述统计量在 Descriptives 栏中选择对原始数据的描述统计量的输出：l  Means 复选项，可以输出各类中各自变量的均值MEAN、标准差std Dev 和各自变量总样本的均值和标准差。l  Univariate ANOV 复选项，对各类中同一自变量均值都相等的假设进行检验，输出单变量的方差分析结果。l  Box"s M 复选项，对各类的协方差矩阵相等的假设进行检验。如果样本足够大，表明差异不显著的p 值表明矩阵差异不明显。(2) Function coefficients 栏：选择判别函数系数的输出形式l  Fisherh"s 复选项，可以直接用于对新样本进行判别分类的费雪系数。对每一类给出一组系数。并给出该组中判别分数最大的观测量。l  Unstandardized 复选项，未经标准化处理的判别系数。(3) Matrices 栏：选择自变量的系数矩阵l  Within-groups correlation matrix复选项，即类内相关矩阵，它是根据在计算相关矩阵之前将各组(类)协方差矩阵平均后计算类内相关矩阵。l   Within-groups covariance matrix复选项，即计算并显示合并类内协方差矩阵，是将各组(类)协方差矩阵平均后计算的。区别于总协方差阵。l   Separate-groups covariance matrices复选项，对每类输出显示一个协方差矩阵。l   Total covariance matrix复选项，计算并显示总样本的协方差矩阵。4.Classification 对话框指定分类参数和判别结果 如图1-7 所示 图 1-7    Classification 对话框5.Save对话框,指定生成并保存在数据文件中的新变量。如图1-8 所示:图 1-8    Save 对话框6．选择好各选择项之后，点击“OK”按钮，提交运行Discriminant过程。

1、聚类分析又称群分析、点群分析。根据研究对象特征对研究对象进行分类的一种多元分析技术, 把性质相近的个体归为一类, 使得同一类中的个体都具有高度的同质性, 不同类之间的个体具有高度的异质性。根据分类对象的不同分为样品聚类和变量聚类。2、判别分析是一种进行统计判别和分组的技术手段。根据一定量案例的一个分组变量和相应的其他多元变量的已知信息, 确定分组与其他多元变量之间的数量关系, 建立判别函数, 然后便可以利用这一数量关系对其他未知分组类型所属的案例进行判别分组。判别分析中的因变量或判别准则是定类变量, 而自变量或预测变量基本上是定距变量。依据判别类型的多少与方法不同, 分为多类判别和逐级判别。判别分析的过程是通过建立自变量的线性组合(或其他非线性函数), 使之能最佳地区分因变量的各个类别。二、聚类分析与判别分析的区别1、基本思想不同( 1) 聚类分析的基本思想我们所研究的样品或指标( 变量) 之间存在程度不同的相似性( 亲疏关系) , 于是根据一批样品的多个观测指标, 具体找出一些能够度量样品或指标之间相似程度的统计量, 以这些统计量作为划分类型的依据。把一些相似程度较大的样品( 或指标) 聚合为一类, 把另外一些相似程度较大的样品( 或指标) 又聚合为另一类; 关系密切的聚合到一个小的分类单位, 关系疏远的聚合到一个大的分类单位, 直到把所有的样品(或指标)聚合完毕。( 2） 判别分析的基本思想对已知分类的数据建立由数值指标构成的分类规则即判别函数, 然后把这样的规则应用到未知分类的样本去分类。由基本思想可知, 在聚类分析中, 所有样品或个体所属类别是未知的, 类别的个数一般也是未知的, 分析的依据就是原始数据, 没有任何事先的有关类别的信息可参考。

_问题描述：答案1：： 临界比又称决断值，是根据测验得分区分出高分组与低分组后，然后求高、低分组在每个条目的平均差异。具体方法是将各个条目的总分由高到低排列，总得分前27%为高分组，后27%为低分组，将属于高分组的受试者新增一个变量，赋值为1，低分组新增一个变量，赋值为2。采用独立样本t检验，检验高、低分组受试者在各条目平均数上的差异。如果某个条目的CR值差异没有统计学意义((P ; 0.05)，则认为该条目不具备鉴别不同被试的反应程度，予以删除。更具体详细的介绍可以找 问卷统计分析实务--SPSS操作与应用/统计分析方法，吴明隆编看一下，对问卷编制非常有用，网上有pdf下载追问 在spss判别分析结果中有没有临界值？我怎么找不到，谢谢。提问者的评价：感谢你的无私帮助 :::::::::::::::::::请参考以下相关问题:::::::::::::::::::: SPSS多远回归分析 F临界值的算法 :::::::::::::::::::请参考以下相关问题:::::::::::::::::::: SPSS中，如何通过t值判断差异是否显著 :::::::::::::::::::请参考以下相关问题:::::::::::::::::::: spss中曲线估计应该看R方还是F值来判断哪个模型拟合的更好？

Fisher判别分析，即 LDA 相应的R实现为：MASS包中的 lad() 函数，qda() 函数lad(x, grouping, prior = proportions ,tol = 1.0e-4, method , CV = FALSE, nu, .....)lad(formula, data, .... ,subset , na.action )

线性判别分析是对费舍尔的线性鉴别方法的归纳，这种方法使用统计学，模式识别和机器学习方法，试图找到两类物体或事件的特征的一个线性组合，以能够特征化或区分它们。线性判别的思想非常朴素，给定训练样例集，设法将样例投影到一条直线上，使得同类样例的投影点尽可能接近，异样样例的投影点尽可能远离；在对新样本进行分类时，将其投影到同样的直线上，再根据投影点的位置来确定新样本的类别。线性判别与方差分析和回归分析紧密相关，这两种分析方法也试图通过一些特征或测量值的线性组合来表示一个因变量。然而，方差分析使用类别自变量和连续数因变量，而判别分析连续自变量和类别因变量（即类标签）。逻辑回归和概率回归比方差分析更类似于LDA，因为他们也是用连续自变量来解释类别因变量的。

有分类资料来做

线性判别式模型(Linear Discriminant Model) 线性判别式模型是由阿特曼(A1tman)发展起来的一种 风险 测 定模型。它通过使用借款者的各种 财务比率 和这些比率的 权重 来对 违 约风险进行 总体 的计算，其中各种财务比率的权重是基于 违约 和非违 约借款者过去的情况得到的经验数据。采纳哦

怎么做fisher判别分析？卡方检验研究数据的独立性，在分析样本量较少（比如小于40），也或者期望频数出现小于5时，此时使用fisher卡方检验较为适合。SPSSAU医学研究模块中的卡方检验时，有提供2*2即4表格时提供fisher卡方检验p 值，但当为R*C结构时，也或者为汇总表格数据时，可使用fisher卡方按钮单独进行计算。fisher卡方理论依据为超几何分布，其利用排列的数学原理进行计算，在样本量较大计算量非常大，并且fisher卡方基本上均是针对小样本量数据进行计算，因而SPSSAU在总样本量大于200时依旧不提供fisher卡方检验值。Fisher卡方检验利用超几何分布原理进行计算，共不同与pearson卡方检验会提供卡方值和p 值两项。Fisher卡方检验时仅提供p 值。SPSSAU在医学研究模块->卡方检验方法中提供2*2时卡方检验，如果是汇总表格格式，也或者R*C结构时，可使用fisher卡方按钮完成计算。本案例操作如下，A1单元格一定要空着，并且放入的数据不包括合计数据，如下图：SPSSAU共输出3个表格，如下说明：上表格展示出fisher卡方、pearson卡方和连续校正卡方统计量，从上表可知：fisher卡方时仅提供p 值，而且从pearson卡方和连续校正卡方对应的p 值来看，3个值均呈现出一致性结论即：预防组与非预防组时HPV感染情况无明显差异。通常情况下：如果总样本量>40且期望频数值全部均大于5时，一般使用pearshon卡方值，如果总样本量大于40，但出现期望频数小于5的单元格时，可优先使用连续校正卡方，也或者使用fisher卡方值，如果总样本量小于40，也或者出现期望频数小于1的单元格时，此时建议使用fisher卡方检验。具体以文献为准即可，可能不同文献的标准不完全一致。上表格展示各单元格的期望频数，上表格可以看到，非预防组阳性的期望频数为3.0<5，并且总样本量为33，因而本案例数据使用fisher卡方检验量较为适合。上表格展示实际频数，并且可通过下拉选择切换展示效果，按频数或者按百分比展示。

是吗？“”你懂的!!!!~

判别分析和聚类分析得出的结果不一致是因为研究目的不同。聚类分析，根据研究对象特征对研究对象进行分类的一种多元分析技术，把性质相近的个体归为一类，使得同一类中的个体都具有高度的同质性，不同类之间的个体具有高度的异质性。根据分类对象的不同分为样品聚类（Q聚类）和变量聚类（R）。判别分析，根据一定量案例的一个分组变量和相应的其他多元变量的已知信息，确定分组与其他多元变量之间的数量关系，建立判别函数，然后便可以利用这一数量关系对其他未知分组类型所属的案例进行判别分组。

help classify;在里面输入就可以看到这个函数的作用了。

线性判别分析法( discriminant_analysis.LinearDiscriminantAnalysis ) 和二次判别分析法( discriminant_analysis.QuadraticDiscriminantAnalysis ) 是两种经典的分类器。正如他们的名字所示，分别为线性的与二次决策面。 这两种方法很具有吸引力，因为他们拥有容易计算，并且本质是多类的闭合解，提供了在无超参数情况下的良好性能。 这个绘图展示了线性与二次判别分析法各自的决策边界。第二行展示了线性判别分析法只能得出一个线性的边界，而二次判别分析法能够得到一个更灵活的二次边界。 discriminant_analysis.LinearDiscriminantAnalysis 能够同来执行监督降维，通过把输入数据到投影由最大化类间隔（空间）的方向的线性子空间（在下面的数学部分会讨论其确切含义）。让输出的维数个数比类的个数少是必要的，所以这通常是一个相当巨大的维数降维，并且只在多类中才有效。 discriminant_analysis.LinearDiscriminantAnalysis.transform 的实现使得可以通过设置构造器参数** n_components **来设置所需的维度。但是这个参数丝毫不会影响 discriminant_analysis.LinearDiscriminantAnalysis.fit 或 discriminant_analysis.LinearDiscriminantAnalysis.predict 。 LDA（线性判别分析法）和QDA（二次判别分析法）能够使用一个简单的概率模型来分别派生出。这个模型是关于每一类** k 中关于数据概率 P(X|y = k) 的条件分布。然后可以通过使用贝叶斯来获得预测结果： 为了了解LDA在降维中的是如何应用的，根据上面解释的LDA分类规则开始几何重构是有必要的。我们定义** K 作为目标类的总数。自从在LDA里，我们定义所有的类拥有相同的被估计出的协方差 Σ **，我们可以重缩放输入数据以使得将其定义为如下： 然后可以表明在缩放之后对数据点进行分类等效于获得估计类平均值** μk^* ，其在欧氏距离上最靠近数据点。但是这一点可以通过投影到由所有类的均值 μk^* 生成的仿射 K - 1 子空间之后完成。这表明其是内置在LDA分类器中，通过线性投影在 K - 1 维度空间上的降维操作。 我们可以进一步的降低更多的维度，为了选出 L ，可以通过投影在线性子空间 HL ，其使得投影后， μk^* 的方差最大化（实际上，我们正在为被转换的类均值 μk^* 提供一种PCA的形式）。在 discriminant_analysis.LinearDiscriminantAnalysis.transform 函数， L 在这函数中代表的是 n_components **参数。可以查看 [3] 来获得更多的细节。 收缩是一个用于提高估量协方差矩阵的工具，其中训练集的数据是比特征的数量要小。在这种情况下，经验样本协方差是一种不好的估计。收缩LDA可以通过在 discriminant_analysis.LinearDiscriminantAnalysis 类中设置** shrinkage 参数为 auto 。这样会在通过引入Ledoit and Wolf [4] 的论点后，以分析的方式自动选出合适的收缩参数。但要注意的是，当前的收缩只适合在 solver 参数设置为 "lsqr" ** 或 ** "eigen" **时有效。 **shrinkage **参数同样也可以手动设置为[0, 1]之间的值。尤其是值设置为0时代表着不收缩（其意味着会使用经验样本协方差矩阵）。和值设置为1时对应着完全收缩（其意味着方差的对角矩阵会被用来作为协方差矩阵的估计）。设置其之间值（即(0, 1)）将会估计出对应的协方差矩阵的收缩。 默认的求解器是** "svd" 。它可以执行分类和变换，并且不依赖协方差矩阵的计算。这一特性在应对大量特征数量时是一个优点，但 "svd" **求解器却无法进行收缩。 **"lsqr" **求解器是一个对于分类问题是十分有效的算法（只能处理分类问题），并且其支持收缩。 **"eigen" 求解器是基于类散射与类散射比之间的最优值。他可以处理分类和变换问题，同时也支持收缩。但是， "eigen" **求解器需要计算器协方差矩阵，所以它在处理大量特征的情况下可能不是一个好选择。 （在尝试翻译这篇文档的时候难免会因为各种问题而出现错翻，如果发现的话，烦请指出，谢谢> <）

聚类分析是无监督分类，不知道数据点的类别标签，需要自己自动分出来来，简单说就是一堆东西混到一起了，你要把它们区分开来谁和谁是一类的；判别分析是有监督的，本身已经知道每个数据点属于哪个类，它的任务是找到最佳的分类方法，也就是在你这种分类方法下分类的分类效果是最佳的(通常是指错分最少)。