数据挖掘方法聚类分析.ppt

《数据挖掘方法聚类分析.ppt》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、聚类分析(ClusterAnalysis)“物以类聚,人以群分”，科学研究在揭示对象特点及其相互作用的过程中,不惜花费时间和精力进行对象分类，以揭示其中相同和不相同的特征。聚类分析（ClusterAnalysis）是研究“物以类聚”的一种多元统计方法。国内有人称它为群分析、点群分析、簇群分析、集群分析等。在解剖学研究中，希望能依据骨骼的形状、大小等特征将人类从猿到人分为几个不同的阶段；在临床诊治中，希望能根据耳朵的特征，把正常耳朵划分为几个类别，为临床修复耳缺损时提供参考；在卫生管理学中，希望能根据

2、医院的诊治水平、工作效率等众多指标将医院分成几个类别；在营养学研究中，如何能根据各种运动的耗糖量和耗能量将十几种运动按耗糖量和耗能量进行分类，使营养学家既能对运动员适当的补充能量，又不增加体重。在医学研究中的聚类需求举例：聚类分析的方向：聚类分析(clusteranalysis)是将样本个体或指标变量按其具有的特性进行分类的一种统计分析方法。对样本进行聚类，称为样本(Q型)聚类分析。其目的是将分类不明确的样本按性质相似程度分成若干组，从而发现同类样本的共性和不同类样本间的差异。对指标进行聚类，称为指

3、标（R型）聚类分析。其目的是将分类不明确的指标按性质相似程度分成若干组，从而在尽量不损失信息的条件下，用一组少量的指标来代替原来的多个指标（主成分分析？因子分析？）。在医生医疗质量研究中，有n个医生参加医疗质量评比，每一个医生有k个医疗质量指标被记录。利用聚类分析可以将n个医生按其医疗质量的优劣分成几类，或者把k个医疗质量指标按反映的问题侧重点不同分成几类。在冠心病研究中，观察n个病人的k个观察指标，并利用聚类分析方法分析这n个病人各自属于哪一类别，相似的病人可以采取相似的治疗措施；同时也能将k个指

4、标分类，找出说明病人病情不同方面的指标类，帮助医生更好地全面了解病人病情。例如：聚类分析不同于因素分析：因素分析是根据所有变量间的相关关系提取公共因子；聚类分析是先将最相似的两个变量聚为一小类，再去与最相似的变量或小类合并，如此分层依次进行；聚类分析也不同于判别分析：判别分析是要先知道各种类，然后判断某个案是否属于某一类。聚类分析（聚类）：把总体中性质相近的归为一类，把性质不相近的归为其他类。判别分析（分类）：已知总体分类，判别样本属于总体中的哪一类。问题:如何刻画样本/特征变量间的亲疏关系或相似程

5、度？聚类分析的基本原理聚类分析是一种数值分类方法（即完全是根据数据关系）。要进行聚类分析就要首先建立一个由某些事物属性构成的指标体系，或者说是一个变量组合。入选的每个指标必须能刻画事物属性的某个侧面，所有指标组合起来形成一个完备的指标体系，它们互相配合可以共同刻画事物的特征。所谓完备的指标体系，是说入选的指标是充分的，其它任何新增变量对辨别事物差异无显著性贡献。如果所选指标不完备，则导致分类偏差。简单地说，聚类分析的结果取决于变量的选择和变量值获取的两个方面。变量选择越准确、测量越可靠，得到的分类结

6、果越是能描述事物各类间的本质区别。聚类分析完全是根据数据情况来进行的。就一个由n个样本、k个特征变量组成的数据文件来说，当对样本进行聚类分析时，相当于对k维坐标系中的n个点进行分组，所依据的是它们的距离；当对变量进行聚类分析时，相当于对n维坐标系中的k个点进行分组，所依据的也是点距。所以距离或相似性程度是聚类分析的基础。点距如何计算呢？拿连续测量的变量来说，可以用欧氏距离平方计算：即各变量差值的平方和。1.聚类分析的前期准备工作聚类分析是以完备的数据文件为基础的，这一数据文件除观测变量比较完备之外，

7、一般还要求各个观测变量的量纲一致，即各变量取值的数量级一致，否则各变量在描述客观事物某方面特征差异性的作用有被夸大或缩小的可能。所以，聚类分析前要检查各变量的量纲是否一致，不一致则需进行转换，如将各变量均作标准化转换就可保证量纲一致。2.各数据挖掘工具中聚类分析的主要方法聚类分析的基本思想是认为我们所研究的样本或指标（变量）之间存在着程度不同的相似性（亲疏关系）。于是根据一批样本的多个观测指标，具体找出一些彼此之间相似程度较大的样本（或指标）聚合为一类，把另外一些彼此之间相似程度较大的样本（或指标）

8、又聚合为另一类，关系密切的聚合到一个小的分类单位，关系疏远的聚合到一个大的分类单位，直到把所有样本（或指标）都聚合完毕，把不同的类型一一划分出来，形成一个由小到大的分类系统。最后把整个分类系统画成一张谱系图，用它把所有样本（或指标）间的亲疏关系表示出来。这种方法是最常用的、最基本的一种，称为系统聚类分析。聚类分析的统计量数据从几何学角度看，上面表中的每一行或每一列都表示了空间中的一个点或一个向量。1、描述两个样本之间的相似程度:距离令Xi=(xi1…xit…xik)是