层次聚类分析（层次聚类分析案例）

本篇文章给大家谈谈层次聚类分析，以及层次聚类分析案例对应的知识点，希望对各位有所帮助，不要忘了收藏本站喔。

本文目录一览：

• 1、层次聚类分析案例（一）
• 2、R:层次聚类分析-dist、hclust、heatmap等
• 3、层次聚类分析案例（三）
• 4、什么叫层次聚类分析

层次聚类分析案例（一）

关于聚类分析的介绍，可参见本人之前的笔记： 聚类分析

案例一：世界银行样本数据集

创建世界银行的一个主要目标是对抗和消除贫困。在这个不断发展的世界中，世界银行持续的发展并精细地调整它的政策，已经帮助这个机构逐渐实现了消除贫困的目标。消除贫困的成果以下指标的改进衡量，这些指标包括健康、教育、卫生、基础设施以及其他需要用于改进穷人生活的服务。与此同时，发展成果必须保证以一种环保的、全社会的、经济可持续的方式咐薯念达成。

准备工作

为了进行层次聚类，我们需要使用从世界银行收集的数据集。

第1步：收集和描述数据

该任务使用名为WBClust2013的数据集。该数据以标准格式存储在名为WBClust2013.csv的CSV格式的文件中。其有80行数据和14个变量。 点我获取数据

第一列Country为非数值型变量，其他列均为数值型变量。

第2步：探索数据

让我们探索数据并理解变量间的关系。我们通过导入衡困名为WBClust2013.csv的CSV文件开始。存储数据到wbclust数据框中：

下一步输出wbclust数据框，head（）函数返回wbclust数据框。wbclust数据框作为一个输入参数传入：

结果如下：

第3步：转换数据

中心化变量和创建z值是两个常见的手卖用于归一化数据的数据分析手段。上面提到的数值型变量需要创建z值。scale（）函数是一个通用的函数，其默认方法中心化并比例缩放一个数值化矩阵的列。数据框wbclust被传给该比例函数。只有数据框中数值化的变量会被缩放。结果存储在wbnorm数据框中。

结果如下：

所有的数据框都有rownames属性。rownames（）函数用来获取或设置矩阵类变量的行名或列名。数据框wbclust以及第一列被传递给rownames（）函数。

调用rownames（wbnorm）方法显示第一列的数值。结果如下：

第4步：训练并评估模型效果

下一步是训练模型。首先使用dist（）函数计算距离矩阵。使用特定的距离度量方法计算数据矩阵行间的距离。使用的距离度量可以是欧式距离、最大距离、曼哈顿距离、堪培拉距离、二进制距离，或闵可夫斯基距离。这里的距离度量使用欧式距离。使用欧式距离计算两个向量间的距离为sqrt（sum（（x_i-y_i）^2））。结果被存储在一个新的数据框dist1中。

下一步是使用Ward方法进行聚类。hclust（）函数对一组不同的n个对象进行聚类分析。第一阶段，每个对象被指派给它自己的簇。之后每个阶段，算法迭代聚合两个最相似的簇。这个过程不断持续直到只剩一个簇。hclust（）函数要求我们以距离矩阵的形式提供数据。dist1数据框被作为输入传入。默认使用全链接算法。此外还可以使用不同的聚集方法，包括ward.D、ward.D2、single、complete和average。

输入clust1命令可显示所使用的聚集方法，计算距离的方法，以及数据对象的数量。结果如下：

第5步：绘制模型

plot（）函数是一个通用的绘制R语言对象的函数。这里plot（）函数用来绘制系统树图：

结果如下：

rect.hclust（）函数强调不同的簇，并在系统树图的枝干处绘制长方形。系统树图首先在某个等级上被剪切，之后在选定的枝干上绘制长方形。

clust1对象以及需要形成的簇的数量作为输入变量传入函数。

结果如下：

cuts（）函数基于期望的簇数量或者切割高度将树中的元素切割到不同的簇中。这里，clust1对象以及需要形成的簇的数量作为输入变量传入函数。

结果如下：

得到每个簇的国家列表：

结果如下：

[img]

R:层次聚类分析-dist、hclust、heatmap等

1、常则肢规聚类过程：

（2）首先用dist()函数计算变量间距离

dist.r = dist(data, method=" ") 

其中method包括6种方法，表示不同的距离测度："euclidean", "maximum", "manhattan", "canberra", "binary" or "minkowski"。相应的意义自行查找。

（2）再用hclust()进行聚类

hc.r = hclust(dist.r, method = “ ”) 

其中method包括7种方法，表示聚类的方法："ward", "single", "complete","average", "mcquitty", "median" or "centroid"。相应的意义自行查找。

（3）画图

plot(hc.r, hang = -1,labels=NULL) 或者plot(hc.r, hang = 0.1,labels=F)

hang 等于数值，表示标签与末端树杈之间的距离，

若是负数，则表示末端树杈长度是0，即标签对齐。

labels 表示标签，默认是NULL，表示变量歼盯搏原有名称。labels=F :表示不显示标签。

2、热图聚类过程：

（1）首先用dist()函数计算变量间距离

dist.r = dist(data, method=" ")

（2）用heatmap()函数进行热点图聚类

对于heatmap中具体参数，这里不做过多介绍，可在帮助文档中找说明。除此heatmap函数之外，gplots包中的heatmap.2()函数，也可以做热点图聚类。

heatmap(as.matrix(dist.r))

3、多维标度和聚类的结果:

MDS方法对距离矩阵进行降维，用氏祥不同的颜色来表示聚类的结果。

dist.r = dist(data, method=" ")

hc.r = hclust(dist.r)

#cutree函数提取每个样本所属的类别

result = cutree(hc.r,k=4)

#cmdscale数据降维

temp = cmdscale(dist.r, k=2)

x = temp[,1]

y = temp[,2]

#作图

library（ggplot2）

p = ggplot(data.frame(x,y),aes(x,y))

p+geom_point(size=3,alpha=0.8,aes(colour = factor(result)))

层次聚类分析案例（三）

之前的笔记：

聚类介绍： 点这里

层次聚类分析案例（一）

层次聚类分析案例（二）

获取全基因组表达数据的能力是一项计算复拦改敏杂度非常高的任务。由于人脑的局限性，是无法解决这个问题。但是，通过将基因分类进数量较少的类别后再进行分析，就能将基因数据加工到更易理解的水平。

聚类的目标是将一组基因进行划分，使相似的基因落入同一个簇，同时不相似的基因落入不同的簇。这里歼唯需要考虑的关键问题是如何定义相似性，以及处理已分类基因。这里我们使用两种基因类型的感光性来探索基因聚类问题。

准备工作

为了进行层次聚类，我们使用从实验鼠身上采集的数据集。

第1步：收集和描述数据

该任务使用名为GSE4051_data和GSE4051_design的数据集。该数据集以标准格式存储在名为简枝GSE4051_data.csv和GSE4051_design.csv的CSV格式的文件中。数据获取路径： 在这里

GSE4051_data数据集包含29949行数据和39个变量。数值型变量如下：

GSE4051_design数据集包含39行数据和4个变量。数值型变量是：sidNum

非数值型变量是：sidChar；devStage；gType；

具体实施步骤以下为实现细节。

第2步：探索数据

RColorBrewer包是一个R包，可从 获取，它提供地图和其他图形的彩色模板。

pvclust包用来实现非确定性的层次聚类分析。在层次聚类中，每个簇通过多尺度有放回抽样计算p值。一个簇的p值在0～1之间。p值有两种类型：近似无偏（approximately unbiased，AU）和有放回概率（bootstrap probability，BP）值。AU p值通过多尺度有放回采样方法计算，经典的有放回采样方法用来计算BP p值。AU p值相比BP p值存在优效性偏见。

xtable包可以生成LaTeX格式的表格。使用xtable可以将特定的R对象转换成xtables。这些xtables能够以LaTeX或HTML的格式输出。

plyr包被用来进行分置合并（split-apply-combine，SAC）过程。它将一个大的问题切分成易处理的小块，在每个小块上进行操作，然后将所有小块合并起来。

载入以下包：

让我们探索并理解变量间的关系。从导入名为GSE4051_data.csv的CSV文件开始。我们将该文件数据存储到GSE4051_data数据框中：

接下来，输出GSE4051_data数据框的信息。str（）函数返回GSE4051_data的结构信息。它简略显示了GSE4051_data数据框的内部结构。max.level指明了为了显示网状结构的最大等级。

结果如下：

下面，我们导入名为GSE4051_design.csv的CSV文件，将其数据保存到GSE4051_design数据框中：

输出GSE4051_design数据框的内部结构。

结果如下：

第3步：转换数据

为了便于后续的可视化阶段，需要对每一行数据进行拉伸操作。这是由于在目前的要求下，不同基因表达之间存在绝对值的差距，因此需要对每一行数据进行拉伸。

中心化变量和创建z值是两个常见的数据分析方法。scale函数中心化并拉伸数值型矩阵的列。

变换矩阵。传入GSE4051_data数据框用t（）函数进行数据框变换。

接下来，我们输出GSE4051_data数据框的信息。通过设置give.attr=FALSE，次级结构的属性不会被显示。

结果如下：

round（）函数用于舍入到最接近的整数。语法形式只有1种：Y = round(X)，这里的X可以是数，向量，矩阵，输出对应。

head（）函数返回一个向量、矩阵、表、数据框或函数的头部。GSE4051_data和trans_GSE4051_data数据框被当作对象传入。rowMeans（）函数计算每列的平均值。data.frame（）函数创建数据框耦合变量集合，并且共享许多指标的性质：

结果如下：

第4步：训练模型

接下来是训练模型。第一步是计算距离矩阵。dist（）函数用来计算并返回距离矩阵，可以使用特定的距离度量方法来计算数据矩阵中各行间的距离。这里可使用的距离度量方法有欧式距离、最大距离、曼哈顿距离、堪培拉距离、二进制距离，或闵可夫斯基距离。这里使用欧式距离。欧式距离计算两个向量间的距离公式为sqrt（sum（（x_i-y_i）^2））。转换后的trans_GSE4051_data数据框被用来计算距离。结果存储在pair_dist_GSE4051_data数据框中。

接下来，使用interaction（）函数计算并返回gType、devStage变量间相互作用的无序因子。无序因子的结果连同GSE4051_design数据框一同被传入with（）函数。该函数计算产生一个新的因子代表gType、devStage变量的相互作用：

summary（）函数用来生成GSE4051_design$group数据框的结果总结：

结果如下：

下面，使用多种不同的联合类型计算层次聚类。

使用hclust（）函数对n个不同对象进行聚类分析。第一个阶段，每个对象被指派给自己的簇。算法在每个阶段迭代聚合两个最相似的簇。持续该过程直到只剩一个单独的簇。hclust（）函数要求我们以距离矩阵的形式提供数据。pair_dist_GSE4051_data数据框被传入。

在第一个例子中使用single聚类方法：

结果如下：

在第二个例子中使用complete聚集方法。

调用pr.hc.complete的结果是显示所使用的聚集方法、距离计算方法和对象数量：

结果如下：

在第三个例子中使用average聚类方法：

调用pr.hc.complete的结果是显示所使用的聚集方法、距离计算方法和对象数量：

结果如下：

在第四个例子中使用ward聚类方法：

pr.hc.ward的调用结果是显示所使用的聚集方法、距离计算方法和对象数量：

结果如下：

plot（）函数是绘制R对象的通用函数。

第一次调用plot（）函数，传递pr.hc.single数据框作为输入对象：

结果如下：

第二次调用plot（）函数，传入pr.hc.complete数据框作为输入对象：

结果如下：

第三次调用plot（）函数，传入pr.hc.average数据框作为输入对象：

结果如下：

第四次调用plot（）函数，传入pr.hc.ward数据框作为输入对象：

结果如下：

第5步：绘制模型

plot（）函数是绘制R对象的通用函数。这里，plot（）函数用来绘制系统树图。

rect.hclust（）函数强调不同的簇，并在系统树图的枝干上绘制长方形。系统树图首先在某个等级上被剪切，之后在选定的枝干上绘制长方形。

RColorBrewer使用从 获得的包来选择绘制R图像的颜色模板。

颜色分为三组：

最重要的一个RColorBrewer函数是brewer.pal（）。通过向该函数传入颜色的数量和配色的名字，可以从display.brewer.all（）函数中选择一个配色方案。

在第一个例子中，pr.hc.single作为一个对象传入plot（）函数：

结果如下：

下面创建热度图，使用single聚集方法。heatmap（）函数默认使用euclidean聚集方法：

结果如下：

在第二例子中，pr.hc.complete作为对象传入plot（）函数：

结果如下：

下面使用complete聚集方法创建热度图：

结果如下：

在第三个例子中，pr.hc.average作为对象传入plot（）函数：

结果如下：

下面创建average聚集方法的热度图：

结果如下：

在第四个例子中，pr.hc.ward作为对象传入plot（）函数：

结果如下：

下面绘制ward聚集方法的热度图：

结果如下：

什么叫层次聚类分析

聚类通过把目标数据放入少数相对同源的组或“类”（cluster）里。分析表达数据，（1）通过一系列的检测将待测的一组基因的变异标准化，然后成对比较线性协方差。（2）通过把用最紧密关联的谱来放基因进行样本聚类，例如用简单的层级聚类（hierarchical clustering）悉羡方法。这种聚类亦可扩展到每个实验样本，利用一组基因总的线性相关进行聚类。（3）多维等级分析（multidimensional scaling analysis,MDS）是一种在二维Euclidean “距离”中显示实验样本相关的大约程度。（4）K-means方法聚类，通过重复再分配类成员来使“类”内分散度最小化的方法。

聚类方法有两个显著的局限：首先，要聚类结果要明确就需分离度很好（well-separated）的数据。几乎所有现存的算法都是从互相区别的不重叠的类数据中产生同样的聚类。但是，如果类是扩散且互相渗透，那么每种算法的的结果将有点不同。结果，每种算法界定的边界不清，每种聚类算法得到各自的最适结果，每个数据部分将产生单一的信息。为解释因不同算法使同样数据产生不同结果，必须注意判断不同的方式。对遗传学家来说，正确解释来自任一算法的聚类内容的实际结果是困难的（特别是边界）。最终，将需要经验可信度通过序列比较来指导聚类解释。

第二个局限由线性相关产生。上述的所有聚类方法分析的仅是简单的一对一的关系。因为只是成对的线性比较，大大减少发现表达类型关系的计算量，但忽视了生物系统多因素和非线性的特点。

从统计学的观点看，聚类分析是通过数据建模简化数据的一种方法。传统的统计聚类分析方法包括系统聚类法、分解法、加入法、动态聚类法、有序样品聚类、有重叠聚类和模糊聚类等。采用k-均值、k-中心点等算法的聚类分析工具已被加入到许多著名的统计分析软件包中，如SPSS、SAS等。

从机器学习的角度讲，簇相当于隐藏模式。聚类是搜索簇的无监督学习过程。与分类不同，无监督学习不依赖预先定义的类或带类标记的训练实例，需要由聚类学习算法自动确定标记，而分类学习的实例或数据对象有类别标记。聚类是观察式学习，而不是示例式的学习。

从实际应用的角度看，聚类分析是数据挖掘的主要任务之一。就数据挖掘功能而言，聚类能够作为一个独立的工具获得数据的分布状况，观察每一簇数据的特征，集中对特定的聚簇集合作进一步地分析。

睁枯拍聚类分析还可以作为其他数据挖掘任务（如分类、关联规则）的预处理步骤。

数据挖掘领域主要研究面向大型数据库、数据仓库的高效实用的聚类分析算法。

聚类分析是数据挖掘中的一个很活跃的研究领域，并提出了许多聚类算法。

这些算法可以被分为划分方法、层次方法、基于密度方法、基于网格方法和

基于模型方法。

1 划分方法(PAM:PArtitioning method) 首先创建k个划分，k为要创建的划分个数；然后利用一个循环

定位技术通过将对象从一个划分移到另一个划分来帮助改善划分质量。典型的划分方法包括：

k-means,k-medoids,CLARA(Clustering LARge Application),

CLARANS(Clustering Large Application based upon RANdomized Search).

FCM

2 层次方法(hierarchical method) 创建一个层次以分解给定的数据集。该方法可以分为自上

而下（分解）和自下而上（合并）两种操作方式。为弥补分解与合并的不足，层次合

并经常要与其它聚类方法相结合，如循环定位。典型的这类方法包括：

第一个是;BIRCH(Balanced Iterative Reducing and Clustering using Hierarchies) 方法，它首先利用树的结构对对象集进行划分；然后再利

用其它聚类方法对这些聚类进行优化。

第二个是CURE(Clustering Using REprisentatives) 方法败唯，它利用固定数目代表对象来表示相应聚类；然后对各聚类按照指定

量（向聚类中心）进行收缩。

第三个是ROCK方法，它利用聚类间的连接进行聚类合并。

最后一个CHEMALOEN，它则是在层次聚类时构造动态模型。

3 基于密度方法，根据密度完成对象的聚类。它根据对象周围的密度（如

DBSCAN）不断增长聚类。典型的基于密度方法包括：

DBSCAN(Densit-based Spatial Clustering of Application with Noise):该算法通过不断生长足够高密

度区域来进行聚类；它能从含有噪声的空间数据库中发现任意形状的聚类。此方法将一个聚类定义

为一组“密度连接”的点集。

OPTICS(Ordering Points To Identify the Clustering Structure):并不明确产生一

个聚类，而是为自动交互的聚类分析计算出一个增强聚类顺序。。

4 基于网格方法，首先将对象空间划分为有限个单元以构成网格结构；然后利

用网格结构完成聚类。

STING(STatistical INformation Grid) 就是一个利用网格单元保存的统计信息进行基

于网格聚类的方法。

CLIQUE(Clustering In QUEst)和Wave-Cluster 则是一个将基于网格与基于密度相结合的方

法。

5 基于模型方法，它假设每个聚类的模型并发现适合相应模型的数据。典型的

基于模型方法包括：

统计方法COBWEB:是一个常用的且简单的增量式概念聚类方法。它的输入对象是采

用符号量（属性-值）对来加以描述的。采用分类树的形式来创建

一个层次聚类。

CLASSIT是COBWEB的另一个版本.。它可以对连续取值属性进行增量式聚

类。它为每个结点中的每个属性保存相应的连续正态分布（均值与方差）；并利

用一个改进的分类能力描述方法，即不象COBWEB那样计算离散属性（取值）

和而是对连续属性求积分。但是CLASSIT方法也存在与COBWEB类似的问题。

因此它们都不适合对大数据库进行聚类处理.

关于层次聚类分析和层次聚类分析案例的介绍到此就结束了，不知道你从中找到你需要的信息了吗 ？如果你还想了解更多这方面的信息，记得收藏关注本站。