聚类算法 - 分层聚类

首页 / 机器学习入门教程 / 聚类算法 - 分层聚类

分层聚类是另一种无监督的学习算法,用于将具有相似特征的未标签数据点分组在一起。层次聚类算法分为以下两类。

聚集层次算法   - 在聚集层次算法中,每个数据点都被视为单个群集,然后依次合并或聚集(自下而上)群集对,群集的层次结构表示为树状图或树结构。

分割分层算法   - 另一方面,在分割分层算法中,所有数据点都被视为一个大群集,并且群集过程涉及将(一个自上而下的方法)将一个大群集划分为多个小集群。

分层聚类步骤

无涯教程将解释最常用和最重要的层次聚类,即聚类。执行相同的步骤如下-

  • 第1步     - 将每个数据点视为单个群集,因此,一开始将拥有K个集群,开始时数据点的数量也将为K。

  • 第2步    - 现在,在这一步中,需要通过连接两个壁橱数据点来形成一个大集群,这将导致总共有K-1个簇。

  • 第3步    - 现在,要形成更多集群,需要加入两个壁橱集群,这将导致总共有K-2个簇。

  • 第4步    - 现在,要形成一个大集群,请重复上述三个步骤,直到K变为0,即不再有要加入的数据点。

  • 第5步    - 最后,在创建了一个大簇之后,将根据问题使用树状图将其分为多个簇。

树状图作用

正如在最后一步中讨论的那样,一旦大集群形成,树状图就开始发挥作用。根据问题,将使用树状图将群集分为相关数据点的多个群集,可以通过以下示例理解-

为了理解,从导入所需的库开始,如下所示:

无涯教程网

%matplotlib inline
import matplotlib.pyplot as plt
import numpy as np

接下来,将绘制此示例中采用的数据点-

X = np.array(
   [[7,8],[12,20],[17,19],[26,15],[32,37],[87,75],[73,85], [62,80],[73,60],[87,96],])
labels = range(1, 11)
plt.figure(figsize = (10, 7))
plt.subplots_adjust(bottom = 0.1)
plt.scatter(X[:,0],X[:,1], label = 'True Position')
for label, x, y in zip(labels, X[:, 0], X[:, 1]):
   plt.annotate(
      label,xy = (x, y), xytext = (-3, 3),textcoords = 'offset points', ha = 'right', va = 'bottom')
plt.show()
Plotting the Datapoints

从上图很容易看出,在数据点外有两个集群,但在现实世界的数据中,可以有成千上万个集群。接下来,无涯教程将使用Scipy库绘制数据点的树状图-

from scipy.cluster.hierarchy import dendrogram, linkage
from matplotlib import pyplot as plt
linked = linkage(X, 'single')
labelList = range(1, 11)
plt.figure(figsize = (10, 7))
dendrogram(linked, orientation = 'top',labels = labelList, 
   distance_sort ='descending',show_leaf_counts = True)
plt.show()
Plotting the Dendrograms

现在一旦形成大集群,就选择了最长的垂直距离。通过一条垂直线绘制一条线,如下图所示。当水平线与蓝线在两个点处相交时,簇的数量将为两个。

Blue Line

接下来,无涯教程需要导入用于聚类的类,并调用其fit_predict方法以预测聚类。正在导入 sklearn.cluster 库的 AgglomerativeClustering 类-

from sklearn.cluster import AgglomerativeClustering
cluster=AgglomerativeClustering(n_clusters=2, affinity='euclidean', linkage='ward')
cluster.fit_predict(X)

接下来,在以下代码的帮助下绘制群集-

plt.scatter(X[:,0],X[:,1], c=cluster.labels_, cmap='rainbow')
Sklearn Cluster

上图显示了数据点中的两个群集。

正如从上面讨论的简单示例理解树状图的概念一样,让无涯教程​​转到另一个示例,在该示例中,将使用分层聚类在Pima Indian Diabetes数据集中创建数据点的聚类。

链接:https://www.learnfk.comhttps://www.learnfk.com/python-machine-learning/machine-learning-with-python-clustering-algorithms-hierarchical.html

来源:LearnFk无涯教程网

import matplotlib.pyplot as plt
import pandas as pd
%matplotlib inline
import numpy as np
from pandas import read_csv
path=r"C:\pima-indians-diabetes.csv"
headernames=['preg', 'plas', 'pres', 'skin', 'test', 'mass', 'pedi', 'age', 'class']
data=read_csv(path, names=headernames)
array=data.values
X=array[:,0:8]
Y=array[:,8]
data.shape
(768, 9)
data.head()
Preg Plas Pres皮肤测试质量 Pedi年龄
0 6 148 72 35 0 33.6 0.627 50 1
1 1 85 66 29 0 26.6 0.351 31 0
2 8 183 64 0 0 23.3 0.672 32 1
3 1 89 66 23 94 28.1 0.167 21 0
4 0 137 40 35 168 43.1 2.288 33 1
patient_data = data.iloc[:, 3:5].values
import scipy.cluster.hierarchy as shc
plt.figure(figsize = (10, 7))
plt.title("Patient Dendograms")
dend = shc.dendrogram(shc.linkage(data, method = 'ward'))
Patient Dendograms
from sklearn.cluster import AgglomerativeClustering
cluster = AgglomerativeClustering(n_clusters = 4, affinity = 'euclidean', linkage = 'ward')
cluster.fit_predict(patient_data)
plt.figure(figsize = (10, 7))
plt.scatter(patient_data[:,0], patient_data[:,1], c = cluster.labels_, cmap = 'rainbow')
AgglomerativeClustering

这一章《聚类算法 - 分层聚类》你学到了什么?在下面做个笔记吧!做站不易,你的分享是对我们最大的支持,感谢!😊

猜你喜欢

硅谷产品实战36讲 -〔曲晓音〕

重学线性代数 -〔朱维刚〕

李智慧 · 高并发架构实战课 -〔李智慧〕

徐昊 · TDD项目实战70讲 -〔徐昊〕

好记忆不如烂笔头。留下你的足迹吧 :)