《数据科学导论》机器学习-聚类问题-人大优质ppt课件.pptxVIP

《数据科学导论》机器学习初步与实践

提纲

机器学习初步与实践

聚类问题

K-Means算法

聚类问题的评测方法

监督学习和无监督学习比较

3

监督学习

建模数据中输入特征与目标类别之间的联系

目标：在未知数据上进行精确预测

无监督学习

只有输入特征，没有目标类别

目标：发现数据内在的规律和结构

无监督学习的优点

可以利用大量的数据，节省标注成本

有些应用无法事先确定目标类别（如目标客户）

聚类–Clustering

聚类的目标是发现数据中相似群，成为簇(cluster)

簇内中的数据彼此距离小-highintra-clusterssimilarity

簇间数据距离大-lowinter-clusterssimilarity

聚类不需要提供标注每一个簇的样本，因此是一种无监督学习

HowIsThisOrganized?

发现数据内在的组织关系

如左图：数据点自然聚成三个簇

4

聚类应用举例–相似网页的分组呈现

网页搜索结果聚类（无法事先确定目标类别)

5

聚类应用举例–营销中的客户细分

客户细分画像

– 营销人员利用聚类对客户做进一步细分，已形成更为精确的画像

6

聚类应用举例–营销中的客户细分

考虑某超市收集了客户数据，如何对客户进行细分？

7

聚类应用举例–营销中的客户细分

8

我们仅考虑收入水平（AnnualIncome(k$)）与花费评分（SpendingScore(1-100)）作为客户的特征

GroupC

GroupB

GroupA

GroupD

GroupE

客户很自然地分为几组

GroupA（standard）:中等收入中等花费

GroupB（sensible）:较低收入较低花费

GroupC（careless）:中等收入中等花费

GroupD（target）:较高收入较高花费

GroupE（careful）:较高收入较低花费

聚类应用举例–营销中的客户细分

可以进一步地分析不同细分类别客户的特点，指定营销方案

– 例如：以30岁为分界，分析不同细分类别中的年龄构成

GroupC

9

？

年轻人（30岁以下）

中年或以上（30岁以后）

GroupC主要以哪类人为主

GroupE主要以哪类人为主

？

年轻人（30岁以下）

中年或以上（30岁以后）

GroupE

聚类的其它应用

识别犯罪地点

使用城市中特定地区的相关犯罪数据，分析犯罪类别、犯罪地点以及两者之间的关联

保险欺诈检测

利用以往欺诈性索赔的历史数据，根据它和欺诈性模式聚类的相似性来识别新的索赔

乘车数据分析

分析交通出行数据（如滴滴出行数据），有助于我们对城市的交通模式进行深入的了解，来帮助我们做城市未来规划

IT警报的自动化聚类

对IT基础软件（如网络，存储或数据库）生成大量的警报消息进行聚类，可以对警报类别和修复时间做深入了解，有助于对未来故障进行预测

10

聚类需要考虑的几个因素

聚类算法

基于划分的聚类算法

基于层次的聚类算法

……

相似度/距离函数

聚类质量评价

最小化类内距(inter-clustersdistance)

最大化类间距(intra-clustersdistance)

11

如何定义“距离”？

距离定义取决于具体的数据或分析需求

12

SimpsonsFamily SchoolEmployees Females Males

距离度量函数

闵可夫斯基

13

如何定义“距离”？

距离定义取决于具体的数据或分析需求

0.23

3

342.7

KasunKiosn

14

聚类算法

层次聚类（Hierarchical）

自下而上：从每个数据实例出发，逐渐聚成更大的类簇

自顶而下：从整个数据集出发，逐渐划分为细分的类簇

划分聚类（Partitional）

直接对数据进行划分，形成类簇，也可用于层次聚类

贝叶斯聚类（Bayesian）

通过对数据进行划分，生成数据的后验数据分布

15

提纲

机器学习初步与实践

聚类问题

K-Means算法

聚类问题的评测方法

K-Means

最著名的聚类算法

– 基于数据划分，将每个数据点划分到一个簇中，目标是最小化类内距，以及最大化类间距

形式化定义

最小化SSE(sumofsquarederror)

如何优化SSE

•

18

如何优化SSE

•

19

E(xpectation)Step

M(aximization)Step

扩展：K-Means是Expectation-Maximization(EM)算法的特殊情况

K-Means算法

•

20

终止条件

•

21

K-Means运行过程

初始中心

数据划分

更新中心

更新数据划分

22

Example-Thedatapoints