0
点赞
收藏
分享

微信扫一扫

吴恩达《机器学习》课程总结(13)_聚类

13.1无监督学习:简介

将没有标签的样本分成不同的集合(簇),这种算法叫做聚类。常用的领域有市场分割、社交网络分析、计算机集群管理、了解星系等。

13.2K-均值算法

(1)K-均值是最普及的聚类算法,是一种迭代算法,假设需要将数据聚类成n个组,这时候首先随机选择K个点,称为聚类中心。

将每个样本归属到最近的聚类中心,然后重新计算每个类的中心变成新的聚类中心,重复以上步骤,直到聚类中心不变。

吴恩达《机器学习》课程总结(13)_聚类_迭代

吴恩达《机器学习》课程总结(13)_聚类_迭代_02

伪代码如下:

吴恩达《机器学习》课程总结(13)_聚类_代价函数_03

13.3优化目标

k-均值的最小化问题,就是每个样本点到对应聚类中心的距离之和:

吴恩达《机器学习》课程总结(13)_聚类_聚类_04

与其他算法不同的是,k-均值每一次迭代都会是代价函数变小。

13.4随机初始化

(1)K应该小于样本数m;

(2)从样本中随机选取K个实例作为初始聚类中心。

K-均值可能会出现局部最小的情况,如下所示:

吴恩达《机器学习》课程总结(13)_聚类_代价函数_05

解决方案:多次运行该算法,最后在比较K-均值代价函数最小的结果,这种方法适用于K取较小的时候(2-10),K太大没有明显效果。

13.5选择聚类数

绘制聚类数与代价函数的图,然后选取出现斜率突然变小的地方的值(“肘部法则”)。

 吴恩达《机器学习》课程总结(13)_聚类_代价函数_06

吴恩达《机器学习》课程总结(13)_聚类_迭代_07

 

作者:你的雷哥

本文版权归作者所有,欢迎转载,但未经作者同意必须在文章页面给出原文连接,否则保留追究法律责任的权利。

举报

相关推荐

0 条评论