k-means算法原理及实战

2018-08-27 本文已影响32人致Great

1 K-means原理

K-means算法是输入聚类个数k，以及包含 n个数据对象的数据库，输出满足方差最小标准k个聚类的一种算法。

基本流程：

步骤1：
从n个数据对象任意选择 k 个对象作为初始聚类中心；而对于所剩下其它对象，则根据它们与这些聚类中心的相似度（距离），分别将它们分配给与其最相似的
（聚类中心所代表的）聚类；
步骤2：
再计算每个所获新聚类的聚类中心（该聚类中所有对象的均值）；
步骤3：
不断重复这一过程直到标准测度函数开始收敛为止。

一般都采用均方差作为标准测度函数. k个聚类具有以下特点：各聚类本身尽可能的紧凑，而各聚类之间尽可能的分开。

算法的时间复杂度上界为O(n*k*t), 其中t是迭代次数。

k-means算法是一种基于样本间相似性度量的间接聚类方法，属于非监督学习方法。此算法以k为参数，把n 个对象分为k个簇，以使簇内具有较高的相似度，而且簇间的相似度较低。

我们使用sklearn库来实现k-means

    if mini_batch:
        k_means=MiniBatchKMeans(n_clusters=true_k,init='k-means++',n_init=1,
                                init_size=1000,batch_size=1000,verbose=False)
    else:
        k_means=KMeans(n_clusters=true_k,init='k-means++',max_iter=300,n_init=1,
                       verbose=False)

2 中心点的个数从3到80对应的误差值的曲线

image.png

3 10个簇的数据集的个数

Cluster distribution:
{3: 133, 9: 93, 1: 131, 4: 497, 5: 328, 6: 263, 8: 78, 2: 46, 0: 164, 7: 67}

4 10个类的tfidf标签结果

Top terms per cluster:
Cluster 0 工作 人类 时间 学习 事情 员工 研究 生活 团队 能力
Cluster 1 区块 货币 比特 加密 星球 数字 交易所 交易 项目 技术
Cluster 2 公寓 房租 长租 租金 租赁 租房 房源 上涨 北京 资本
Cluster 3 手机 苹果 三星 小米 华为 科技 智能手机 厂商 发布 推出
Cluster 4 中国 特斯拉 电影 美国 明星 马斯克 谷歌 科技 产品 攻略
Cluster 5 融资 投资 企业 中国 教育 服务 平台 行业 产品 亿美元
Cluster 6 用户 品牌 平台 内容 产品 视频 电商 社交 程序 消费
Cluster 7 城市 房价 上海 房地产 房子 北京 上涨 经济 一线 数据
Cluster 8 汽车 驾驶 自动 特斯拉 生产 技术 中国 未来 亿美元 苹果
Cluster 9 腾讯 游戏 用户 玩家 中国 内容 娱乐 视频 平台 世界

5 评分

0.8191335472911944

6 说明

代码大部分来自这篇文章：K-means算法及文本聚类实践,只是没有数据集，然后自己手撕写了个36kr文章的爬虫的程序。φ(>ω<*)

代码地址上传到github：text-cluster