对百万量级的数据如何快速聚类?

2019-08-15 11:03:49 +08:00
 gazhang

我有 100 万条数据,每个数据是一个 200 维的向量,考虑对它们进行聚类。目前尝试了 scipy 的 k-means 聚类算法,但是半天没有结果。 计算平台是 windows 7,内存 16G。

3000 次点击
所在节点    问与答
5 条回复
xxxy
2019-08-15 11:35:16 +08:00
有 gpu 的话可以用 tensorflow 的 k means,应该会快十几倍吧
ipwx
2019-08-15 11:39:33 +08:00
pwrliang
2019-08-15 13:35:56 +08:00
上分布式吧,用 Spark 写个 K-means
shidenggui
2019-08-15 13:38:28 +08:00
pca 降维,再聚类
gazhang
2019-08-23 17:33:49 +08:00
最后还是在好点的机器上跑了,大概半小时。

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/592042

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX