Кластеризация текстовых документов с использованием scikit-learn kmeans в Python

Question

Мне нужно реализовать kMeans scikit-learn для кластеризации текстовых документов. Пример кода работает нормально, как есть, но принимает в качестве входных данных некоторые группы 20news. Я хочу использовать тот же код для кластеризации списка документов, как показано ниже:

documents = ["Human machine interface for lab abc computer applications",
             "A survey of user opinion of computer system response time",
             "The EPS user interface management system",
             "System and human system engineering testing of EPS",
             "Relation of user perceived response time to error measurement",
             "The generation of random binary unordered trees",
             "The intersection graph of paths in trees",
             "Graph minors IV Widths of trees and well quasi ordering",
             "Graph minors A survey"]

Какие изменения мне нужно сделать в примере кода kMeans, чтобы использовать этот список в качестве входных данных? (Простой набор данных = документы не работает)

Answer 1

Это более простой пример:

from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.cluster import KMeans
from sklearn.metrics import adjusted_rand_score

documents = ["Human machine interface for lab abc computer applications",
             "A survey of user opinion of computer system response time",
             "The EPS user interface management system",
             "System and human system engineering testing of EPS",
             "Relation of user perceived response time to error measurement",
             "The generation of random binary unordered trees",
             "The intersection graph of paths in trees",
             "Graph minors IV Widths of trees and well quasi ordering",
             "Graph minors A survey"]

векторизация текста, т.е. преобразование строк в числовые объекты

vectorizer = TfidfVectorizer(stop_words='english')
X = vectorizer.fit_transform(documents)

кластерные документы

true_k = 2
model = KMeans(n_clusters=true_k, init='k-means++', max_iter=100, n_init=1)
model.fit(X)

печатать главные термины на кластерные кластеры

print("Top terms per cluster:")
order_centroids = model.cluster_centers_.argsort()[:, ::-1]
terms = vectorizer.get_feature_names()
for i in range(true_k):
    print "Cluster %d:" % i,
    for ind in order_centroids[i, :10]:
        print ' %s' % terms[ind],
    print

Если вы хотите получить более наглядное представление о том, как это выглядит, посмотрите этот ответ.

Answer 2

Эта статья оказалась очень полезной для кластеризации документов с использованием K-Means, http://brandonrose.org/clustering.

Для понимания алгоритма вы также можете ознакомиться с этой статьей https://datasciencelab.wordpress.com/2013/12/12/clustering-with-k-means-in-python/