Кластеризация текстовых документов с использованием scikit-learn kmeans в Python

Мне нужно реализовать kMeans scikit-learn для кластеризации текстовых документов. Код примера работает нормально, но он принимает данные из 20newsgroups в качестве входных данных. Я хочу использовать тот же код для кластеризации списка документов, как показано ниже:

documents = ["Human machine interface for lab abc computer applications", "A survey of user opinion of computer system response time", "The EPS user interface management system", "System and human system engineering testing of EPS", "Relation of user perceived response time to error measurement", "The generation of random binary unordered trees", "The intersection graph of paths in trees", "Graph minors IV Widths of trees and well quasi ordering", "Graph minors A survey"] 

Какие изменения мне нужно сделать в примере кода kMeans, чтобы использовать этот список в качестве входных данных? (Простое взятие «dataset = documents» не работает)

2 Solutions collect form web for “Кластеризация текстовых документов с использованием scikit-learn kmeans в Python”

Это более простой пример:

 from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.cluster import KMeans from sklearn.metrics import adjusted_rand_score documents = ["Human machine interface for lab abc computer applications", "A survey of user opinion of computer system response time", "The EPS user interface management system", "System and human system engineering testing of EPS", "Relation of user perceived response time to error measurement", "The generation of random binary unordered trees", "The intersection graph of paths in trees", "Graph minors IV Widths of trees and well quasi ordering", "Graph minors A survey"] 

векторизовать текст, т.е. преобразовать строки в числовые функции

 vectorizer = TfidfVectorizer(stop_words='english') X = vectorizer.fit_transform(documents) 

кластерные документы

 true_k = 2 model = KMeans(n_clusters=true_k, init='k-means++', max_iter=100, n_init=1) model.fit(X) 

распечатать верхние термины для кластерных кластеров

 print("Top terms per cluster:") order_centroids = model.cluster_centers_.argsort()[:, ::-1] terms = vectorizer.get_feature_names() for i in range(true_k): print "Cluster %d:" % i, for ind in order_centroids[i, :10]: print ' %s' % terms[ind], print 

Если вы хотите получить более наглядное представление о том, как это выглядит, см. Этот ответ .

Эта статья очень полезна для кластеризации документов с использованием K-Means . http://brandonrose.org/clustering .

Для понимания алгоритма вы также можете проверить эту статью https://datasciencelab.wordpress.com/2013/12/12/clustering-with-k-means-in-python/

  • Как получить исходные переменные после запуска Scikit Model с использованием метода OneHotEncoding
  • График определения границ решения для данных высокого измерения
  • В чем смысл параметра nu в классе SVM Scikit-Learn?
  • Как исправить проблему «NaN или бесконечность» для разреженной матрицы в python?
  • Создайте приблизительно однородную сетку из случайной выборки (python)
  • Понимание аргумента `ngram_range` в CountVectorizer в sklearn
  • Сравнение R, statmodels, sklearn для задачи классификации с логистической регрессией
  • Выполнение оценки гиперпараметра для оценщика в каждом сводке рекурсивной функции Устранение
  •  
    Interesting Posts for Van-Lav

    Пакет Python без __init__

    python заменяет обратную косую черту

    Подсчитайте различные слова из кадра данных Pandas

    Можете ли вы сделать вывод подпроцесса python stdout и stderr, как обычно, но также захватить вывод в виде строки?

    Импортировать произвольно-названный файл в виде Python-модуля без создания файла байт-кода

    Установка django: нельзя использовать pip для установки django на linux (ubuntu)

    Как вы удаляете массив numpy из списка массивов numpy?

    В чем разница между «r +» и «a +» при открытии файла в python?

    Определение перечислений в коде Cython, которые будут использоваться в части кода C

    читать файл с сервера с некоторым смещением

    python: изменить рабочий каталог скриптов в собственный каталог скрипта

    Почему закрытие закрывается внутри exec?

    Pylint W0223: метод … абстрактный в классе … но не переопределяется

    Есть ли функция Python, которая проверяет, запущен ли генератор?

    Как сделать маркеры на линиях меньше в matplotlib?

    Python - лучший язык программирования в мире.