Кластеризация текстовых документов с использованием scikit-learn kmeans в Python
Мне нужно реализовать kMeans scikit-learn для кластеризации текстовых документов. Код примера работает нормально, но он принимает данные из 20newsgroups в качестве входных данных. Я хочу использовать тот же код для кластеризации списка документов, как показано ниже:
documents = ["Human machine interface for lab abc computer applications", "A survey of user opinion of computer system response time", "The EPS user interface management system", "System and human system engineering testing of EPS", "Relation of user perceived response time to error measurement", "The generation of random binary unordered trees", "The intersection graph of paths in trees", "Graph minors IV Widths of trees and well quasi ordering", "Graph minors A survey"] Какие изменения мне нужно сделать в примере кода kMeans, чтобы использовать этот список в качестве входных данных? (Простое взятие «dataset = documents» не работает)
- Точная репликация текстовой предварительной обработки текста в python
- ImportError при импорте из sklearn: невозможно импортировать имя check_build
- не может передавать данные массива при вызове сохраненного классификатора
- sklarn's PLSRegression: "ValueError: array не должен содержать infs или NaNs"
- Какие инструменты scikit-learn могут обрабатывать многомерный вывод?
- Использование памяти при создании матрицы временной плотности из pandas dataFrame
- Ошибка при добавлении матриц в python
- Набор данных цифр Sklearn
- Случайное состояние (псевдослучайное число) в Scikit learn
- Как рассчитывается оценка scikit-learn cross_val_predict?
- В scikit узнать, как обрабатывать данные, смешанные с численным и номинальным значением?
- Scikit-Learn: метка не x присутствует во всех примерах обучения
- Python, почему моя вероятностная нейронная сеть (PNN) всегда предсказывает нули?
2 Solutions collect form web for “Кластеризация текстовых документов с использованием scikit-learn kmeans в Python”
Это более простой пример:
from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.cluster import KMeans from sklearn.metrics import adjusted_rand_score documents = ["Human machine interface for lab abc computer applications", "A survey of user opinion of computer system response time", "The EPS user interface management system", "System and human system engineering testing of EPS", "Relation of user perceived response time to error measurement", "The generation of random binary unordered trees", "The intersection graph of paths in trees", "Graph minors IV Widths of trees and well quasi ordering", "Graph minors A survey"]
векторизовать текст, т.е. преобразовать строки в числовые функции
vectorizer = TfidfVectorizer(stop_words='english') X = vectorizer.fit_transform(documents)
кластерные документы
true_k = 2 model = KMeans(n_clusters=true_k, init='k-means++', max_iter=100, n_init=1) model.fit(X)
распечатать верхние термины для кластерных кластеров
print("Top terms per cluster:") order_centroids = model.cluster_centers_.argsort()[:, ::-1] terms = vectorizer.get_feature_names() for i in range(true_k): print "Cluster %d:" % i, for ind in order_centroids[i, :10]: print ' %s' % terms[ind], print
Если вы хотите получить более наглядное представление о том, как это выглядит, см. Этот ответ .
Эта статья очень полезна для кластеризации документов с использованием K-Means . http://brandonrose.org/clustering .
Для понимания алгоритма вы также можете проверить эту статью https://datasciencelab.wordpress.com/2013/12/12/clustering-with-k-means-in-python/
- Как округлить минуту объекта datetime python
- Как я могу лениво читать несколько объектов JSON из файла / потока в Python?