Тематическое моделирование с Llama 2
Тематическое моделирование с Llama 2' - 'Topic modeling with Llama 2
Создание легко интерпретируемых тем с помощью больших языковых моделей
С появлением Llama 2 запуск сильных LLMs локально стал все более реальным. Его точность приближается к GPT-3.5 от OpenAI, что хорошо подходит для многих случаев использования.
В этой статье мы рассмотрим, как мы можем использовать Llama2 для тематического моделирования без необходимости передавать каждый отдельный документ модели. Вместо этого мы собираемся использовать BERTopic, модульную технику тематического моделирования, которая может использовать любой LLM для настройки представлений тем.
BERTopic работает довольно просто. Он состоит из 5 последовательных шагов:
- 5 рабочих мест, которые будут использовать технологию Prompt в 2023 году
- Изучите основы MLOps с помощью этой бесплатной электронной книги
- Представляем IDEFICS открытое воспроизведение современной модели визуального языка
- Встраивание документов
- Сокращение размерности вложений
- Кластеризация сокращенных вложений
- Токенизация документов на кластер
- Извлечение наилучших представляющих слов на кластер
Однако с появлением LLMs, таких как Llama 2, мы можем сделать гораздо больше, чем просто набор независимых слов на тему. Вычислительно невозможно передавать все документы напрямую в Llama 2 и анализировать их. Мы можем использовать векторные базы данных для поиска, но мы не совсем уверены, какие темы искать.
Вместо этого мы будем использовать кластеры и темы, созданные BERTopic, и позволим Llama 2 настраивать и уточнять эту информацию, чтобы она стала более точной.
Это лучшее из обоих миров: создание тем BERTopic вместе с представлением тем Llama 2.
Теперь, когда этот вводный курс пройден, давайте приступим к практическому пособию!
Мы начнем с установки нескольких пакетов, которые мы будем использовать в этом примере:
pip install bertopic datasets accelerate bitsandbytes xformers adjustTextИмейте в виду, что вам понадобится как минимум GPU T4, чтобы запустить этот пример, что может…
