Пошаговое руководство по выбору и запуску собственной генеративной модели

Подробное руководство для выбора и запуска собственной генеративной модели

Как ориентироваться в море моделей, которые выходят каждый день?

Фото от fabio на Unsplash

В последние месяцы случилось резкое сокращение размеров различных генеративных моделей, таких как новая модель Mistral AI, которая только что вышла. Уменьшение размера открывает возможность иметь своего собственного персонального помощника на базе искусственного интеллекта, который может быть связан с вашим локальным компьютером. Такой тип локального вывода очень привлекателен, чтобы обеспечить конфиденциальные вычисления на ваших данных. Со всеми этими новыми разработками, развертывание и управление нагрузкой искусственного интеллекта выглядит по-другому, чем полгода назад, и постоянно развивается. Как использовать одну из этих моделей, чтобы поиграть с ней или даже разместить ее на инфраструктуре вашей компании?

Я считаю, что прежде чем использовать любого типа модели API, которая будет размещена кем-то другим, полезно поработать с разными типами моделей, чтобы понять, как выполняются различные типы моделей. Допустим, вы пока не используете модель API. Как загрузить модель и использовать ее?

Для этого у вас есть два типа моделей: собственные и открытые модели. Проприетарные модели будут OpenAI, Cohere и т.д., и у каждой из них есть свое собственное API. Открытые модели могут быть полностью открытыми или частично ограниченными из-за их лицензии, такой как коммерческая, некоммерческая, только для исследовательских целей и т.д.

Лучшее место для поиска этих моделей – это на сайте HuggingFace. На странице моделей вы можете увидеть, что у них есть более 350 000 моделей по самым разным задачам. Так что у вас есть из чего выбрать!

Домашняя страница моделей на HuggingFace

Что следует иметь в виду, так это то, что не все эти модели используются или будут использоваться. Некоторые из них могут быть просто попыткой чего-то нового на один вечер, а затем больше не обновляться. Один из ключевых метрик для нахождения наиболее полезных моделей – это посмотреть, сколько человек скачали модель и понравилась ли она им. Например, вы можете фильтровать модели по типу задачи, которую ищете, такой как классификация текста, и оттуда вы можете увидеть, какие модели были загружены и пользуются популярностью по фильтрам…