OpenAI открывает ворота для предприятий искусственного интеллекта

OpenAI opens the gates for artificial intelligence enterprises

Почему ChatGPT вскоре станет вашим лучшим оплачиваемым сотрудником

Добро пожаловать в будущее корпоративных решений: пространство, захватываемое искусственным интеллектом (ИИ) и, более конкретно, новой фокусировкой OpenAI на бизнесе в бизнесе (B2B).

Со взрывным ростом инструментов и технологий предприятия ведут волну инноваций, как никогда раньше. Но поскольку предложения размножаются, а обновления выходят со скоростью света, навигация в этом ландшафте и принятие правильного решения для вашей компании могут быть ошеломляющим вызовом.

Вот где пригодится это введение. Чтобы стать вашим компасом в джунглях искусственного интеллекта, провести вас через два самых важных изменения, произошедших этим летом и заставляющих индустрию переосмыслить, как мы мыслим о ИИ Саас на рабочем месте.

  1. Настройка для ChatGPT — Создайте модель, с которой можно вести беседу и которая знает все, что вы хотите обучить ее.
  2. Enterprise ChatGPT — Частные развертывания ChatGPT для компаний со всей мощностью, предлагаемой пользователям Plus, и не только!

Прочитайте, чтобы понять, что означают эти сейсмические обновления и что они не означают.

Dall-e: реалистичная картина робота с выпускным шляпой, занимающегося в библиотеке

Здесь не только речь идет о следовании последним тенденциям; это о том, чтобы использовать все преимущества, которые ИИ может предложить прямо сейчас. И поверьте нам, вы не захотите упустить эту возможность. Последние обновления не оставляют никаких оправданий для компаний, которые откладывали вхождение в этот поезд. Даже самые скептические смогут понять, почему сочетание конфиденциальности корпоративного уровня и гибкой настройки наконец-то заставит OpenAI двигаться к положительной прибыли с отличным соответствием продукта рынку.

Рост настраиваемых инструментов искусственного интеллекта для предприятий

Игра изменилась, когда OpenAI выпустила Настройку для GPT-3.5 Turbo. Если вы думали, что ИИ уже производит революцию в сфере предприятий, подумайте еще раз. Эта новая возможность принесла на стол что-то, что было возможно только с помощью меньших и открытых моделей – настраиваемость. Но что это значит для вашего предприятия и почему вам следует обратить внимание? Потому что настройка доказала свою эффективность и масштабируемость в конкретных случаях использования.

GPT-3.5 Turbo и настройка

GPT-3.5 Turbo – это не просто еще одна предварительно обученная языковая модель; она уже готова следовать инструкциям (хорошо работать в качестве чат-агента). Но теперь она может быть настроена с такой степенью специфичности, которую предыдущие версии не могли достичь. Это позволяет вам сделать модель “своей”, обучив ее нюансам вашей области, особенностям голоса вашего бренда или даже конкретным стратегиям решения проблем, которые вам требуются.

Недавние публикации от OpenAI показывают, что настройка GPT-3.5 может давать лучшие результаты, чем GPT-4 для заданного случая использования. Кроме того, стоимость взаимодействия с настроенным 3.5 за токен составляет 60–80% от стоимости вызовов GPT-4 (окно контекста 8 тыс.).

Цены OpenAI для настройки моделей GPT
Цены OpenAI для взаимодействия с GPT-4

Интересно, что стоимость ввода/вывода различается, что делает использование настроенного GPT-3.5 еще более привлекательным для случаев использования с ожидаемым низким вводом и большим выводом.

Что такое настройка модели?

Хорошо, вы взволнованы настраиваемыми сверхспособностями, которые настройка модели приносит GPT-3.5 Turbo. Но давайте отойдем на шаг назад и изучим, что на самом деле такое настройка модели. Потому что, будем честными, “настройка модели” звучит круто, но может показаться немного сложной для некоторых.

Суть настройки модели

Представьте, что у вас есть спортивный автомобиль. Он уже быстрый сразу после сборки. Но теперь вы решили сделать его лучшим на определенной трассе. Вы не замените весь двигатель; вместо этого вы настраиваете существующие механизмы – возможно, изменяете передаточное число передач или инвестируете в лучшую аэродинамику. Вы настраиваете его.

Аналогично, настройка модели берет уже обученную модель и настраивает ее для конкретных задач или областей. Вы не создаете новую модель с нуля; вы просто вносите “незначительные” изменения в существующую модель, чтобы улучшить ее производительность в вашей желаемой области.

Venn diagram of Fine-Tuning

Шаги настройки модели

  1. Подготовка данных: Соберите данные, специфичные для области.
  2. Предобработка: Очистите и форматируйте эти данные, чтобы они были совместимыми.
  3. Обучение: Сама настройка модели – обучите модель на ваших настроенных данных.
  4. Оценка: Оцените производительность модели в конкретной области.
  5. Развертывание: Интегрируйте модель в ваше приложение.

Итак, почему это важно?

Хорошо, это звучит интересно, но вам стоит заботиться? Да! Вот почему:

Снижение затрат на API

Когда вы настраиваете модель, она становится более эффективной в генерации соответствующих результатов. Это означает меньше вызовов API и, следовательно, меньшие затраты. Компании сообщают о снижении затрат на API до 40% после настройки своих моделей. Это может быть еще больше, если вы разделите вашу задачу на использование наименее умной (дешевой) модели для каждого шага, который все равно достигает ваших целей.

Улучшение производительности

Общая модель пытается быть универсальной. Но настроенная модель становится мастером в одной области – вашей конкретной области. Результат? Улучшенная точность и меньшая необходимость в человеческом вмешательстве.

Индивидуальные решения

Модель, настроенная с вашим выбором данных, будет работать по-разному от любой другой версии. Это позволяет компаниям действительно создавать уникальные результаты, открывая дверь для стартапов, создающих обертки LLM, чтобы улучшить свое решение и сделать его менее воспроизводимым.

Приоритетность инженерии запроса

Хотя настройка модели подобна превращению вашего спортивного автомобиля в чемпиона трассы, есть улучшения производительности, которые можно достичь, не отправляясь в гараж на полную переделку. Это, конечно же, наша хорошо известная дисциплина инженерии запроса – ваше низко подвешенное плодовое дерево в саду оптимизации искусственного интеллекта.

Настройка модели не всегда является первым шагом

Не поймите меня неправильно; настройка модели – мощный инструмент. Однако это требует больших вычислительных мощностей и данных, специфичных для области. Поэтому прежде чем погрузиться в настройку, спросите себя: “Могу ли я достичь достаточно хороших результатов без изменения основной модели?”

Инженерия запроса: ваша быстрая победа

Если вы новичок в этом термине, инженерия запроса – это, по сути, искусство формулирования запросов или инструкций таким образом, чтобы направить модель искусственного интеллекта к генерации нужных результатов. Никаких настроек модели, никаких дополнительных затрат. Простые изменения текста могут привести к значительно разным и высокоточным результатам.

Вот базовый пример:

  • Общий запрос: “Расскажи мне о кофе”.
  • Инженерный запрос: “Кратко опиши историю, пользу для здоровья и методы приготовления кофе”.

Второй приглашение предназначено для получения более структурированного и всестороннего ответа, позволяющего максимально использовать возможности базовой модели.

Продвинутые техники: цепочка приглашений и вызов функций

Поднимаемся на новый уровень. Цепочка приглашений предполагает разбиение сложной задачи на более мелкие и понятные запросы, и использование результата одного запроса в качестве входных данных для другого. Например, можно попросить модель сначала суммировать документ, а затем перевести эту сводку на другой язык.

Вызов функций – это более новый инновационный подход, который позволяет использовать заранее созданные функции в рамках сеанса чата для выполнения определенных задач. Это похоже на то, что вы даете модели набор инструментов, которые она может использовать, упрощая процессы, такие как извлечение данных или суммирование текста, еще больше.

Почему следует приоритезировать инженерию приглашений?

Три причины:

  1. Скорость: Результаты в режиме реального времени, нет необходимости ждать обучения модели.
  2. Экономичность: Нет дополнительных затрат, особенно полезно, если вы все еще экспериментируете с возможностями искусственного интеллекта.
  3. Гибкость: Легко настраивать и улучшать, обеспечивая гибкие итерации, соответствующие вашим изменяющимся потребностям.

Прежде чем инвестировать в настроенную модель, попробуйте начать с инженерии приглашений. Иногда разница между хорошим решением и лучшим решением заключается всего лишь в хорошо продуманном вопросе.

Управление и соответствие: Корпоративная версия

Основа корпоративного развертывания искусственного интеллекта: безопасность и соответствие. Давайте будем реалистами; все преимущества технологического решения ничего не значат, если оно не соответствует строгим стандартам безопасности, которые требуются вашей организацией. Именно здесь на сцену выходит Корпоративное предложение OpenAI, объявленное 28 августа.

Хотя объявление было сделано только на этой неделе, OpenAI показывает, что уже множество очень уважаемых клиентов использовали Корпоративное предложение до его публичного релиза.

Список клиентов корпоративной версии до запуска, согласно сайту OpenAI

Детали все еще скудны, и внедрение сегодня требует специального взаимодействия с командами продаж OpenAI. Тем не менее, решение обещает удовлетворять четыре C, которые отрасль долго искала – Управление, Соответствие, Настройка и Сотрудничество.

Управление: Административная консоль

Корпоративная версия будет поставляться с интуитивной административной консолью. Это ваш центр управления, предоставляющий панель управления для управления ключами API, отслеживания использования и установки разрешений на гранулярном уровне. Здесь встречаются управление и гибкость – начиная от установки квот до делегирования ролей, консоль ставит вас за руль.

Экран аналитики для ChatGPT Enterprise

Соответствие: Безопасность корпоративного уровня

Это основа, на которой строится корпоративная версия. Ожидайте использования современного шифрования как в состоянии покоя, так и во время передачи данных. Соблюдаются стандарты соответствия, такие как GDPR и SOC 2 (нет информации о HIPAA, которую предоставляет Anthropic), чтобы убедиться, что вы всегда находитесь в рамках правовых обязательств.

Настройка: Настроенное сохранение и доработка

Помимо возможностей настройки, о которых мы говорили, OpenAI обеспечивает возможность контроля над обработкой данных. Корпоративная версия предлагает возможность установки пользовательских политик сохранения данных, что обеспечивает соответствие любым правилам и руководствам по тому, как долго хранить ваши данные.

Более того, хотя я не смог это подтвердить, коммуникация компании говорит о том, что добавление корпоративных знаний будет иметь простой в использовании интерфейс для добавления источников данных для модели, которые могут быть эффективными на всю компанию.

Сотрудничество: Общедоступные шаблоны чата

Работа в изолированной среде является проблемой с самого начала работы с ChatGPT. Сначала с общедоступными беседами, а теперь с шаблонами, OpenAI признает, что современное рабочее пространство – это сотрудничество. С помощью шаблонов чата команды смогут распространять, тестировать и улучшать дизайн бесед без риска несанкционированного доступа или изменений. И да, это безопасные ссылки, которые соответствуют лучшим практикам в области конфиденциальности и защиты.

Конкретные сценарии использования, приносящие плоды

Тонкая настройка блеснет в различных секторах, и ее потенциал огромен:

  • Обслуживание клиентов: Забудьте о шаблонных ответах. Бизнесы теперь настраивают GPT-3.5 Turbo, чтобы он полностью понимал их продукты, предоставляя автоматизированную и удивительно искусную поддержку клиентам.
  • Написание контента: Что-то, о чем наши клиенты часто спрашивают, – это как гарантировать, что контент, написанный искусственным интеллектом, будет соответствовать их стилю бренда и руководствам. Обычно это достигается через “красную команду”, но это все равно не очень точно. С этими изменениями ваш бренд сможет иметь четкое сообщение, которое будет уважаться во всем вашем созданном контенте.
  • Форматированные выводы: Текущие приложения, построенные на LLM, обычно пытаются извлекать JSON, Markdown или другие конкретные форматирования из ответов. Это обычно сопряжено с рисками, поскольку модель не всегда отвечает в идеальном формате. Поэтому разработчики должны были создавать тестовые и повторные потоки. Теперь вы можете обучить модель лучше соответствовать вашим требованиям к форматированию.
  • Юридический сектор: Модели, настроенные на документы, которые ваша компания уже обработала, могут просеивать юридический жаргон для создания резюме или даже составления первоначальных версий юридических документов, соответствующих сделанным юридическим аргументам и использующих последние судебные прецеденты. Если вы не хотите стать новостью из-за ссылки на выдуманные дела, это правильный подход.
  • Здравоохранение и исследования: Настроенные на заказ модели помогают с медицинскими диагнозами, предлагая предварительные рекомендации на основе многолетних журналов и исследований.

Ранние принимающие и их триумфы

От глобальных гигантов до молодых стартапов многие присоединились к волне тонкой настройки и получают осязаемые выгоды. Примером является Salesforce, который интегрировал тонко настроенный GPT-3.5 Turbo в свое программное обеспечение для управления взаимоотношениями с клиентами (CRM). Результат? Сокращение среднего времени обработки запросов службы поддержки клиентов на 35%.

Заметка о горизонте

Хотя мы рассмотрели множество возможностей, которые обещает новая корпоративная версия OpenAI, стоит отметить, что полные детали все еще находятся за завесой продаж OpenAI. Поэтому следите за этим пространством – эту статью можно будет обновлять, чтобы отразить новые идеи по мере их поступления.

Кроме того, по мере того как предприятия все более интенсивно осваивают возможности тонкой настройки, ожидайте дополнительные статьи, глубже освещающие новые сценарии использования, показатели производительности и лучшие практики. В быстро развивающейся области быть в курсе дела не только выгодно – это необходимо для конкурентного преимущества.

Источники

  1. Руководство разработчика OpenAI: Тонкая настройка
  2. Блог OpenAI: ChatGPT Enterprise
  3. Блог OpenAI: Function Calling и другие обновления API
  4. Ценообразование OpenAI: Стоимость API за 1 тыс. токенов
  5. Deeplearning.ai – Тонкая настройка больших языковых моделей
  6. Как Salesforce Research использует генеративный искусственный интеллект как силу добра