Разверните собственный безопасный и частный ChatGPT для вашей компании с помощью Azure OpenAI

Разверните собственный ChatGPT на Azure для вашей компании

К настоящему времени, вы, вероятно, уже осознали, что использование конфиденциальных данных компании с ChatGPT – не очень хорошая идея. Возможное раскрытие коммерческих секретов и интеллектуальной собственности компании является огромной проблемой, из-за которой даже такие гиганты технологической отрасли, как Apple, Amazon и Samsung, ограничивают или полностью запрещают своим сотрудникам использование популярной услуги искусственного интеллекта.

Когда вы используете ChatGPT, вы даете OpenAI (компанию, стоящую за ChatGPT) явное согласие на использование данных из вашего взаимодействия – это включает вопросы, которые вы вводите, и ответы, возвращаемые сервисом – для своих собственных целей. Так как это включает использование ваших данных для обучения будущих версий ChatGPT, это сопряжено с риском раскрытия коммерческих секретов компании в ответах ChatGPT. (какой ужас!) Здесь вы можете прочитать подробное объяснение их политики использования данных.

Microsoft Azure разработала решение для развертывания приложения, аналогичного ChatGPT, размещенного в облачной среде клиентов. Это даст сотрудникам доступ к безопасному и соответствующему политике конфиденциальности чат-ассистенту, который они могут использовать на работе – для генерации, резюмирования или перевода текстов, содержащих собственную информацию, проверки конфиденциальных электронных писем, написания или устранения ошибок кода из внутренних кодовых баз и других задач, которые могут помочь повысить производительность сотрудников.

Это веб-приложение, которое использует API вызовы к большим языковым моделям (LLM), таким как оригинальный ChatGPT (или gpt-3.5) и gpt-4. Оно может быть доступно с помощью браузеров на ноутбуках и мобильных устройствах. Приложение было опубликовано в открытом доступе Microsoft с очень позволяющей лицензией, включая коммерческое использование. Репозиторий GitHub можно найти здесь. Оно предлагает развертывание в один клик в службе приложений, размещенных на собственной подписке Azure клиента.

Azure ChatGPT практически не уступает ‘розничному’ ChatGPT по функциональности. Он включает историю чата пользователя, темный режим и форматированные ответы в зависимости от контекста запроса, например, списки, таблицы, диаграммы, фрагменты кода, JSON, CSV и т. д. Он поставляется с интеграцией Azure Active Directory (AD) в качестве основного метода аутентификации пользователей, поэтому это готовое решение для клиентов Microsoft, пользователи которых уже используют Office365 с AD.

Безопасность и конфиденциальность

Во-первых, давайте поговорим о безопасности пользовательских данных, так как это основное предложение этого решения.

LLM, вызываемые этим приложением, являются теми же моделями (gpt-3.5/gpt-4), которые используются в ChatGPT, но размещены на центрах обработки данных Azure с использованием собственных вычислительных ресурсов Azure для вывода результатов (например, графических процессоров).

Для сравнения, модели, которые использует розничный ChatGPT, находятся на серверах OpenAI.

Таким образом, любые пользовательские данные, такие как вопросы и ответы бота, не проходят через каналы OpenAI и находятся исключительно в среде Azure. Политика конфиденциальности данных Azure OpenAI явно указывает, что пользовательские данные не будут передаваться OpenAI и не будут использоваться для обучения будущих моделей OpenAI. (См. ниже)

Source.

История чата для каждого пользователя хранится в безопасном хранилище Azure (называемом Azure Cosmos DB) в облачной среде клиента и также охватывается строгой политикой конфиденциальности данных. Данные, хранящиеся в Cosmos DB, поддерживают варианты резервного копирования данных на несколько центров обработки данных Azure по всему миру.

Функции

История чата

История чата хранится в Azure Cosmos DB для каждой уникальной учетной записи пользователя.

Поддерживаемые форматы ответов

Вот поддерживаемые форматы вывода, которые я попробовал до сих пор. (Возможно, есть и другие.)

  1. Списки

2. Таблицы

3. Код

4. Счетная карточка

5. JSON

6. CSV

7. SVG

Темный режим

Сравнение с ChatGPT ‘розница’

Преимущества “Премиум” функций, таких как плагины, настраиваемые инструкции и интерпретаторы кода, в данном решении отсутствуют (пока).

Это приложение использует только вызовы API моделей Azure OpenAI и не развертывает модели в облачной среде клиента. За использование моделей и потребление токенов клиентам взимается плата.