Настройка обратного прокси-сервера OpenAI с использованием NGINX для ChatGPT

Настройка обратного прокси-сервера OpenAI с использованием NGINX для ChatGPT руководство по настройке

OpenAI, известный лидер в области искусственного интеллекта, предлагает API, который позволяет разработчикам использовать их мощные модели языка. В этой статье будет предоставлена пошаговая инструкция по настройке обратного прокси OpenAI с NGINX на машине Ubuntu 22.04 с субдоменом и бесплатным SSL-сертификатом Let’s encrypt. Эта настройка позволяет вам эффективно интегрировать возможности искусственного интеллекта в ваши приложения, такие как Janitor AI, Venus AI и другие.

Преимущества обратного прокси OpenAI

Обратный прокси OpenAI в сочетании с NGINX имеет следующие преимущества:

• Производительность: Настроив обратный прокси, вы можете кэшировать ответы OpenAI API, снижая задержку и улучшая общую производительность для ваших пользователей.
• Масштабируемость: Обратный прокси действует в качестве посредника между вашим приложением и OpenAI API, позволяя масштабировать интеграцию искусственного интеллекта без проблем.
• Безопасность: Обратный прокси может добавить дополнительный уровень безопасности, скрывая чувствительные API-ключи и защищая вашу инфраструктуру бэкэнда от прямого внешнего доступа.

Давайте начнем настройку обратного прокси OpenAI с NGINX.

Предварительные требования

1. Машина с дистрибутивом Linux и внешним IP-адресом, чтобы мы могли настроить субдомен и установить SSL.
2. Пользователь с привилегиями sudo или доступом от имени root.

Первоначальная настройка

Начните с обновления пакетов до последней доступной версии.

• Требуйте больше от социальных сетей с рекламой на основе искусственного интеллекта.
• Будущее уже здесь 6 применений искусственного интеллекта в медицинской технологии
• «Лауреаты не принимаются на лапу в генеративном искусственном интеллекте»

sudo apt updatesudo apt upgrade -y

Установка NGINX для обратного прокси OpenAI

Вы можете легко установить NGINX с помощью одной команды.

sudo apt install nginx

Проверьте установку NGINX с помощью следующей команды.

sudo service nginx status

Вы увидите вывод статуса NGINX (активный или сбой).

Настройка обратного прокси OpenAI с NGINX

Теперь вам нужно удалить конфигурацию NGINX по умолчанию, которая поставляется с установкой NGINX.

sudo rm -rf /etc/nginx/sites-enabled/defaultsudo rm -rf /etc/nginx/sites-available/default

Создайте новую конфигурацию для обратного прокси OpenAI.

Создайте новый файл в директории sites-available NGINX.

sudo nano /etc/nginx/sites-available/reverse-proxy.conf

Скопируйте весь перечисленный ниже код в редактор.

Убедитесь, что заменили следующие:

• OPENAI_API_KEY на тот, который вы получаете с платформы OpenAI.
• YOUR_DOMAIN_NAME на ваше доменное имя.

Нажмите CTRL + X, а затем ENTER, чтобы сохранить и выйти из редактора.

Включите только что созданную конфигурацию NGINX.

Настройка кэша прокси (необязательно)

Вы также можете настроить кэширование для повышения производительности, если вам это нужно. Вам нужно заменить вышеуказанный добавленный нами код на следующий код.

Включение конфигурации NGINX для обратного прокси OpenAI

sudo ln -s /etc/nginx/sites-available/reverse-proxy.conf /etc/nginx/sites-enabled/reverse-proxy.conf

Проверьте конфигурацию NGINX.

sudo nginx -t

Перезапустите NGINX для применения внесенных изменений.

Защитите настройку с помощью бесплатного SSL

Теперь мы установим бесплатный SSL-сертификат Let’s Encrypt и защитим ваши запросы.

Установите Certbot с помощью следующей команды.

sudo apt install python3-certbot-nginx

Теперь вы можете установить SSL с помощью команды certbot.

Убедитесь, что замените свою электронную почту и имя домена на реальные.

Важно: Ваш домен должен указывать на IP-адрес вашего сервера, иначе установка SSL-сертификата не будет выполнена.

sudo certbot --nginx --redirect --no-eff-email --agree-to-tos -m yourmail@mail.com -d yourdomain.com

Теперь у вас установлен SSL-сертификат.

Проверка обратного прокси OpenAI с NGINX

Теперь ваш сервер NGINX настроен для работы с OpenAI API. Чтобы проверить работу, вы можете сформировать URL с помощью v1/chat/completions.

Ниже перечислены некоторые из конечных точек.

• POST /v1/chat/completions
• POST /v1/completions
• POST /v1/edits
• POST /v1/embeddings
• POST /v1/moderations
• POST /v1/answers

Если вы делаете запросы к необходимой конечной точке, вы получите запрошенный ответ.

Вывод

Это все! Вы успешно настроили обратный прокси OpenAI API с помощью NGINX на Ubuntu 22.04. Вы также установили и настроили SSL для обеспечения безопасности при обработке вашего ключа API и запросов.