Настройка обратного прокси-сервера OpenAI с использованием NGINX для ChatGPT
Настройка обратного прокси-сервера OpenAI с использованием NGINX для ChatGPT руководство по настройке
OpenAI, известный лидер в области искусственного интеллекта, предлагает API, который позволяет разработчикам использовать их мощные модели языка. В этой статье будет предоставлена пошаговая инструкция по настройке обратного прокси OpenAI с NGINX на машине Ubuntu 22.04 с субдоменом и бесплатным SSL-сертификатом Let’s encrypt. Эта настройка позволяет вам эффективно интегрировать возможности искусственного интеллекта в ваши приложения, такие как Janitor AI, Venus AI и другие.
Преимущества обратного прокси OpenAI
Обратный прокси OpenAI в сочетании с NGINX имеет следующие преимущества:
- Производительность: Настроив обратный прокси, вы можете кэшировать ответы OpenAI API, снижая задержку и улучшая общую производительность для ваших пользователей.
- Масштабируемость: Обратный прокси действует в качестве посредника между вашим приложением и OpenAI API, позволяя масштабировать интеграцию искусственного интеллекта без проблем.
- Безопасность: Обратный прокси может добавить дополнительный уровень безопасности, скрывая чувствительные API-ключи и защищая вашу инфраструктуру бэкэнда от прямого внешнего доступа.
Давайте начнем настройку обратного прокси OpenAI с NGINX.
Предварительные требования
- Машина с дистрибутивом Linux и внешним IP-адресом, чтобы мы могли настроить субдомен и установить SSL.
- Пользователь с привилегиями
sudo
или доступом от имениroot
.
Первоначальная настройка
Начните с обновления пакетов до последней доступной версии.
- Требуйте больше от социальных сетей с рекламой на основе искусственного интеллекта.
- Будущее уже здесь 6 применений искусственного интеллекта в медицинской технологии
- «Лауреаты не принимаются на лапу в генеративном искусственном интеллекте»
sudo apt updatesudo apt upgrade -y
Установка NGINX для обратного прокси OpenAI
Вы можете легко установить NGINX с помощью одной команды.
sudo apt install nginx
Проверьте установку NGINX с помощью следующей команды.
sudo service nginx status
Вы увидите вывод статуса NGINX (активный или сбой).
Настройка обратного прокси OpenAI с NGINX
Теперь вам нужно удалить конфигурацию NGINX по умолчанию, которая поставляется с установкой NGINX.
sudo rm -rf /etc/nginx/sites-enabled/defaultsudo rm -rf /etc/nginx/sites-available/default
Создайте новую конфигурацию для обратного прокси OpenAI.
Создайте новый файл в директории sites-available
NGINX.
sudo nano /etc/nginx/sites-available/reverse-proxy.conf
Скопируйте весь перечисленный ниже код в редактор.
Убедитесь, что заменили следующие:
OPENAI_API_KEY
на тот, который вы получаете с платформы OpenAI.YOUR_DOMAIN_NAME
на ваше доменное имя.
Нажмите CTRL + X
, а затем ENTER
, чтобы сохранить и выйти из редактора.
Включите только что созданную конфигурацию NGINX.
Настройка кэша прокси (необязательно)
Вы также можете настроить кэширование для повышения производительности, если вам это нужно. Вам нужно заменить вышеуказанный добавленный нами код на следующий код.
Включение конфигурации NGINX для обратного прокси OpenAI
sudo ln -s /etc/nginx/sites-available/reverse-proxy.conf /etc/nginx/sites-enabled/reverse-proxy.conf
Проверьте конфигурацию NGINX.
sudo nginx -t
Перезапустите NGINX для применения внесенных изменений.
Защитите настройку с помощью бесплатного SSL
Теперь мы установим бесплатный SSL-сертификат Let’s Encrypt и защитим ваши запросы.
Установите Certbot с помощью следующей команды.
sudo apt install python3-certbot-nginx
Теперь вы можете установить SSL с помощью команды certbot
.
Убедитесь, что замените свою электронную почту и имя домена на реальные.
Важно: Ваш домен должен указывать на IP-адрес вашего сервера, иначе установка SSL-сертификата не будет выполнена.
sudo certbot --nginx --redirect --no-eff-email --agree-to-tos -m yourmail@mail.com -d yourdomain.com
Теперь у вас установлен SSL-сертификат.
Проверка обратного прокси OpenAI с NGINX
Теперь ваш сервер NGINX настроен для работы с OpenAI API. Чтобы проверить работу, вы можете сформировать URL с помощью v1/chat/completions
.
Ниже перечислены некоторые из конечных точек.
- POST
/v1/chat/completions
- POST
/v1/completions
- POST
/v1/edits
- POST
/v1/embeddings
- POST
/v1/moderations
- POST
/v1/answers
Если вы делаете запросы к необходимой конечной точке, вы получите запрошенный ответ.
Вывод
Это все! Вы успешно настроили обратный прокси OpenAI API с помощью NGINX на Ubuntu 22.04. Вы также установили и настроили SSL для обеспечения безопасности при обработке вашего ключа API и запросов.