Университет Корнелл обнаружил огромную угрозу в основе ChatGPT

Университет Корнелл выявил серьезную угрозу, заложенную в основе ChatGPT

Парадигма яиц и омлета

В течение последних шести месяцев компании по всему миру развертывают решения Генеративного ИИ (GenAI).

Поскольку в большинстве случаев GenAI-модель требует “долгосрочную память”, почти каждое предприятие требует векторную базу данных, которую модель может запросить во время выполнения для получения контекста, необходимого для ответа на вопрос пользователя.

Но, согласно исследователям из Корнеллского университета, теперь уже считается высоко безопасное решение скрывает проблемную правду, которая может вызвать серьезные проблемы с конфиденциальностью.

Кроме того, это открытие дает нам огромные познания в одной из самых неизвестных компонентов современных моделей искусственного интеллекта.

Большинство идей, которыми я делюсь в VoAGI, ранее были представлены в моем еженедельном информационном бюллетене TheTechOasis.

Если вы хотите быть в курсе светопреставления мира искусственного интеллекта и при этом чувствовать вдохновение для действий, или по крайней мере быть хорошо подготовленными к будущему, нас ожидает, это для вас.

🏝Подпишитесь ниже🏝, чтобы стать лидером искусственного интеллекта среди своих коллег и получить контент, отсутствующий на любой другой платформе, включая VoAGI:

Подписка | TheTechOasis

Информационный бюллетень, чтобы оставаться впереди в AI

thetechoasis.beehiiv.com

Проблема памяти

Если есть всеобщий элемент в современном искусственном интеллекте, то это эмбеддинги.

Эмбеддинги являются основой моделей, таких как ChatGPT, и почти весь прогресс, достигнутый за последние годы в области искусственного интеллекта, можно проследить одним или другим образом к этим элементам.

Великое открытие

Работая с нумерическими данными, исследователи инскусственного интеллекта на протяжении десятилетий сталкивались с непреодолимой проблемой.

Классические компьютеры, которые используются и по сей день, понимают только “1” и “0”. Не буквы и не звуковые волны. Только эти две цифры.

Каким образом мы можем выразить информацию из мира, чтобы машины могли ее понять?