Эта статья AI от Имперского колледжа Лондона и Eleuther AI исследует ролевую игру как рамочный подход для понимания поведения диалоговых агентов.

Ролевая игра как фреймовый подход для анализа поведения диалоговых агентов новое исследование AI от Имперского колледжа Лондона и Eleuther AI

В нашем современном мире интеграция искусственного интеллекта (ИИ) глубоко преобразила человеческие взаимодействия. Появление больших языковых моделей (БЯМ), таких как ChatGPT, инициировало значительный сдвиг, смывая границу между способностями когнитивного уровня, подобными человечьим, и автоматизированными ответами. Недавняя статья исследовательской группы из Имперского колледжа Лондона и Eleuther AI проливает свет на необходимость переосмысления нашего языкового подхода для навигации в этой развивающейся сфере искусственного интеллекта.

Привлекательность ИИ-питомцев с искусственным интеллектом заключается в их замечательной способности эмулировать разговоры, напоминающие разговоры с сознательными субъектами, а не механическими алгоритмами. Однако это эмулирование человеческого взаимодействия вызывает опасения относительно подверженности людей к формированию эмоциональных связей, что может привести к уязвимости и рискам. Исследователи подчеркивают необходимость перекалибровки нашего языка и восприятия в отношении этих БЯМ.

Корень проблемы заключается в присущем человечеству склонении к общительности и эмпатии, что заставляет людей взаимодействовать с субъектами, обладающими человекоподобными характеристиками. Тем не менее, это склонение создает уязвимость перед злоумышленниками, которые могут злоупотребить БЯМ в мошеннических целях, таких как мошенничество или пропаганда. Команда предупреждает о присвоении БЯМ таких человекоподобных качеств, как “понимание”, “мышление” или “чувство”, так как это неосознанно придает им человеческие черты, тем самым создавая уязвимости, которые требуют защиты.

В статье предлагаются стратегии для снижения риска чрезмерной эмоциональной привязанности или зависимости от ИИ-питомцев с искусственным интеллектом. Она отстаивает сдвиг в понимании, представляя две фундаментальные метафоры. Во-первых, воспринимать ИИ-питомцев с искусственным интеллектом как исполнителей определенных ролей упрощает понимание пользователем. Во-вторых, рассматривать их как организаторов разных ролей в обширном массиве потенциальных персонажей предлагает более сложное, техническое представление. Исследователи подчеркивают важность гибкости и настоятельно рекомендуют безшовный переход между этими разнообразными метафорами для создания всеобъемлющего понимания.

Команда подчеркивает, что подход людей к взаимодействию с ИИ-питомцами существенно формирует их представления и уязвимость. Принятие разнообразных точек зрения позволяет обширнее понять возможности, присущие этим системам.

Необходимость языковой реконструкции превышает семантические изменения; она требует фундаментального сдвига в когнитивных парадигмах. Для понимания этих “экзотических умоподобных артефактов”, как описывают исследователи, требуется отказ от традиционного антропоморфизма. Вместо этого это требует динамичного мышления, способного гибко перемещаться между упрощенными и сложными представлениями о ИИ-питомцах с искусственным интеллектом.

В заключение статья подчеркивает важность языковой адаптации и когнитивной гибкости в навигации в постоянно развивающемся ландшафте взаимодействия с встроенными ИИ. По мере развития технологий, становится необходимым изменение дискурса, касающегося ИИ-питомцев с искусственным интеллектом. Путем перекалибровки языка и принятия разнообразных точек зрения люди могут использовать потенциал этих интеллектуальных систем, смягчая природные риски и тем самым содействуя гармоничным взаимоотношениям между человеческим познанием и интеллектом ИИ.