Исследователи Google DeepMind представляют Promptbreeder – систему искусственного интеллекта, которая ссылается на себя и самостоятельно развивается. Она автоматически эволюционирует эффективные, область-специфичные подсказки в заданной области.

Промптбридер гениальная система искусственного интеллекта от исследователей Google DeepMind, которая легко саморазвивается и создает уникальные подсказки для специализированных областей.

Большой языковой модели (БЯМ) получили много внимания благодаря своим свойствам, имитирующим человека. Эти модели способны отвечать на вопросы, генерировать контент, резюмировать длинные текстовые параграфы и многое другое. Подсказки являются существенными для улучшения производительности БЯМ, таких как GPT-3.5 и GPT-4. Способ создания подсказок может иметь большое влияние на возможности БЯМ в различных областях, включая рассуждение, мультимодальную обработку, использование инструментов и т.д. Эти техники, разработанные исследователями, показали хорошие результаты в задачах, таких как дистилляция модели и симуляция поведения агента.

Ручная настройка подходов к подсказкам вызывает вопрос о том, может ли эту процедуру быть автоматизированной. Путем создания набора подсказок на основе входно-выходных примеров из набора данных, один из автоматических инженеров подсказок (APE) предпринял попытку решить эту проблему, но APE имел ограниченные возможности по качеству подсказок. Исследователи предложили метод, основанный на алгоритме эволюционного сохранения разнообразия для самообразования подсказок для БЯМ, чтобы преодолеть ухудшающиеся результаты создания подсказок.

БЯМ могут изменять свои подсказки, чтобы улучшить свои возможности, так же как нейронная сеть может изменять свою матрицу весов для улучшения производительности. Согласно такому сравнению, БЯМ можно создавать для улучшения своих возможностей и процессов, которыми они их улучшают, тем самым позволяя искусственному интеллекту продолжать бесконечно улучшаться. В ответ на эти идеи, команда исследователей из Google DeepMind представила недавно разработанную методику PromptBreeder (PB), позволяющую БЯМ самостоятельно улучшать себя.

• Сохранение ИИ на землетрясениях исследователи представили модель глубокого обучения для улучшения прогнозов
• Исследователи MIT представляют PFGM++ Революционное слияние физики и искусственного интеллекта для продвинутого поколения узоров
• Исследователи из ETH Цюриха и Microsoft представляют SCREWS Искусственная интеллектуальная платформа для улучшения рассуждений в больших языковых моделях.

Для PB необходимы следующие элементы: описание проблемы в определенной области, набор начальных подсказок мутации, которые являются инструкциями по изменению задания для подсказки, и стили мышления, т.е. общие эвристические правила в текстовой форме. Используя возможность БЯМ служить в качестве операторов мутации, PB генерирует разные задачные подсказки и подсказки мутации. Подходящесть этих эволюционированных задачных подсказок оценивается на обучающем наборе данных, и для будущих поколений выбирается подмножество эволюционных единиц, состоящее из задачных подсказок и связанных с ними подсказок мутации.

Команда поделилась тем, что в ходе наблюдения PromptBreeder приводит к настройке подсказок для конкретной области на протяжении нескольких поколений. Например, PB разработал задачную подсказку с явными инструкциями о том, как решать математические проблемы в области математики. В различных задачах-тестах, включая рассуждение о здравом смысле, арифметику и этику, PB превосходит современные методики подсказок. PB не требует обновления параметров для самообразования, что указывает на потенциальное будущее, когда более обширные и способные БЯМ смогут извлечь выгоду из этой стратегии.

Рабочий процесс PromptBreeder можно свести к следующему:

1. Мутация задачных подсказок: Задачные подсказки создаются для определенных задач или областей. PromptBreeder начинает с популяции таких подсказок. Задачные подсказки затем подвергаются мутациям, что приводит к вариантам.

1. Оценка пригодности: С помощью обучающего набора данных оценивается пригодность измененных задачных подсказок. Эта оценка измеряет, насколько хорошо БЯМ реагирует на эти изменения при запросе.

1. Постоянная эволюция: Как и в биологической эволюции, процесс мутации и оценки повторяется несколько поколений.

В заключение, PromptBreeder считается уникальной и успешной методикой автономного развития подсказок для БЯМ. Он пытается улучшить производительность БЯМ в различных задачах и областях, в конечном счете превосходя ручные методы подсказок, итеративно улучшая и задачные подсказки, и подсказки мутации.