«Как снизить галлюцинации при ЛЛМ»

«Как справиться с галлюцинациями при лимфоме Ходжкина»

LLM галлюцинация относится к явлению, при котором большие языковые модели, такие как чат-боты или системы компьютерного зрения, генерируют бессмысленные или неточные результаты, не соответствующие реальным образцам или объектам. Эти ложные результаты ИИ возникают из-за различных факторов. Слишком узкая или искаженная обучающая выборка является главной причиной. Высокая сложность модели также способствует появлению взаимосвязей, которых на самом деле нет.

Крупные компании разрабатывающие генеративные системы ИИ предпринимают шаги для решения проблемы галлюцинаций ИИ, хотя некоторые эксперты считают, что полное удаление ложных результатов может быть невозможным.

Google подключил свои модели к интернету, чтобы основывать ответы на данных обучения и информации из сети. OpenAI использует обратную связь человека и обучение с подкреплением для улучшения результатов ChatGPT. Они предложили «процесс-надзор», вознаграждая модели за правильные логические шаги вместо только окончательных ответов. Это может улучшить объяснимость, хотя некоторые сомневаются в его эффективности против фальсификаций.

Однако, компании и пользователи могут предпринять меры для противодействия и ограничения потенциального вреда от галлюцинаций ИИ. Необходимы постоянные усилия для максимизации достоверности и пользы, минимизируя риски. Существуют многообещающие подходы, но подавление галлюцинаций останется активным вызовом по мере развития технологии.

• Разоблачение Matplotlib
• Apple M2 Max GPU против Nvidia V100, P100 и T4
• Создание данных конвейеров для разработки приложений с использованием больших языковых моделей.

Методы снижения галлюцинаций LLM

1. Использование качественных обучающих данных

Поскольку модели генеративных ИИ создают результаты на основе своих обучающих данных, использование качественных и актуальных наборов данных является важным для минимизации галлюцинаций. Модели, обученные на разнообразных, сбалансированных, хорошо структурированных данных, лучше понимают задачи и производят неискаженные, точные результаты.

Качественные обучающие данные позволяют моделям улавливать тонкие закономерности и взаимосвязи. Они также предотвращают изучение неверных ассоциаций.

2. Уточнение предполагаемого использования

Четкое определение конкретной цели и допустимых использований ИИ системы помогает увести ее от галлюцинируемого контента. Определение обязанностей и ограничений роли модели позволяет сосредоточиться на полезных, соответствующих ответах.

Когда разработчики и пользователи формулируют предполагаемые применения, у ИИ есть эталон для оценки соответствия его результатов ожиданиям. Это относит его от преувеличения независимых спекуляций, основанных на обучении. Ясно сформулированные цели предоставляют контекст для самооценки ИИ в его ответах.

Артикулируйте желаемые функции и использование, чтобы генеративные модели могли оставаться связанными с практической реальностью, вместо того чтобы придумывать оторванное от цели галлюцинационное содержимое. Определите «почему», чтобы направить их к полезной ценности.

3. Использование структурированных шаблонов данных для направления результатов ИИ

Используйте структурированные шаблоны данных, чтобы ограничить галлюцинации ИИ. Шаблоны обеспечивают согласованный формат данных, поступающих на вход моделей. Это способствует соблюдению указанных руководств по результатам. С предопределенными шаблонами, которые организуют данные и их содержимое, модели учатся создавать результаты, соответствующие ожидаемым закономерностям. Форматы формируют рассуждения модели, чтобы оставаться связанными с структурированной реальностью, а не создавать фантастическое содержимое.

Полагаться на аккуратные, унифицированные шаблоны данных снижает возможность неопределенности в интерпретации модели. Она должна тесно следовать примерам, которые можно использовать. Эта согласованность ограничивает пространство для непредсказуемого отступления.

4. Ограничение результатов

Установите ограничения и ограничения на возможные результаты моделей, чтобы снизить неуправляемые конспекции. Устанавливайте четкие вероятностные пороги и используйте фильтрующие инструменты, чтобы привязать возможные ответы и оставаться на земле. Это способствует согласованности и точности.

5. Тестирование и постоянная доработка системы

Тщательное тестирование перед внедрением и непрерывное мониторинг позволяют совершенствовать производительность с течением времени. Оценка результатов выявляет области для корректировки, а новые данные могут быть использованы для повторного обучения моделей и обновления их знаний. Это непрерывное усовершенствование противодействует устаревшим или искаженным рассуждениям.

6. Ответственность перед человеком

Включайте человеческий надзор, чтобы обеспечить критическую защиту. Поскольку человеческие эксперты обзора анализируют результаты, они могут заметить и исправить любое галлюцинируемое содержимое с контекстными мерами, которые отсутствуют у машин. Комбинирование возможностей ИИ с человеческой мудростью предлагает лучшее из обоих миров.

7. Подсказка логической цепи рассуждений

Крупные языковые модели (LLM) имеют известную слабость в многошаговом рассуждении, например, в математике, несмотря на то, что они преуспевают в генеративных задачах, таких как имитация Шекспировского проза. Недавние исследования показывают, что результаты на задачах рассуждений улучшаются, когда моделям предоставляют несколько примеров, разбивающих проблему на последовательные этапы, создавая логическую цепь рассуждений.

Просто побуждение модели к «пошаговому мышлению» производит аналогичные результаты без создания изначальных примеров. Направление LLM на методичное последовательное рассмотрение своего рассуждения, вместо создания свободного текста, лучше концентрирует его возможности для задач, требующих структурированного анализа. Это показывает, что методика задания может существенно улучшить способность логически решать проблемы LLM, дополняя их свободное владение языком. Маленькое направление к упорядоченному мышлению помогает смягчить их склонность к прекрасной, но бесцельной болтовне.

8. Декомпозиция задачи и агенты

Недавние исследования исследуют использование нескольких «агентов» ИИ для улучшения результативности в случае сложных заданий, требующих многотактного рассуждения. Данный подход использует исходный маршрутизационный агент для разделения задания на конкретные подзадачи. Каждая подзадача обрабатывается выделенным специализированным экспертным агентом — все агенты являются большими языковыми моделями (LLM).

Маршрутизационный агент разбивает общую постановку задачи на логические сегменты, соответствующие возможностям доступных экспертных агентов. Эти агенты могут переформулировать фрагменты задания, которые они получают, чтобы наилучшим образом использовать свои специализированные навыки. Путем объединения нескольких LLM, каждый из которых сосредоточен на определенном типе рассуждения, коллективная система может решать задачи, превосходящие возможности каждого отдельного компонента.

Например, вопрос, требующий информации о общественном деятеле, может быть направлен к агенту поиска, который извлекает соответствующие данные для агента суммирования, чтобы свести их к ответу. Для запроса о назначении встречи агенты календаря и погоды могут предоставить необходимые детали агенту суммирования.

Этот подход направлен на согласование преимуществ различных LLM для улучшения пошагового рассуждения. Вместо создания одной, общей модели, специализированные агенты решают подзадачи, которые им наиболее подходят. Маршрутизационный агент обеспечивает модульную организацию для обработки сложных заданий в структурированном виде.

Итог

Снижение галлюцинаций требует постоянных усилий, так как некоторое фабрицирование может быть неизбежным в LLM. Высококачественные тренировочные данные, ясные применения, шаблоны, тщательное тестирование и контроль со стороны человека помогают увеличить достоверность. Несмотря на существующие риски, ответственное развитие и сотрудничество могут способствовать развитию преимуществ ИИ. Если генеративные модели ориентируются на этические принципы, их огромный потенциал может быть использован для общего блага общества. Существуют сложности, но также есть возможности, если мы руководим этими мощными инструментами с умом.