Новое открытое решение Vianai решает проблему галлюцинаций в искусственном интеллекте

Новое открытое решение Vianai решает проблему галлюцинаций в ИИ.

Не секрет, что искусственный интеллект, особенно большие языковые модели (LLM), иногда могут выдавать неточные или даже потенциально вредные результаты. Называемые “галлюцинациями искусственного интеллекта”, эти аномалии являются значительным препятствием для предприятий, рассматривающих интеграцию LLM из-за внутренних рисков финансовых, репутационных и даже юридических последствий.

Обращаясь к этой важной проблеме, Vianai Systems, лидер в области предприятий, ориентированных на человека, представила свою новую разработку: набор инструментов veryLLM. Этот набор инструментов с открытым исходным кодом призван обеспечить более надежные, прозрачные и трансформационные системы искусственного интеллекта для бизнеса.

Проблема галлюцинаций искусственного интеллекта

Такие галлюцинации, при которых LLM генерирует ложный или оскорбительный контент, являются постоянной проблемой. Многие компании, опасаясь возможных последствий, избегали внедрения LLM в свои центральные предприятийные системы. Однако с появлением veryLLM, распространяемого под лицензией с открытым исходным кодом Apache 2.0, Vianai надеется построить доверие и способствовать принятию искусственного интеллекта, предлагая решение для этих проблем.

Разбор veryLLM Toolkit

В основе veryLLM Toolkit лежит более глубокое понимание каждого предложения, созданного LLM. Это достигается с помощью различных функций, которые классифицируют высказывания на основе контекстных пулов, на которых обучаются LLM, таких как Википедия, Common Crawl и Books3. Первая версия veryLLM основана на выборке статей из Википедии, что обеспечивает надежную основу для процедуры верификации набора инструментов.

Набор инструментов разработан для адаптивности, модульности и совместимости со всеми LLM, что облегчает его использование в любом приложении, использующем LLM. Это повысит прозрачность в ответах, созданных искусственным интеллектом, и поддержит текущие и будущие языковые модели.

Доктор Вишал Сикка, основатель и генеральный директор Vianai Systems, а также советник Центра искусственного интеллекта, ориентированного на человека, Стэнфордского университета, подчеркнул серьезность проблемы галлюцинаций искусственного интеллекта. Он сказал: “Галлюцинации искусственного интеллекта представляют серьезные риски для предприятий, препятствуя их принятию искусственного интеллекта. Как студент искусственного интеллекта многие годы, также известно, что мы не можем позволить этим мощным системам быть непрозрачными в отношении основы их результатов, и нам необходимо срочно решить эту проблему. Наша библиотека veryLLM – это маленький первый шаг к обеспечению прозрачности и уверенности в результатах любого LLM – прозрачности, которую каждый разработчик, ученый-исследователь данных или поставщик LLM может использовать в своих приложениях искусственного интеллекта. Мы с нетерпением ждем возможности предоставить эти возможности, а также множество других техник против галлюцинаций, предприятиям по всему миру, и я верю, что именно поэтому мы наблюдаем беспрецедентное принятие наших решений”.

Внедрение veryLLM в hila™ Enterprise

hila™ Enterprise, еще один выдающийся продукт от Vianai, сосредоточен на точном и прозрачном развертывании крупных языковых предприятий в таких секторах, как финансы, контракты и юриспруденция. Эта платформа интегрирует код veryLLM вместе с другими передовыми техниками искусственного интеллекта для минимизации рисков, связанных с использованием искусственного интеллекта, позволяя бизнесу полностью использовать трансформационную силу надежных систем искусственного интеллекта.

Ближайший взгляд на Vianai Systems

Vianai Systems занимает ведущую позицию в области искусственного интеллекта, ориентированного на человека. Фирма имеет клиентскую базу, включающую некоторые из самых престижных компаний мира. Непревзойденное мастерство их команды в создании предприятий платформ и инновационных приложений отличает их от других. Они также имеют поддержку некоторых самых видных инвесторов в мире.