Донни Уайт, главный исполнительный директор и сооснователь компании Satisfi Labs – серия интервью

Донни Уайт, ведущий исполнительный директор и сооснователь компании Satisfi Labs серия интервью

Основанная в 2016 году, компания Satisfi Labs является ведущей компанией по разговорному искусственному интеллекту. Ранний успех пришел от работы с командой Нью-Йорк Метс, Macy’s и US Open, обеспечивая легкий доступ к информации, часто недоступной на веб-сайтах.

Дони проработал 15 лет в Bloomberg до того, как вошел в мир стартапов. Он имеет степень магистра бизнес-администрирования от университета Корнелл и степень бакалавра от колледжа Барух. Под руководством Дони Satisfi Labs стала свидетелем значительного роста в сферах спорта, развлечений и туризма, получив инвестиции от Google, MLB и Red Light Management.

Когда вы впервые почувствовали желание стать предпринимателем после 14 лет работы в Bloomberg? Почему стать предпринимателем внезапно стало вашим приоритетом?

В период учебы на третьем курсе колледжа я подал заявление на должность рецепциониста в Bloomberg. Когда мне удалось пробиться, я сказал своим коллегам, что если они согласятся научить меня, я смогу быстро учиться. К моему последнему курсу я уже был сотрудником на полную ставку и перевел все свои занятия на вечерние, чтобы совмещать оба дела. Вместо того чтобы посещать свое выпускное торжество в колледже в возрасте 21 года, я провел это время управляя своей первой командой. С тех пор мне посчастливилось работать в меритократической системе и несколько раз продвигаться по службе. К 25 годам я уже руководил собственным отделом. Затем я перешел в региональное управление, а затем занялся разработкой продуктов, пока в конечном итоге не стал руководить продажами по всему Америке. К 2013 году я начал задумываться о том, не могу ли я сделать что-то большое. Я посетил несколько интервью в молодых технологических компаниях, и один из основателей сказал мне: “Мы не знаем, хорош ли вы или хорош сам Bloomberg”. Именно тогда я понял, что должно произойти что-то изменение, и через шесть месяцев я стал вице-президентом по продажам в своей первой стартап-компании Datahug. Недолго после этого меня пригласила группа инвесторов, которые хотели изменить ход дел у Yelp. В то время как Yelp все еще прекрасен и успешен, в 2016 году мы совместно с инвесторами поделились новым видением, и я стал одним из сооснователей Satisfi Labs.

Можете ли вы рассказать историю возникновения Satisfi Labs?

Я был на игре по бейсболу на стадионе Citi Field с Рэнди, нынешним техническим директором и сооснователем Satisfi Labs, когда я узнал о одном из их особенностей – беконе на палочке. Мы прошли по всему конкурсу и спросили у персонала, но нигде не смогли его найти. Оказалось, что он был спрятан на одном конце стадиона, что побудило меня понять, что было бы гораздо удобнее узнать об этом напрямую у команды через чат. Именно здесь родилась наша первая идея. Рэнди и я оба имеем опыт в финансах и алгоритмической торговле, что привело нас к концепции сопоставления запросов с ответами, чтобы создать наш собственный NLP для гипер-специфических запросов, которые могли возникнуть на местах. Исходная идея заключалась в создании отдельных ботов, каждый из которых был бы экспертом в определенной области знаний, особенно знаний, которые не так легко найти на веб-сайте. Оттуда наша система получила “дирижера”, который мог обращаться к каждому боту при необходимости. Это оригинальная системная архитектура, которая до сих пор используется.

Компания Satisfi Labs самостоятельно разработала свой движок NLP, и в этот момент OpenAI разрушила вашу технологическую структуру публикацией ChatGPT. Насколько существенным было это время для компании Satisfi Labs и как это заставило компанию пересмотреть свой бизнес?

У нас было запланированное пресс-релиз для анонсирования нашего защищенного патентом обновления NLP на основе контекста на 6 декабря 2022 года. 30 ноября 2022 года OpenAI объявила о ChatGPT. Описание ChatGPT изменило не только нашу дорожную карту, но и мир. Изначально мы, как и все остальные, спешили понять силу и возможности ChatGPT и понять, что это значит для нас. Мы вскоре поняли, что наш контекстный NLP-система не конкурирует с ChatGPT, а на самом деле может усилить опыт работы с LLM. Это привело к быстрому решению стать корпоративными партнерами OpenAI. Поскольку наша система начала с идеи понимания и ответа на вопросы на гранулярном уровне, мы смогли объединить архитектуру “дирижер-бот” и семь лет данных о намерениях, чтобы улучшить систему путем внедрения LLM-моделей.

Satisfi Labs недавно запустили патент на систему ответов Context LLM

В июле этого года мы представили нашу контекстную систему ответов с защищенным патентом Context LLM. Новая система объединяет мощь нашей защищенной патентом контекстной системы ответов с возможностями большой языковой модели для укрепления всей системы Answer Engine. Новая технология Context LLM интегрирует возможности большой языковой модели по всей платформе, начиная от улучшения маршрутизации намерений до генерации ответов и индексирования намерений, что также обеспечивает уникальные возможности для отчетности. Платформа переводит разговорный искусственный интеллект за пределы традиционных чат-ботов, используя мощь LLM, таких как GPT-4. Наша платформа позволяет брендам отвечать с помощью генеративных ответов ИИ или предварительно написанных ответов, в зависимости от необходимости контроля в ответе.

Можете ли вы обсудить нынешнее расхождение между веб-сайтами большинства компаний и платформами LLM в доставке соответствующих ответов в рамках бренда?

ChatGPT обучен понимать широкий спектр информации и, следовательно, не имеет такого уровня детального обучения, необходимого для отвечания на вопросы, специфичные для отрасли, с тем уровнем точности, который ожидает большинство брендов. Кроме того, точность ответов, предоставляемых LLM, такая же хорошая, как и предоставляемые даннные. При использовании ChatGPT он получает данные из различных источников в интернете, которые могут быть неточными. ChatGPT не отдает предпочтение данным бренда перед другими данными. За последние семь лет мы обслуживали различные отрасли, что позволило нам понять, как настроить систему с большим контекстом для каждой отрасли и создать надежные возможности отчетности по намерениям, что является важным, учитывая появление больших языковых моделей. Хотя LLM-ы эффективны в понимании намерений и предоставлении ответов, они не могут отчетливо сообщать о заданных вопросах. Используя годы обширных данных о намерениях, мы эффективно создали стандартизированную отчетность через их систему индексирования намерений.

Какую роль выполняют лингвисты в развитии возможностей технологий LLM?

С появлением этой новой технологии возникла роль инженера по подсказкам, который должен разрабатывать и совершенствовать подсказки, способствующие получению конкретного ответа от искусственного интеллекта. Лингвисты отлично понимают структуру языка, такую как синтаксис и семантика, среди других вещей. Один из наших самых успешных AI-инженеров имеет фон в лингвистике, что позволяет ей находить новые и тонкие способы подсказывать AI. Незначительные изменения в подсказке могут иметь глубокое влияние на точность и эффективность генерации ответа, что играет большую роль, когда мы обрабатываем миллионы вопросов от множества клиентов.

Какова задача “настройки” на бэкенде?

У нас есть наша собственная закрытая модель данных, которую мы используем для контроля LLM. Это позволяет нам строить свои собственные заборы, чтобы ограничить LLM, в отличие от необходимости искать такие ограничения. Во-вторых, мы можем использовать инструменты и функции, которые используют другие платформы, что позволяет поддерживать их на наших платформах.

Настройка тренировочных данных и использование обучения с подкреплением (RL) на нашей платформе могут помочь снизить риск распространения недостоверной информации. Настройка, в отличие от поиска базы знаний для добавления конкретных фактов, создает новую версию LLM, обученную на дополнительных знаниях. С другой стороны, RL обучает агента с помощью обратной связи от людей и изучает политику отвечать на вопросы. Это доказало свою эффективность в создании моделей с меньшим объемом, которые становятся экспертами в конкретных задачах.

Можете ли вы рассказать о процессе интеграции конверсационных AI решений с новым клиентом?

Поскольку мы фокусируемся на развлечениях и туризме, новые клиенты получают выгоду от тех, кто уже находится в нашем сообществе, что делает процесс интеграции очень простым. Новые клиенты определяют, где находятся их наиболее актуальные источники данных, такие как веб-сайт, справочники сотрудников, блоги и т. д. Мы загружаем эти данные и обучаем систему в режиме реального времени. Поскольку мы работаем с сотнями клиентов в одной и той же отрасли, наша команда может быстро предоставлять рекомендации о том, какие ответы лучше всего подходят для предварительно заготовленных и сгенерированных ответов. Кроме того, мы настраиваем направленные потоки, такие как наш динамический Поиск еды и напитков, чтобы клиенты никогда не сталкивались с разработкой бота.

В настоящее время Satisfi Labs активно сотрудничает с командами и компаниями в области спорта, какова ваша видение будущего компании?

Мы предвидим будущее, в котором все больше брендов захотят контролировать всю аспекты своего чат-опыта. Это приведет к увеличению потребности в том, чтобы наша система предоставляла больше доступа на уровне разработчика. Не имеет смысла для брендов нанимать разработчиков для создания своих собственных систем искусственного интеллекта в чате, так как нужно будет обладать экспертизой, которая будет редка и дорога. Однако, используя нашу систему в качестве технической базы, их разработчики смогут сконцентрироваться больше на клиентском опыте и путешествии, имея больший контроль над подсказками, подключением собственных данных, позволяющих более персонализированный подход, и управлением конфигурации чата под конкретные потребности пользователей. Satisfi Labs станет технической основой конверсационных опытов брендов.

Спасибо за отличное интервью. Читатели, желающие узнать больше, могут посетить Satisfi Labs.