Почему гип о важен Практическое мышление о искусственном интеллекте

Почему гип о важен Практическое мышление об искусственном интеллекте

Когда вы изобретаете корабль, вы изобретаете кораблекрушение.

Это ELIZA, чат-бот с 60-х годов. Люди были очень взволнованы им. Из Википедии. https://en.wikipedia.org/wiki/ELIZA

В 60-х годах Джозеф Вайзенбаум интересовался тем, как люди могут общаться с компьютерами. В результате этого появилась ELIZA – очень ранний пример чат-бота. ELIZA работала совсем по-другому, чем современные чат-боты, такие как ChatGPT, которым подается огромное количество текста, и они “учатся” его понимать. ELIZA была запрограммирована с помощью правил; она пыталась сопоставить то, что вы говорите, с рядом шаблонов, которые ей были запрограммированы, и отдавала ответ на основе этого. Вероятно, её создание было огромной задачей – писать весь этот код, чтобы она могла учесть огромное количество вещей, которые человек может сказать ей, все на архаичном языке, который уже более полувека.

Эта трудолюбивая работа, похоже, сработала, и люди, взаимодействуя с ELIZA, начали думать, что она их понимает. Буквально понимает их. Даже когда Вайзенбаум с этим не соглашался, люди думали, что это не просто некий код. ELIZA могла принять образ терапевта и давать вам бессмысленные клише, как на картинке выше. Однако это не помешало ученым думать, что она заменит врачей и психиатров.

Звучит знакомо, верно? Несмотря на то, что ELIZA была очень ограничена (в каком-то смысле) по сравнению с GPT4, люди все же торопились верить, что она их понимает и, оттуда, быстро решили, что она также заменит их.

Что такое хайп?

Есть знакомая закономерность в том, как новый продукт приобретает хайп – все это происходит по кривой. Вначале люди все более возбуждаются (и неразумно восторгаются) из-за этой вещи. В конечном итоге достигается пик кривой. Потом наступает реальность, и восторг людей угасает, когда они сталкиваются с фактами. В конце концов, общественное мнение обанкротится на Низмине Разочарования. Когда все успокоится, и мы узнаем, для чего на самом деле полезна технология, мы достигнем радостной середины на Плоскости Продуктивности.

Кривая хайпа по Гартнеру. Из Википедии. https://en.wikipedia.org/wiki/Gartner_hype_cycle

Моя работа связана с работой с новыми технологиями, такими как роботы-собаки и VR-очки. Мне постоянно предлагают вещи, которые могут быть чрезмерно разрекламированы. Роботы-собаки Boston Dynamics настолько крутые – трудно не заявлять, что они будущее (но это не так). Давайте взглянем на несколько технологий, которые определенно не были чрезмерно разрекламированы:

долбились вокруг...

Ну, может быть, они были немного разрекламированы. Надеюсь, они достигли продуктивной плоскости, по крайней мере! Давайте проверим, как они справляются в 2023 году:

 ... и узнать.

Возможно (если вы знакомы с этими примерами), неудивительно, как все сложилось. Очевидно, что все они стали катастрофой. Google Glass умер дважды. Tesla подвергается судебным искам. Основатель FTX в настоящее время находится в федеральной тюрьме. Дело в том, что кривая не всегда верна. Иногда вы не можете пройти через кривую, иногда вы опускаетесь в ров разочарования и продолжаете идти вниз вечно.

Но почему нам это важно? Важно ли, что Google Glass получил большую рекламу и оказался ужасным? Ну, немного. Если вы всегда раздуваете все и говорите, что каждая новая технология — это будущее, кто вас поверит? Можно ли серьезно относиться к вашим советам? Конечно, заявить, что Tesla на 100% самоуправляема, звучит захватывающе, но сказать это, когда это не так, приводит к серьезным авариям.

Ставя (и способствуя) нереалистичным ожиданиям от технологии, мы готовим себя к разочарованию. Потенциально не только себя, но и своих коллег и клиентов. Где-то прямо сейчас, где это очевидно, находится искусственный интеллект.

Чему поможет отказ от интрыгования ИИ?

Искусственный интеллект рано или поздно упадёт в ярмо разочарования. Мне кажется, трещины уже начинают проявляться, когда люди сталкиваются с простым вопросом “как я на самом деле могу использовать это?”. Когда вы играете с ChatGPT, это почти волшебно, но когда вы пытаетесь представить, как это можно применить в бизнесе, волшебство может исчезнуть. Конечно, все это может измениться, но трудно увидеть, как все эти проблемы могут быть решены:

  1. Безопасность: Как мы можем взаимодействовать с ИИ безопасно и убедиться, что наши личные данные не распространяются по всему миру
  2. Доверие: Можем ли мы ему действительно доверять? И если нет, может ли мы вообще использовать его для автоматизации процессов?
  3. Стоимость: Может быть, мы можем получить безопасный и надежный ИИ, но стоимость такой услуги может быть очень высокой.
  4. Предвзятость: Преодоление предвзятости в системе будет сложным. Если у вас есть модель ИИ, которая будет взаимодействовать с вашими клиентами, вы довольны тем, что она видела все в Reddit и 4Chan и в любой момент может повторить что-то оттуда?

Финальная мысль здесь заключается в том, что нас научили верить, что больше – лучше. Существует идея “законов масштабирования”, управляющих этими моделями – в основном, чем больше данных вы подаете, и чем больше модель, тем лучше будет результат. Однако эти ресурсы не бесконечны: в мире находится только лишь ограниченное количество графических процессоров. Более того, есть только ограниченное количество данных. К 2027 году ожидается, что весь качественный текстовый материал в мире уже будет использован для обучения большой языковой модели. Что дальше?

Итак, если это приведет нас к яме разочарования, что вытащит нас оттуда? Что же это такое хорошее, что позволит использовать ИИ по-настоящему?

  1. Сделать его о ВАС: Обычный чат-бот не особенно полезен, на самом деле. Здорово, что ИИ может написать песню о мне, но это не поможет вашему бизнесу. Сузив его область, но сосредоточившись на вас (путем настройки данных), эти модели чатов станут намного полезнее. Это забавная идея, что он может написать документ, но это полезно, когда он может написать документ так же, как вы.
  2. Большие данные уже не актуальны: Недавно для работы с крупномасштабными научными данными требовалось много данных. С помощью LLM это уже не так – любой может получить доступ к GPT4
  3. Автоматизация ВСЕГО: Автоматизация (это огромное упрощение) обычно связана с преобразованием чисел. Искусственный интеллект действительно может обеспечить автоматизацию процессов, включающих естественный язык. При условии, что в нем присутствует человек.

Почему мне это важно?

Если вы это читаете, вероятнее всего, вы когда-то использовали ChatGPT – вам, вероятно, нужна ясность и реалистичные ожидания. Бросание пыли в глаза создаёт путаницу. С другой стороны, многие из нас являются разработчиками, основателями стартапов, технологами, людьми, которые будут использовать заранее созданный инструмент ИИ в своей работе или просто сторонниками ИИ. Завлекать людей использовать что-то (особенно то, что вы сами создали вручную), не независимо от того, что происходит после передачи инструмента. Или, говоря гораздо более красноречиво:

Когда ты изобретаешь корабль, ты также изобретаешь кораблекрушение; когда ты изобретаешь самолёт, ты также изобретаешь авиакатастрофу; и когда ты изобретаешь электричество, ты также изобретаешь поражение электрическим током.

– Поль Вирилио

Когда ты создаешь что-то, ты частично ответственен за то, что люди делают с этим. В качестве разработчиков у нас есть ответственность за все эти негативные вещи, которые я упомянул выше – предрассудки, затраты, надежность.

Легко (и неправильно) думать, что разработка искусственного интеллекта – это далекая вещь, которую делают разработчики в Силиконовой долине, от которой мы мало что можем изменить. В любом случае, цитата Вирилио охватывает вещи за пределами этого, все технологии, которые мы разрабатываем и рекомендуем. Мы каждый день сталкиваемся с новыми и неиспытанными идеями. От мелочей, таких как новая функция в обновлении программного обеспечения, до крупного нового продукта SAAS от огромной технологической компании с красивой рекламной кампанией, которая обещает изменить все.

Быть реалистичным в отношении искусственного интеллекта не должно отвлекать от того, чтобы быть реалистичным и прагматичным к всему. Действительно ли этот новый блестящий продукт SAAS готов для широкого использования? Должен ли я определенно использовать эту новую архитектуру? Технология никогда не является полным решением. Моя работа связана с работой с роботами-собаками, и мне так больно признавать, что, возможно (только возможно), они не так полезны.

Спасибо за чтение! Связаться со мной вы также можете здесь: LinkedIn, или ознакомиться с моим вкладом в рассылку здесь

\