Темная сторона искусственного интеллекта

Темная сторона искусственного интеллекта опасности и вызовы

Как техник, меня довольно быстро восхищают разные вещи, которые как-то мигают и издают звуки, несмотря на то, насколько они бесполезны. Электронные гаджеты привлекают меня, как мотылек к свету. Уже некоторое время народная масса имеет доступ к новому поколению игрушек – искусственным интеллектом, точнее, искусственным нейронным сетям. Бесплатные приложения уже делают замечательные вещи, и это только начало того, что может быть возможным в будущем. Многие люди еще не осознали масштабы приложений, основанных на искусственном интеллекте. Это не удивительно, потому что то, что происходит в секторе ИИ, навсегда изменит нашу жизнь. Можно справедливо сказать, что мы живем в эпоху, которая пишет историю. Будет зависеть от нас, будут ли грядущие изменения хорошими или они превратятся в дистопию.

Когда я много лет назад выбрал искусственный интеллект в качестве специализации в своих исследованиях, время еще охарактеризовывалось так называемыми экспертными системами. Эти системы, основанные на правилах, были высоко специализированы для своей области и предназначены для соответствующих экспертов. Система должна была поддерживать эксперта в принятии решений. Тем временем, у нас также есть необходимое оборудование для создания гораздо более общих систем. Рассмотрим, например, такие приложения, как ChatGPT – они основаны на нейронных сетях, что позволяет с высокой гибкостью использовать их. Недостатком, однако, является то, что мы, как разработчики, практически не можем понять, какой вывод производит нейронная сеть для заданного ввода. Это обстоятельство заставляет большинство программистов, которых я знаю, относиться к этому негативно, потому что они больше не мастера алгоритма и могут действовать только по принципу проб и ошибок.

Тем не менее, мощь нейронных сетей поразительна. Времена, когда можно было подшучивать над неуклюжими автоматическими программными переводами, кажется, прошли. Из моего личного опыта я помню, как утомительно было использовать переводчик Google, чтобы получить осмысленное предложение на испанском языке из немецкого. Чтобы получить приемлемый результат, можно было воспользоваться опцией английский-испанский. В качестве альтернативы, если вы говорите находящийся только на начальном уровне английский язык для использования во время отпуска, можно было составить очень простые немецкие предложения, которые по крайней мере были правильными с точки зрения содержания. Это значительно сэкономило время для автоматически переведенных текстов, хотя их все равно нужно проверять и при необходимости корректировать формулировку.

На сколько я ценю возможность работать с такими мощными инструментами, мы должны понимать, что у этого есть и негативные стороны. Чем больше мы выполняем наши повседневные задачи с помощью инструментов на базе искусственного интеллекта, тем больше мы теряем возможность выполнять эти задачи вручную в будущем. Для программистов это означает, что со временем они потеряют способность выражаться в исходном коде с помощью сред разработки на базе ИИ. Конечно, это не процесс, который происходит сразу же, а идет постепенно. Как только создается такая зависимость, возникает вопрос, останутся ли доступные дорогие инструменты бесплатными или же существующие подписки возможно подвергнутся резкому увеличению цены. В конце концов, нам должно быть ясно, что коммерческие инструменты, значительно улучшающие нашу производительность, обычно предлагаются не по низким ценам.

Я также думаю, что Интернет, какой мы знаем его до сих пор, изменится в будущем. Многие бесплатные услуги, которые финансировались рекламой, исчезнут в сроки действия ВОАГИ. Давайте рассмотрим сервис StackOverflow как пример. Очень популярная платформа знаний среди разработчиков. Если мы предположим, что в будущем искусственный интеллект ChatGPT или другие нейронные сети будут использоваться для вопросов StackOverflow, то число посетителей будет продолжительно снижаться. Саму базу знаний ChatGPT, в свою очередь, создает по данным публичных форумов, таких как StackOverflow. Таким образом, StackOverflow будет стремиться сделать свою услугу недоступной для ИИ. Возможно, также будет заключено соглашение о компенсационных платежах, чтобы компенсировать упущенные доходы от рекламы. Как техники, нам не нужно объяснять, что предложение, подобное StackOverflow, связано с значительными затратами на эксплуатацию и разработку. Тогда остается вопрос, как будут принимать предложение пользователи в будущем. Если к StackOverflow не будет добавляться новая информация, база знаний для ИИ-системы также станет неинтересной. Поэтому я предполагаю, что к 2030 году в первую очередь будет платным качественным контентом на Интернете.

Если мы посмотрим на прогноз тренда спроса на программистов во ВОАГИ, возникает вопрос, будет ли в будущем хорошей рекомендацией учиться по направлению компьютерных наук или начинать учиться на программиста. Я действительно вижу здесь положительное будущее и призываю всех, кто видит в образовании необходимость, а не просто средство заработка, продолжать учиться. По моему мнению, нам все равно понадобятся многочисленные инновационные умы. Только те, кто вместо изучения основ и концепций предпочитают быстро освоить текущий фреймворк, чтобы не отставать от неудержимого роста рынка, вряд ли добьются большого успеха в будущем. Однако я уже делал эти наблюдения до широкого распространения ИИ систем. Поэтому я твердо уверен, что качество всегда будет преобладать в долгосрочной перспективе.

Я считаю добродетелью подходить к различным темам как можно критичнее и внимательнее. Тем не менее, я должен сказать, что некоторые опасения в обращении с ИИ довольно необоснованы. Вы уже видели некоторые из моих возможных видений будущего в этой статье. Заявления о том, что ИИ однажды захватит наш мир, незаметно влияя на непосвященных пользователей, чтобы мотивировать их к действию, на мой взгляд, являются чистой фантазией на период до 2030 года и, с учетом текущего состояния знаний, необоснованными. Намного более реальной я вижу проблему в том, что если изобретательные маркетологи засоряют интернет низкокачественными неотредактированными ИИ-сгенерированными статьями, чтобы повысить свою позицию в поисковой оптимизации, а это, в свою очередь, становится новым котлом знаний нейронных сетей, качество будущих ИИ-сгенерированных текстов значительно снижается.

У ИИ-систем, которые до сих пор были бесплатно доступны, есть одно решающее отличие по сравнению с людьми. У них отсутствует мотивация делать что-то по собственной инициативе. И только через внешний запрос от пользователя ИИ начинает работать над вопросом. Интересно становится, когда ИИ самостоятельно выбирает вопросы и исследует их независимо. В этом случае вероятность очень высока, что ИИ очень быстро разовьет сознание. Если такой ИИ все еще будет работать на высокопроизводительном квантовом компьютере, у нас не будет достаточного времени для распознавания опасных развитий и вмешательства. Поэтому мы должны определенно держать в нашем сознании спектакль “Физики”, созданный Дюрренматом. Потому что привидения, которых я однажды вызвал, возможно, я не смогу так быстро избавиться.

В основном, я должен признать, что тема ИИ продолжает меня увлекать, и я очень интересуюсь будущими разработками. Тем не менее, я думаю, что важно не закрывать глаза на темную сторону искусственного интеллекта и начать объективный диалог, чтобы использовать существующий потенциал этой технологии как можно безопаснее.