Расшифровка закона об искусственном интеллекте

Разобрались в законе об искусственном интеллекте

Ваш план действий по AI Act

О политике, переговорах и уступках

AI Act [1] был создан в длительном и болезненном процессе, идеально демонстрирующем влияние и важность политики в европейском законодательном процессе. Но также проблемы, которые могут вызвать недостаток компетентности и перспективы. Так, например, самые известные и широко обсуждаемые модели генеративного ИИ даже не были упомянуты в первом варианте Закона, который очевидно был опубликован до появления ChatGPT в публичном доступе и смены реальности, в которой мы думали, что живём. Текст относящийся к моделям впоследствии был радикально изменен и пересмотрен множество раз, часто под влиянием недавно опубликованных научных статей или сообщенного прогресса европейских стартапов генеративного ИИ. Заключительные переговоры представляли собой одну из ключевых точек, имеющих значение на рынке между спасением или провалом.

В результате всего этого, мы столкнулись с путаницей относительно взаимосвязанных, то и дело логически связанных, и, надеюсь, до сих пор реализуемых положений. Тем не менее, Закон был политически согласован и (надеюсь) вскоре мы увидим окончательную версию этого монстра. (Хотя, вероятно, не в ближайший месяц или два.) И пока мы ждем, как Франкенштейн, чтобы напугать нас обязательством выплаты астрономических штрафов, есть определенные шаги, которые мы можем предпринять, чтобы подготовиться к защите.

План действий

Необходимо начать с начала. Поэтому давайте сначала установим, что если вы разрабатываете или внедряете что-то автоматизированное, вы, скорее всего, попадаете под действие Закона. Теперь, когда этот момент ясен, мы также можем установить, что это не угроза и не конец света. Однако это реальность, с которой каждый человек или компания, разрабатывающие или внедряющие ИИ систему (или желающие это сделать), должны столкнуться. Возможно, следующий план действий поможет вам справиться с этим.

1. Начните планирование сегодня, выполнение обязательств по AI Act займет время.

Ознакомьтесь с текстом Закона. Окончательный политический компромиссный текст пока не доступен и не будет доступен в ближайшие несколько месяцев. Однако, учитывая то, что некоторые обязательства вступают в силу уже через 6 или 12 месяцев после публикации Закона. Также, учитывая, что Закон состоит из целых 150 страниц, нет смысла откладывать и надеяться, что все это станет реальностью.

• Индийская стартап выпускает OpenHathi первую когда-либо Хинди LLM
• Данная статья о ИИ представляет передовые техники для подробных текстовых и визуальных объяснений в моделях выравнивания изображений и текста.
• Эта статья об искусственном интеллекте раскрывает Vary новый подход к расширению словаря зрительного восприятия в больших моделях зрительного и языкового обработчиков для выполнения сложных задач многоязыкового восприятия

Обязательства, включенные в систему управления рисками (статья 9) или систему управления качеством (статья 17), например, включают не только разработку концепции борьбы с рисками системы, но и реализацию указанных систем управления, а также разработку процессов борьбы с новыми возникающими рисками. Это не тривиальные вопросы.

С другой стороны, другие обязательства, такие как контроль человека (статья 14), могут быть реализованы только путем внедрения в продукты функций безопасности и преград. С другой стороны, попытка ретроспективно реализовать возможности для вмешательства человека в любую часть автоматизированного процесса, в большинстве случаев будет, если не невозможной, то связана с серьезными трудностями, задержками в разработке и/или внедрении и дополнительными финансовыми затратами.

Наконец, задайте себе вопрос о наличии ресурсов и возможностей для решения проблем Закона. Если их нет, обязательно найдите их.

2. Знайте свою роль

В Законе AI Act предусмотрено 5 ролей. Поставщики, внедрители, импортеры, дистрибьюторы и производители. Однако, в большинстве случаев, только две из них будут иметь значение. Это поставщики и внедрители. И попадание в одну или другую категорию имеет огромное значение в отношении количества и серьезности обязательств, с которыми необходимо соблюдать.

Многие обязательства Закона (многие из которых перечислены в статье 16) в первую очередь будут касаться поставщиков систем искусственного интеллекта. Это означает, что компании, разрабатывающие системы искусственного интеллекта и выпускающие их на рынок, будут подпадать под действие Закона, независимо от того, разрабатываются ли системы или только развертываются на территории Европейского союза. Однако любое лицо, вмешивающееся в намеченное использование системы искусственного интеллекта, которое было указано поставщиком, или вносящее значительные изменения в систему, также будет относиться к этой категории и получит привилегию исполнения всех обязательств, предусмотренных Законом (статья 28). И их несколько, поэтому избегание вступления в роль поставщика, вероятно, является наиболее важным хаком для достижения соответствия Закону.

Вторая существенная роль, связанная с развёртыванием системы искусственного интеллекта в рамках деловой деятельности, связана с гораздо меньшим юридическим бременем (статья 29). Это бремя в основном состоит из обязательств осуществлять контроль должной осмотрительности. В этом случае хорошим началом будет знакомство с системой, которую вы разворачиваете, и её поставщиком. Затем следует использование системы в соответствии с документацией поставщика и для целей, указанных поставщиком. Наконец, в зависимости от системы и ситуации, разворачивающий может также должным образом содействовать обязательствам поставщиков, включая реализацию эффективного контроля человека, активацию автоматической фиксации операций или просто помощь поставщикам в выполнении их обязанностей. Все эти моменты важны, но в значительно меньшей степени сложны, чем проектирование системы, обеспечивающей их возможность.

3. Знайте свою систему

Как уже было упомянуто, почти все автоматизированные системы также будут считаться системами искусственного интеллекта и подпадать под действие Закона. Это нечто, с чем нужно относиться серьезно и что должно влиять на все этапы процесса разработки и развертывания. Следовательно, вы уже сейчас можете начать рассматривать систему с учетом закона об искусственном интеллекте. В первую очередь это означает знание, относится ли ваша система к категории с высоким риском или нет. Чтобы сделать эту оценку, вы можете следовать трем основным шагам.

a. Является ли используемая мной система продуктом, регулируемым специальными правилами безопасности, или она может быть интегрирована как существенная часть такого продукта?

b. Включена ли моя система в (вечно длинный) список в Приложении III?

c. Если да, то насколько высоки риски, связанные с моим конкретным продуктом?

Последний шаг в этой базовой оценке является наиболее сложным и включает проведение оценки рисков. Однако эта оценка является одним из вариантов избежания обширных обязательств, и даже если попытка избежать их оказывается неудачной, она все равно может помочь в следующем шаге данного плана действий.

4. Знайте свои риски и реагируйте на них по мере возникновения

Один из самых сложных и обширных обязательств по Закону – это внедрение системы управления рисками. Чтобы иметь возможность начать разрабатывать эту систему, вам сначала необходимо быть очень хорошо осведомленным о рисках, вызванных вашей системой. Некоторое представление об этом можно получить через оценку рисков, проведенную на предыдущем этапе, но для того чтобы разработать и развить систему управления рисками, необходимо значительно улучшить ранее проведенную оценку.

Для успешного и эффективного проведения оценки следует ответить на следующие вопросы:

a. Какая задумана цель системы и сопряжена ли ее использование с какими-либо серьезными и очевидными рисками?

b. Какие цели я намерен достичь, внедряя эту систему? Повышение эффективности? Автоматизация определенных частей процесса? Введение дополнительных проверок или предварительных проверок в мои процессы? Это позже поможет вам оценить и оправдать внедрение системы.

c. Какие категории риска связаны с намеченным использованием системы? Системные риски? Экологические риски? Риски конфиденциальности?

d. Кого затрагивают риски? Весь общественный порядок? Моих сотрудников? Пользователей моего продукта/услуги?

e. Что я могу сделать, чтобы минимизировать каждый из этих рисков, и с какой частотой мне нужно проверять действительность реализованных мер для обеспечения этой адекватности по отношению к рискам?

Очень важно в этом контексте учесть все потенциальные риски и проанализировать их как по отдельности, так и в связи друг с другом. Всегда имейте в виду ваш конкретный цель использования искусственного интеллекта.

5. Задокументируйте все

Штрафы по Закону будут значительными (да, даже больше, чем в соответствии с GDPR), а соблюдение и ответственность являются единственными профилактическими мерами против них (статья 71). Поэтому все, что вы делаете, должно быть задокументировано, даже если это (еще) не является юридическим обязательством. Это позволит вам доказать, что вы с самого начала учли риски и возможные проблемы и размышляли о том, как с ними справиться. Анализ рисков, проектирование и документирование контрольных процессов, а также создание и опубликование руководящих принципов для сотрудников или пользователей могут только помочь вашему делу. Это лишь некоторые из лучших практических шагов, которые помогут вашему случаю, если что-то случится или если кто-то постучит в дверь и проверит вашу систему, когда Закон вступит в силу.

6. Не забудьте о других вещах

Наконец, да, Закон о искусственном интеллекте (AI Act) большой и страшный и скоро вступит в силу. Однако существует множество других регуляций, применимых к системам искусственного интеллекта. Большинство из них касаются более конкретных вопросов. От данных, используемых в процессе обучения, до результатов работы систем и создаваемых данных на обратной стороне. Некоторые из них включают Общий регламент по защите данных (GDPR), Закон о цифровых услугах (Digital Services Act), Закон о цифровых рынках (Digital Markets Act) и Закон о данных (Data Act). Количество таких правовых инструментов постоянно растет. Однако обязательства, содержащиеся в любом из упомянутых (или неупомянутых) актов, также являются постоянными и требуют внимания. Однако поскольку Европейский союз до сих пор не предоставил руководства относительно того, как они взаимодействуют с Законом о искусственном интеллекте, это, к сожалению, означает, что вам самим придется разобраться в этом.

Окончательные мысли

После тщательного отслеживания последних событий в последние несколько месяцев, я сошел к личному выводу относительно Закона о искусственном интеллекте: он очень похож на французскую грамматику. Для каждого правила есть как минимум 7 исключений. Такие исключения заставляют задаваться вопросом, почему было установлено правило в первую очередь. Однако это не может быть оправданием для сдачи позиций, а должно быть мотивацией для сопряжения с Законом и его множеством сложностей как можно скорее. Потому что так же, как поздно начинать изучать французский язык, когда вы прибываете в Париж, так же будет поздно знакомиться с Законом о искусственном интеллекте и его многочисленными тонкостями, когда он уже начнет действовать.

[1] Последние изменения в оригинальном тексте от 14 июня 2023 года доступны по ссылке: https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_EN.pdf.