12 основных принципов управления искусственным интеллектом

12 основных принципов в управлении искусственным интеллектом

Сбалансированность этики и инноваций: Введение в основные принципы ответственного искусственного интеллекта

Sarah, опытный разработчик искусственного интеллекта, оказалась перед моральным перекрестком. Один алгоритм мог бы максимизировать эффективность, но за счет конфиденциальности. Другой сохраняет личные данные, но теряет в скорости.

Какой алгоритм вы бы выбрали, будь вы Сара?

Такие решения принимаются ежедневно. Однако мы редко задумываемся о том, какие концептуальные рамки мыслительного процесса следует использовать, чтобы принять наиболее обоснованное решение.

• Как можно оптимизировать распознавание движений на видео? Раскрываем силу модулей пространственного и временного внимания в методах глубокого обучения.
• Reka AI представляет Yasa-1 Многофункциональный языковой помощник с визуальными и акустическими датчиками, который может выполнять действия с помощью выполнения кода.
• Создание модели обнаружения осенних падений с использованием неконтролируемого обучения

Необходимость рамок управления искусственным интеллектом

Правда в том, что принятие таких решений требует больше, чем только технической экспертизы; это требует рамки, которая уравновешивает эффективность с этическими соображениями. Именно здесь вступает в действие Управление ИИ, предлагая рекомендации по согласованию конкурирующих приоритетов производительности и этики.

Основные принципы управления ИИ – это не только теоретические конструкты; они являются практическими руководствами, которые помогают профессионалам, таким как Сара, принимать обоснованные решения.

В следующих разделах мы рассмотрим 12 основных принципов управления ИИ, показывая, как они могут быть ключевыми в решении сложных дилемм, подчеркивающих область искусственного интеллекта.

1. Ответственность

Акторы ИИ должны нести ответственность за правильное функционирование ИИ систем и за соблюдение этики и принципов ИИ, основываясь на своих ролях, контексте и соответствии с современным состоянием искусства

Ответственность означает, что должны быть разработаны механизмы для выявления и устранения предвзятости, ошибок и непреднамеренных последствий, а также обеспечения ясного определения и соблюдения юридических и этических обязанностей.

Ответственность стремится ответить на вопрос: Кто должен нести ответственность за хорошие (или плохие) решения, принимаемые системами искусственного интеллекта?

2. Аудитория

ИИ системы должны позволять заинтересованным третьим сторонам исследовать, понять и рассмотреть поведение алгоритма путем раскрытия информации, которая позволяет мониторить, проверять или критиковать

Аудитория означает, что ИИ системы должны быть разработаны и функционировать таким образом, чтобы позволять их решениям, данным и операциям быть проверяемыми, оцениваемыми и проверенными независимыми третьими сторонами.

Цель аудитории заключается в ответе на вопрос: Как мы можем обеспечить, чтобы ИИ системы работали так, как задумано, и соблюдали юридические и этические нормы?

3. Объяснимость

ИИ системы должны быть разработаны так, чтобы у нас была возможность оценить факторы, которые привели к принятию решения ИИ системой, ее общее поведение, результаты и последствия

Объяснимость означает, что внутренние механизмы ИИ систем и отношения между входными данными и решениями должны быть понятными.

Цель объяснимости – ответить на вопрос(ы): Какие факторы влияют на решение системы искусственного интеллекта и как они используются при принятии решений?

4. Справедливость

Системы ИИ должны быть разработаны таким образом, чтобы справедливо относиться ко всем лицам и группам, не дискриминируя определенные когорты.

Справедливость означает проектирование и эксплуатацию систем ИИ таким образом, чтобы они были беспристрастными, справедливыми и равноправными, обеспечивая, чтобы принимаемые решения не предпочитали одну группу перед другой из-за предубеждений, стереотипов или предрассудков.

Целью справедливости является ответ на вопрос: Каким образом системы ИИ проектируются для соблюдения принципа справедливости и беспристрастности для всех лиц и групп?

5. Устойчивость

Системы ИИ должны быть устойчивы к вмешательству и манипуляции, а также работать надежно и эффективно в случае непредвиденных обстоятельств.

Устойчивость означает, что системы ИИ должны быть построены таким образом, чтобы сопротивляться вмешательству и манипуляции, обеспечивая их надежную и эффективную работу даже в неожиданных и сложных условиях.

Целью устойчивости является ответ на вопрос: Насколько устойчива система ИИ к различным видам операционных и окружающих изменений и вызовам?

6. Безопасность

Системы ИИ и связанная с ними инфраструктура должны быть защищены от атак и способны обеспечивать конфиденциальность, целостность и доступность.

Безопасность означает, что системы ИИ и их поддерживающая инфраструктура защищены от различных видов атак, обеспечивая конфиденциальность, целостность и доступность данных и систем.

Целью безопасности является ответ на вопрос: Насколько хорошо мы способны защитить системы и инфраструктуру от атак и обеспечить конфиденциальность, целостность и доступность?

7. Безопасность

Системы ИИ должны быть разработаны таким образом, чтобы быть безопасными и не причинять (физический) вред людям.

Термин “безопасность” означает, что системы ИИ должны быть разработаны с особой важностью, уделяемой благополучию человека, обеспечивая, чтобы они не представляли риски и не наносили физический вред индивидуумам.

Целью безопасности является ответ на вопрос: Насколько безопасны и рискованы системы ИИ?

8. Прозрачность

Системы ИИ и их операторы должны обеспечивать ясность, понятность и доступность процессов, принятия решений и влияния их применения для всех заинтересованных сторон.

Прозрачность означает, что в отношении дизайна, работы и процессов принятия решений системы ИИ существует открытость и ясность в плане предоставления информации.

Целью прозрачности является ответ на вопрос: Доступна ли четкая и доступная информация о системе ИИ для всех заинтересованных сторон?

9. Воспроизводимость

Результаты ИИ должны быть воспроизводимы; другие должны иметь возможность воспроизвести результаты при одинаковых входных данных и условиях.

Воспроизводимостью понимается возможность повторного создания решений и выводов ИИ с использованием одних и тех же данных и условий.

Целью воспроизводимости является ответ на вопрос: Можно ли повторить решения системы ИИ в тех же условиях?

10. Человеческое агентство и контроль

AI системы должны поддерживать автономию и принятие решений человека; люди должны иметь возможность вмешательства, контроля и управления AI системами.

Человеческое агентство и контроль означает, чтоAI не должна подрывать человеческую самостоятельность и способности к принятию решений, и люди должны оставаться в контроле.

Целью человеческого агентства и контроля является ответ на вопрос: На сколько люди имеют контроль и возможность вмешательства в решения AI системы?

11. Конфиденциальность и управление данными

AI системы должны уважать конфиденциальность, защиту данных и нормы безопасности, обеспечивая соблюдение личных данных их обработкой с максимальной целостностью.

Конфиденциальность и управление данными означает, что личные данныезащищены, и системы разработаны и работают таким образом, чтобы соблюдать конфиденциальность отдельного лица.

Целью конфиденциальности и управления данными является ответ на вопрос: Как AI система обеспечивает защиту личной конфиденциальности и данных?

12. Инклюзивный рост, устойчивое развитие и благополучие

AI системы должны быть разработаны для способствования всеобщему процветанию, справедливости и экологическому благополучию, обеспечивая пользу для всех отдельных лиц, обществ и поколений при защите экологического баланса.

Инклюзивный рост, устойчивое развитие и благополучие означает, что AI системы должны быть разработаны и внедрены для пользы всех отдельных лиц и сообществ, для содействия справедливости, устойчивости и общего благополучия.

Целью инклюзивного роста, устойчивого развития и благополучия является ответ на вопрос: Как AI система способствует справедливому экономическому росту, экологической устойчивости и благополучию отдельных лиц и сообществ?

Использование принципов управления AI

Помните Сару? Опытного разработчика AI, который должен выбрать между двумя алгоритмами, приоритет которых – либо эффективность, либо конфиденциальность.

Если бы Сара была знакома с основными принципами управления AI, она выбрала бы алгоритм, защищающий конфиденциальность пользователей, в соответствии с принципом Конфиденциальность и управление данными.

Конечно, этот сценарий является простым случаем, когда основные принципы управления AI не противоречат друг другу. В реальности принципы часто пересекаются и конфликтуют.

Конфликты между принципами управления AI не являются недостатком, а скорее особенностью, заставляющей нас тщательно изучать, обсуждать и уточнять роль AI в нашем обществе. Именно в этом динамичном пространстве, где принципы встречаются с практикой, раскрывается истинная ценность управления AI.

Заключение: Важность принципов

В продолжении развития AI эти 12 основных принципов управления AI служат основными элементами, предоставляя направление и ясность. Они помогают обеспечить развитие и использование AI во благо всех, способствуя инновациям и улучшению благополучия людей в сочетании с этическими требованиями.

В предстоящих статьях мы погрузимся в каждый основной принцип, оживим настоящие деловые кейсы и оценим, как различные организации следуют (или нарушают) основные принципы управления искусственным интеллектом.

Надеюсь, вы найдете эту основу вдохновляющей.

Ура!

Благодарственные письма и ссылки

• Модель Руководства по Управлению ИИ в Сингапуре 2.0; Фонд проверки ИИ
• Принципы ИИ ОЭСР
• Европейская комиссия, “Руководство по этике доверительного искусственного интеллекта”, Цифровая стратегия
• Глобальная инициатива ИИЕТИ Ассоциации Инженеров-Электриков и Электротехников
• Рекомендации ЮНЕСКО по этике искусственного интеллекта

*Другие принципы, такие как инклюзивность, точность, прогрессивность и ориентация на человека и благополучие, не включены, поскольку они не были общепризнанными среди различных источников.

Спасибо, что вы продолжаете путешествовать со мной во введение «Журналу по управлению ИИ». Погружаясь еще глубже в область управления ИИ, я приглашаю вас присоединиться к обсуждению, оспаривать сложившуюся практику и поддерживать ответственный ИИ. Чтобы получить всестороннее представление, следуйте за мной для более проницательных материалов по управлению ИИ. Будьте любопытными и информированными.