Практическая сторона управления рисками искусственного интеллекта

Practical aspects of managing risks in artificial intelligence

На обратной стороне множества захватывающих инноваций в области искусственного интеллекта за последние несколько лет мы обнаруживаем широкий спектр известных и новых рисков: алгоритмический смещение, проблемы конфиденциальности и нарушение авторских прав – все это приходит на ум. Это до того, как мы начинаем рассматривать макроуровневые социальные проблемы, такие как возможность того, что миллионы рабочих мест могут стать устаревшими в недалеком будущем.

Специалисты по данным и машинному обучению усердно работают над повышением осведомленности об этих проблемах и находят рабочие решения, которые стремятся сбалансировать технический прогресс с честными и ответственными практиками. Вероятно, еще рано сказать, насколько успешными они будут в этом, но все же важно быть информированным о контурах этих разговоров, если мы хотим добиться положительных изменений в наших профессиональных сообществах (и не только).

Наши основные статьи на этой неделе затрагивают сложные вопросы в области искусственного интеллекта – от регулирования до технических ограничений – с ясностью и прагматизмом. Независимо от того, являетесь ли вы новичком в этой теме или уже давно занимаетесь ею, мы считаем, что эти статьи стоят вашего времени.

• Юридический и этический аспекты генеративного искусственного интеллекта. Для доступного введения в связанные проблемы, которые привносят инструменты генеративного искусственного интеллекта, недавний обзор Оливии Танувиджаджи – отличный выбор: он предлагает достаточно подробностей, чтобы ориентироваться в этой сложной теме, и предоставляет полезные ресурсы, чтобы расширить свои знания в интересующих вас областях.
• Аргументы против регулирования искусственного интеллекта не имеют смысла. Закон о искусственном интеллекте Европейского союза часто называют самой серьезной попыткой (пока что) регулировать разработку и внедрение продуктов искусственного интеллекта; Адриен Бук анализирует его наиболее важные особенности, размышляет о том, что ему может еще не хватать, и выступает за то, чтобы другие юрисдикции серьезно, инициативно подумали о подобных законодательных инициативах.

• Следующий шаг – ответственный искусственный интеллект. Как мы можем туда попасть?. Для практического подхода к ответственному и этическому искусственному интеллекту Эрдоган Таскесен предлагает 6-шаговую дорожную карту, которую команды и организации могут адаптировать под свои нужды. Это служит важным напоминанием о том, что у индивидуальных практиков есть возможность влиять на практики и выборы в процессе создания продуктов на основе машинного обучения.
• Веб-сканер OpenAI и просчеты ФТК. Дебаты о авторском праве, произведениях художников и способе обучения языковых моделей и моделей генерации изображений никогда не были столь острыми. Вигги Балагопалакришнан предоставляет полезный обзор текущей тупиковой ситуации, сосредоточившись на последних новостях от OpenAI и проблемах, с которыми сталкивается ФТК (Федеральная торговая комиссия) в своих попытках регулировать хорошо финансируемые технологические компании.
• Обеспечение безопасности языковых моделей с помощью ограничений. Контроль за пределами, областью и эффектами инструментов искусственного интеллекта также важен на микро-локальном уровне: если вы работаете над интеграцией большой языковой модели, например, вам определенно не хочется, чтобы она выдавала оскорбительную речь или настаивала на том, что галлюцинация является фактом. Апарна Динакаран и Хакан Текгюль представляют практическое руководство по открытым инструментам, которые позволяют разработчикам установить строгие параметры для выходных данных модели.

Ищете отличные материалы по другим темам? Вы не ошибетесь, прочитав любую из этих первоклассных статей:

• Исследователи Google AI представили набор данных MADLAD-400 2,8T токенов, охватывающих 419 языков веб-доменов.
• Тестирование гипотез и A/B-тестирование
• Запросите ваши документы с помощью Langchain и Deep Lake!

• Если вы только начинаете свои шаги в области экологической науки о данных, доступное введение Кэролайн Арнольда – отличное место для начала.
• Как машинное обучение эволюционировало от кодирования до вложений? Объяснение Мины Гашами является как всесторонним, так и подходящим для начинающих.
• Для забавного и познавательного обучения способностям стратегии трансформаторов обязательно прочтите обзор Чарли О’Нила о создании симулятора крестиков-ноликов.
• Чтобы помочь вам расшифровать описания должностей и то, что они фактически означают в реальной жизни, Стефани Кирмер рассказывает о нескольких ключевых архетипах ролей в области науки о данных.
• Если вы интересуетесь глубоким погружением в математику, вам обязательно стоит добавить в закладки детальное исследование двухконвертной парадоксии Габриэля де Лонжо.
• Заканчиваем практическим замечанием – мы настоятельно рекомендуем вашему вниманию недавнее пошаговое руководство Марии Мансуровой по использованию BERTopic для продвинутого тематического моделирования.

Благодарим вас за поддержку работы наших авторов! Если вам нравятся статьи, которые вы читаете на TDS, рассмотрите возможность стать членом VoAGI – это позволит вам получить доступ ко всему нашему архиву (а также ко всему остальному на VoAGI).