Равноправие в машинном обучении (Часть 1)

Вопросы равноправия в машинном обучении (Часть 1)

Фото от John Schnobrich на Unsplash

Содержание

  1. Честность в машинном обучении
  2. Подтверждение проблемы
  3. Основные концепции: Дискриминация, Предрассудки и Честность

1. Честность в машинном обучении

Алгоритмы машинного обучения существенно влияют на повседневную жизнь в таких областях, как образование, трудоустройство, реклама и полицейская деятельность. В то время как алгоритмы машинного обучения (МО) могут казаться объективными, склонность к предвзятости закладывается в сущность МО. Распространенное использование МО в различных чувствительных сферах способствует идее о том, что на решения, основанные на МО, влияют только факты и их не затрагивают человеческие когнитивные предубеждения, дискриминационные тенденции или эмоции. Фактически, эти системы учатся на данных, которые являются, прямо или косвенно, формированными человеческими предубеждениями. Существуют всеобщие доказательства того, что алгоритмы могут унаследовать или даже усиливать человеческие предубеждения в своих решениях, когда основные данные содержат предвзятые человеческие решения [1].

В некоторых сферах, особенно тех, которые имеют социальное значение, таких как уголовное правосудие, социальная политика, найм и личные финансы, важно обеспечивать, чтобы автоматические решения учитывали принципы честности, поскольку наборы данных содержат чувствительные атрибуты (такие как раса, пол, возраст, статус инвалида) и/или характеристики, тесно связанные с такими атрибутами. Это означает, что игнорирование принципов честности может иметь социально неприемлемые последствия. Особенно тревожным в контексте автоматического последовательного принятия решений является потенциал “поддержания несправедливости, то есть, когда максимизация полезности поддерживает, усиливает или даже вносит несправедливую зависимость между чувствительными признаками, решениями и результатами” [2].

Как результат, влияние предвзятости в машинном обучении растет настолько быстро, что даже трудно осознать настоящие изменения. Ежедневное влияние систем искусственного интеллекта – огромное и оно не ограничивается только компаниями и/или национальными системами, но может буквально ощущаться в наших руках каждый раз, когда мы получаем информацию в браузере.

Фигура 1.1: Временной вид эволюции дисциплины [3]