Эти новые инструменты могут сделать системы искусственного интеллекта для компьютерного зрения менее предвзятыми

Революционные инструменты сделайте системы компьютерного зрения искусственного интеллекта менее предвзятыми

Команда Sony разработала инструмент, расширяющий диапазон тона кожи на две оси, измеряющий и цвет кожи (от светлого до темного), и оттенок кожи (от красного до желтого). Sony предоставляет этот инструмент бесплатно онлайн. ¶ Кредит: Стефани Арнетт/MIT Technology Review/Getty

Системы компьютерного зрения повсюду. Они помогают классифицировать и помечать изображения в социальных медиа, обнаруживать объекты и лица на фотографиях и видео, а также выделять значимые элементы изображения. Однако они переполнены предубеждениями , и они менее точны, когда на изображениях показаны черные или коричневые люди и женщины . И есть еще одна проблема: текущие способы обнаружения предубеждений в этих системах сами предубедительны, сортируя людей на широкие категории, не учитывающие сложность, присущую человеческому бытию.

Два новых доклада исследователей из Sony и Meta предлагают способы измерения предубеждений в системах компьютерного зрения так, чтобы полнее охватить богатое разнообразие человечества. Оба доклада будут представлены на конференции ICCV по компьютерному зрению в октябре. Разработчики могут использовать эти инструменты для проверки разнообразия своих наборов данных, помогая создавать более качественные и разнообразные обучающие данные для искусственного интеллекта. Инструменты также могут использоваться для измерения разнообразия в человеческих изображениях, созданных генеративным искусственным интеллектом.

Традиционно предубеждение по оттенку кожи в системах компьютерного зрения измеряется с помощью шкалы Фицпатрика, которая измеряет от светлого до темного. Шкала была изначально разработана для измерения загара белой кожи, но с тех пор широко применяется как инструмент для определения этнической принадлежности, говорит Уильям Тонг, исследователь этики искусственного интеллекта в Sony. Она используется для оценки предубеждений в компьютерных системах путем, например, сравнения точности моделей искусственного интеллекта у людей светлой и темной кожи.

Однако описывать цвет кожи людей с помощью одномерной шкалы – это вводящее в заблуждение, говорит Алиса Сян, глава отдела этики искусственного интеллекта в Sony. Классифицируя людей по группам на основе этой грубой шкалы, исследователи упускают из виду предубеждения, которые влияют, например, на азиатских людей, которые недостаточно представлены в западных наборах данных и могут относиться как к светлокожим, так и к темнокожим категориям. И это также не учитывает тот факт, что оттенок кожи людей изменяется. Например, азиатская кожа становится темнее и более желтой с возрастом, в то время как белая кожа становится темнее и краснее, указывают исследователи.

Источник: MIT Technology Review Полная статья