Этот пост изначально был опубликован как рецепт на ai.science. См. Рецепт для интерактивной версии этого поста, а также для комментирования или совместной работы.
Что покрыто?
В этом посте я дам краткое руководство по предвзятости алгоритмов распознавания лиц и связанных с ними концепций, технологий распознавания лиц и алгоритмической предвзятости. Я также укажу вам на доступные ресурсы для дальнейшего чтения и изучения.
Это кому?
Новички могут использовать свои знания из этого поста для решения таких задач, как технологии распознавания и обработки лиц, а также алгоритмы классификации изображений в более широком смысле.
Ресурсы
Следующие пять ресурсов, на мой взгляд, являются лучшим способом понять социальные предубеждения, заложенные в технологиях распознавания лиц: почему они возникают, как они влияют на людей и что можно сделать для их устранения.
(1) Используйте Миф о беспристрастной машине, чтобы ответить на такие вопросы, как:
- Что мы имеем в виду, когда говорим, что алгоритмические системы «предвзяты»?
- Откуда взялась предвзятость в алгоритмических системах?
Прочтите эту интерактивную статью и поработайте с ней, чтобы понять основы того, откуда берется предвзятость в алгоритмических системах.
(2) Используйте Технологии распознавания лиц: учебник, чтобы ответить на такие вопросы, как:
- Что такое технологии распознавания лиц?
- Как и где используются технологии распознавания лиц?
- Как машина распознает лицо?
- Насколько точны технологии распознавания лиц?
Прочтите это краткое руководство, чтобы понять основы работы технологий распознавания лиц.
(3) Используйте Джой Буоламвини:« Как я борюсь с предвзятостью в алгоритмах », чтобы ответить на такие вопросы, как:
- Как выглядит предвзятость в алгоритмах распознавания лиц?
- Что мы можем сделать с предвзятостью в алгоритмах распознавания лиц?
В этом выступлении TEDx дается быстрый и подробный обзор того, как выглядит предвзятость в алгоритмах распознавания лиц, и что исследователь и активист Джой Буоламвини делает с этим.
(4) Используйте Гендерные оттенки: межсекторные различия в точности в коммерческой гендерной классификации, чтобы ответить на такие вопросы, как:
- Откуда мы знаем, что алгоритмы распознавания лиц могут различать по расе и полу?
В этом знаменательном документе строго устанавливаются расовые и гендерные предубеждения, заложенные в существующие алгоритмы распознавания лиц.
(5) Используйте Сохраняющее лицо: исследование этических проблем аудита распознавания лиц, чтобы ответить на такие вопросы, как:
- Можем ли мы проверить алгоритмы распознавания лиц на предмет предвзятости?
В этом документе подчеркивается, как попытки проверить алгоритмы распознавания лиц на предмет предвзятости могут иметь последствия, которые могут нанести вред тем самым группам населения, для защиты которых эти меры предназначены.
Дополнительные ресурсы
Хотите копнуть еще глубже? Используйте « Неправильно обвинен алгоритмом », чтобы ответить на такие вопросы, как:
- Как расовые технологии лица могут причинить реальный вред?
В этой статье New York Times представлен реальный случай неправильного распознавания лиц, который привел к аресту человека из Мичигана за преступление, которого он не совершал.
Этот рецепт был создан Вилли Костелло. Чтобы узнать больше рецептов, посетите ai.science и создайте бесплатную учетную запись. Подробнее о рецептах и их логике см. РЕЦЕПТ 0.
Совокупный интеллект
Aggregate Intellect - это глобальная торговая площадка, где разработчики машинного обучения связываются, сотрудничают и создают. Свяжитесь с коллегами и экспертами на https://ai.science или Присоединяйтесь к нашему сообществу Slack.
- Ознакомьтесь с созданными пользователем Рецептами, которые предоставляют пошаговые инструкции, и небольшими руководствами по выполнению различных задач.
- Присоединяйтесь к нашим ML Product Challenges, чтобы создавать продукты на основе искусственного интеллекта, чтобы получить шанс выиграть денежные призы.
- Общайтесь с коллегами и экспертами в дискуссионных группах по ML или в часы работы офиса экспертов.
