С интеграцией ИИ в нашу повседневную жизнь предвзятая модель может иметь серьезные последствия для пользователей. В 2021 году Центр политики в области информационных технологий Принстонского университета опубликовал отчет, в котором они обнаружили, что алгоритмы машинного обучения могут выявлять предубеждения, подобные тем, которые делают люди, из их тренировочных данных. Одним из ярких примеров этого эффекта является исследование инструмента найма ИИ от Amazon [1] . Инструмент был..

Хладнокровная, невозмутимая логика компьютера может показаться гораздо более разумной, чем иррациональный, эмоциональный, предвзятый человек — просто попробуйте попросить компьютер и 7-летнего ребенка решить 32 x 8! Один сразу даст ответ, а другой сделает все возможное, чтобы избежать вопроса, перекусить и пойти лезть на дерево. Хотя мы успешно создали системы, которые могут водить автомобили, понимать человеческий язык и играть в шахматы, «общий интеллект» (например, тот, которым..

Хотите менее предвзятых решений? Используйте алгоритмы. Краткое изложение Является ли успехом использование алгоритмов для принятия решений? Кажется, растет количество… hbr.org Я думаю, что статья правильная в поверхностном плане и неправильная в глубоком. Конечно, при рассмотрении метрик ИИ, оптимизированный для этих метрик, будет иметь более высокие оценки, чем люди, и в целом представление о том, что алгоритм более объективен, чем..

Предвзятость ИИ и что с этим делать Предвзятость ИИ исходит не от алгоритмов ИИ, а от людей . Что это значит и что мы можем с этим поделать? Наборы данных - это только люди. Технологии не свободны от людей Никакая технология не свободна от создателей. Несмотря на наши самые заветные научно-фантастические пожелания, не существует таких вещей, как системы ML / AI , которые были бы по-настоящему отдельными и автономными… потому что они начинаются с нас. Все технологии - это..

Один пример устранения смещения на этапе постобработки Недавно я начал писать серию постов, в которых более подробно исследую предвзятость в ИИ и различные способы смягчения ее в рабочем процессе. В своих последних двух блогах я рассказывал о повторном взвешивании как о методе смягчения последствий на этапе предварительной обработки моделирования и о противодействии на этапе внутренней обработки (обучение модели) рабочего процесса машинного обучения. Третий этап конвейера..