Потому что первый шаг в контроле предвзятости — это демонстрация того, что предвзятость существует. Предвзятость — это проблема, которую чрезвычайно легко внедрить в любую систему, но чрезвычайно трудно выявить и решить. В Vimeo, как и во многих других технологических компаниях, мы пытаемся принимать решения о наших продуктах на основе данных в надежде на создание инструментов и добавление функций на основе реального пользовательского опыта. Но это поднимает множество вопросов о..

Я только что опубликовал новую статью в блоге NamSor, в которой еще раз исследую сложные отношения между личными именами и моделями ИИ. В данном случае это #superfail DALL-E, создающий портрет гориллы вместо ожидаемого портрета западноафриканского мужчины. О проблеме было сообщено в openai labs, и я уверен, что они усердно работают над устранением подобных ошибок . Это непростая задача, поэтому мы все должны быть бдительными и терпеливыми . #этогоназванногочеловеканесуществует..

Поскольку Word Embedded был обучен для обработки естественного языка, было замечено, что алгоритм предвзято относится к полу. На это указал Толга Болукбаси в своей статье Мужчина для программиста, как женщина для домохозяйки . Очевидная причина, которая объясняет гендерные предубеждения в алгоритмах, связана с тем, что корпус данных, который используется для обучения этой матрицы встраивания слов (сопоставление слова в вектор), является предвзятым. Литература и рассказы не очень..