Изменение процессов для уменьшения этических проблем при реализации машинного обучения

TLDR: последние новостные статьи часто обвиняют машинное обучение и ИИ в этических ошибках систем автоматизированного принятия решений (ADM). Проблемы отражают сочетание деловых и технических сбоев. Добавление обсуждения денежного воздействия этических рисков вписывается в рамки принятия решений в большинстве организаций. Применение стандартных процессов разработки программного обеспечения, особенно анализа качества и бизнес-рисков, может обеспечить экономическое обоснование соблюдения этических норм и снизить негативное воздействие на этику.

Выравнивание бизнеса по качеству и финансированию

В этой серии статей будут рассмотрены потенциальные подходы к уменьшению возникновения этических проблем за счет согласования с бизнесом, улучшения видимости и комплексного контроля качества.Основные показатели этического качества системы вытекают из результаты системы. Финансирование и время, необходимое для того, чтобы сделать систему этичной, требуют поддержки со стороны бизнеса. Хотя намерение и дизайн являются важными факторами успеха и надежности системы, результаты определяют, как потребители оценивают этическое качество организации или процесса. Системы автоматизированного принятия решений (ADM) представляют собой составные системы, сочетающие машинное обучение (ML) со сложной архитектурой, собирающей данные для вывода и действующей в соответствии с рекомендациями ML. В литературных статьях часто основное внимание уделяется техническим аспектам отказов ADM. Расширение этического дизайна и обзоров за счет включения спонсоров проекта может уменьшить неблагоприятное или неожиданное поведение. Спонсоры бизнеса финансируют то, что понимают. Команды по технологиям и машинному обучению должны сообщать о рисках и приоритетах, включая этические.

Следуйте этике как процессу

Mittlestadt (2019) писал: «Исследуйте этику как процесс, а не технологический подход». [1] Этические проблемы выходят далеко за рамки технических или чисто финансовых. Технологии и бизнес должны рассматривать этические факторы как неотъемлемую, видимую часть общего процесса. Совместными усилиями можно избежать многих подводных камней и повысить эффективность автоматизированных систем принятия решений. Возможно, наиболее важной частью процесса являются первоначальные бизнес-требования. Примечательные примеры показали, когда анализ бизнес-контекста не смог адекватно учесть последствия и стандарты качества для этических соображений. [2] Обновление процессов с использованием автоматизированного принятия решений, позволяющее разработчикам бизнеса, приложений и моделей обсуждать этические вопросы, должно снизить риски и затраты.

Этические системы сложны

Развертывание этических систем — сложный процесс с множеством компонентов и контрольных точек. Неспособность выявить потенциальные этические проблемы, приемлемые стандарты производительности и контрольные точки качества привели к различным заметным сбоям. Непоследовательная идентификация лиц ненадлежащим образом повлияла на определенные группы населения. [2] Неверный учет выборочных групп привел к непоследовательному применению лечебных процедур. Рост числа беспилотных автомобилей усилил опасения по поводу автономии из-за заметных аварий. Автономные летательные аппараты могут доставлять посылки, но также могут служить платформами для доставки оружия. Бизнес-спонсоры и технологии должны активно работать над смягчением этических проблем в рамках общего процесса разработки. Интеграция процессов должна снизить долгосрочные риски и затраты.

Намерены действовать этично

Сложность соблюдения этических норм требует особых усилий, чтобы избежать неблагоприятных результатов. [3] Бизнес-требования от спонсоров инициативы должны включать этические вопросы с рекомендациями по приемлемым уровням качества. Процесс моделирования машинного обучения (ML) должен учитывать область предполагаемого использования, чтобы включать неочевидные граничные условия. Реализация приложений должна отражать слияние требований, ограничений объема и модельных случаев.

Сделайте этику частью процесса

Снизьте этические риски, изменив требования и процессы разработки, чтобы установить приоритеты этических соображений. Изменение процесса для интеграции этических факторов в анализ ценности бизнеса может сделать этику видимой во всем процессе, включая моделирование. [4] С наглядностью появляется возможность определить стоимость/риски систем при соблюдении этических норм. Опыт работы с методами моделирования снизил неопределенность процессов машинного обучения до уровня других инструментов разработки. Тем не менее, машинное обучение является новейшим компонентом в стеке приложений и получает большую часть негативных отзывов о неудачах.

Используйте видимость для внесения изменений

Практикам машинного обучения следует использовать видимость, чтобы привнести этику в бизнес-анализ, процесс разработки, контрольные точки качества и текущую поддержку. Этические ошибки в новостях представляют собой примеры долларовых издержек, которые могут найти отклик у лиц, принимающих решения в бизнесе. Полная интеграция участия бизнеса в процессе разработки является отличительной чертой Agile-процесса. Формализация оценки этических рисков в анализе бизнес-рисков интегрирует этику в анализ качества и финансовых рисков. [1]

Избегайте того, чего легко избежать

Избегание того, чего можно избежать, позволяет организациям сосредоточиться на определении своих этических стандартов для технологических систем, включая системы машинного обучения. Внедрение этических факторов в стандартные требования и процессы обеспечения качества может сделать этику основной ценностью, а не дополнительной. Избегание ошибок развития может уменьшить непреднамеренные предубеждения и позволить организации определить, какие факторы необходимы для исправления системных, исторических или культурных предубеждений.

Области будущих публикаций об инициативах в области машинного обучения:

‹› Добавление этических норм в процесс сбора бизнес-требований, правильное начало проектов

‹› Документирование вариантов использования машинного обучения для поддержки этического анализа. Творческий анализ и документация для поддержания инициатив на правильном пути.

‹› Бпланирование этических рисков проекта: планируйте этические риски, чтобы распределять ресурсы и избегать проблемных областей.

‹›Добавление этики в Agile-планирование: сделайте проверку качества, рисков и этики частью вашего Agile-процесса.

‹› Моделирование этического машинного обучения: планирование показателей для проверки соблюдения этических норм.

‹› Обеспечение качества для соблюдения этических норм. Знайте, как на самом деле работает автоматизированная система принятия решений по сравнению с тем, что ожидалось в бизнесе.

‹› Сообщение о результатах выводов и ограничениях: разработайте стандарт демонстрации эффективности и проблем машинного обучения за пределами группы моделирования.

‹› Учет внебюджетных этических факторов:более широкое обсуждение философии организации в отношении этических проблем и ценностей.

‹›Погружаясь в этические трясины; Мониторинг последствий для поддержания качества и предотвращения дрейфа в этическую трясину.

Ценим ваши мысли и комментарии о том, как компании и организации могут улучшить использование ML и ADM. Системы машинного обучения

Источники

[1] Б. Миттельштадт, Этика ИИ — слишком принципиальная, чтобы потерпеть неудачу?, Электронный журнал SSRN, 2019 г., doi: 10.2139/ssrn.3391293.

[2] Л. Оуччи, А. Коин и В. Дублевич, ИИ в заголовках: изображение этических проблем искусственного интеллекта в СМИ, AI & Soc, vol. 35, нет. 4, стр. 927–936, декабрь 2020 г., doi: 10.1007/s00146–020–00965–5.

[3] С. Ло Пиано, Этические принципы машинного обучения и искусственного интеллекта: практические примеры и возможные пути продвижения вперед, Humanities and Social Sciences Communications, vol. 7, нет. 1, ст. нет. 1 июня 2020 г., doi: 10.1057/s41599–020–0501–9.

[4] Б. Рашид, Д. Роланд, Д. Себастьен и Р. Ивана, «Подход к управлению рисками для экономичной, гибкой, устойчивой и экологичной цепочки поставок», Всемирная академия наук, инженерии и технологий, Международный журнал социальной, поведенческой, образовательной, экономической, деловой и промышленной инженерии, vol. 11, нет. 4, стр. 742–750, 2017.

Примечания автора:

О термине «бизнес»: термин «бизнес» в этом блоге задуман как общий термин, охватывающий спектр типов организаций, которые спонсируют усилия. Организация может быть корпорацией, правительственным агентством, НПО или каким-либо другим типом. Точно так же термин «потребители» отражает совокупность отдельных лиц и организаций, которые используют электронные системы или затронуты ими. Широкие определения предназначены для того, чтобы сохранить область применения открытой и не исключать лиц, на которых может быть оказано неблагоприятное воздействие.