Правительства на всех уровнях призываются к быстрому изменению политики в ответ на глобальную пандемию и требования социальной справедливости. Более того, 2020 год - это год президентских выборов в США и год десятилетней переписи в США. Важнейшие инициативы полагаются на интерпретацию данных или разработку моделей, которые информируют разработчиков политики. Но с учетом озабоченности по поводу конфиденциальности и значительных рисков, которые вводят или усугубляют новые технологии, есть несколько ключевых элементов, с которыми современные граждане должны быть знакомы, чтобы внести свой вклад в политические дебаты.

Анмол Анубхай из MLUX встретился с Элизабет Адамс и Эми Смит, чтобы обсудить эту актуальную тему

Элизабет Адамс (@technologyLiz) - советник Глобального консультативного органа Организации Объединенных Наций по сотрудничеству в области ИИ и научный сотрудник Стэнфордского университета по гонкам и технологиям. Она работает на стыке кибербезопасности, этики ИИ и управления ИИ, уделяя особое внимание этичному техническому дизайну. Элизабет также является членом Консультативного комитета Сообщества по расовому равенству города Миннеаполис, влияя на обсуждение и структуру местных общественных технологий и технического дизайна. Включение в искусственный интеллект, например, расовые предубеждения в технологии распознавания лиц, видеонаблюдение, прогнозная аналитика и права детей.

В течение последнего десятилетия Эми Смит (@amymapsmith) работала на стыке картографии, транспорта, технологий и государственной политики. Совсем недавно она работала в Uber специалистом по анализу данных в их команде по исследованиям политики и экономике, где изучала влияние новых мобильных сервисов на города по всему миру. В настоящее время она работает старшим специалистом по обработке данных в Rebel Group, международной консалтинговой фирме, специализирующейся на устойчивом городском развитии и мобильности.

Данные определяют политику (и в целом это хорошо), но как это работает?

Все начинается с вопроса

По словам Эми, нет одной формулы, которая применима ко всем. Часто возникает вопрос, который запускает процесс, например: каковы будут последствия COVID19 и общественного транспорта? Это действительно серьезный вопрос, поэтому она начинает с попытки получить как можно более полное представление о нем. Кабинетное исследование, общение с заинтересованными сторонами и общение с людьми за пределами ее пузыря, чтобы найти ее слепые зоны, - все это помогает уточнить и разбить различные аспекты транзита и мобильности, которые актуальны для политиков и сообществ.

Затем найдите релевантные данные

По прошествии определенного периода времени, работая в определенной области, вы познакомитесь со списком источников данных, которым вы доверяете, или, по крайней мере, с источниками, сильные и слабые стороны которых вы понимаете. Что касается транспорта, то список Эми включает следующее, хотя эти источники охватывают широкий спектр полезных идей:

Вы также можете найти открытые данные, которые публикуют местные сообщества или компании. Например, Uber может делиться некоторыми своими данными с исследователями в университетах. Государственные чиновники и компании, особенно в свете глобальной пандемии, собирают и обмениваются наборами данных, относящимися к общественному здравоохранению. Apple, например, создала отчеты о тенденциях мобильности в ответ на COVID19.

Важное предостережение! Будьте осторожны при использовании данных, которые были собраны не для ваших целей. Вы можете не знать, из какой популяции была произведена выборка и какие предубеждения существуют в этих данных (не говоря уже о любых способах, которыми она была «очищена» или преобразована до того, как вы ее увидели). Вот несколько хороших вопросов, чтобы оценить достоверность данных:

  • Кто представлен в данных? Кто НЕ представлен в данных?
  • Если данные взяты из опроса, каковы его выборка и временные рамки, и может ли цель опроса и / или способ постановки вопросов потенциально создавать предвзятость?
  • Если данные получены краудсорсингом, есть ли какая-либо информация о точности и / или качестве данных?
  • Являются ли данные синтезом других наборов данных, и если да, правильны ли методология и исходные данные?

Будьте открыты и откровенны в отношении любых предположений. Возможно, мы больше не сможем полагаться на исторические данные, особенно в мире после COVID. Если прошлое поведение не позволяет предсказать будущее поведение сейчас или когда все снова становится «нормальным», важно сообщить об этой неопределенности. Затем, если вы можете, протестируйте сценарии, основанные на наших предположениях, чтобы получить более целостную картину того, как может выглядеть будущее.

Иногда данных не существует, и тогда у вас есть несколько вариантов. В лучшем случае вы можете провести первичный сбор данных для ваших целей. Если это невозможно, рассмотрите возможность использования прокси (хотя см. Предупреждения выше!). И когда вы действительно заходите в тупик, Эми отмечает, что это тоже очень интересный вопрос: почему эти данные отсутствуют? И на какие вопросы, относящиеся к политике, мы не можем ответить, потому что она отсутствует (или какие политики приводят или препятствуют ее сбору?) И можем ли мы что-то с этим сделать?

Учитывайте воздействия, особенно эффекты второго и третьего порядка

Это может быть самый важный и наиболее часто упускаемый из виду этап процесса разработки инклюзивной политики: какие еще эффекты могут возникнуть помимо первоначальных результатов? Например, как это повлияет на маргинализированные сообщества? Элизабет выделила для нас проблемы, вопросы, которые нужно задать, и некоторые тактики повышения инклюзивности.

В прошлом Элизабет просто приходилось доверять тем, кто занимался разработкой и созданием технологий, думать об этике в своем процессе. Но после личного инцидента и некоторой точки зрения она поняла, что ей нужно лучше понять ИИ.

Она рекомендует проводить обучающие мероприятия как хороший способ начать самообразование, так и как подход к взаимодействию с другими людьми в вашей организации. Проводя обучающие мероприятия, Элизабет смогла прояснить свою точку зрения и обрести уверенность в том, что она разделяет свои убеждения. Самые важные уроки можно извлечь из реальных примеров того, что происходит, когда этика и прозрачность не существует, чтобы помочь выявить эффекты второго и третьего порядка. Хотя мы могли бы привести сотни примеров проблем, феноменальная работа Джой Буоламвини и Кэти О’Нил является хорошим учебником. Элизабет предлагает следующие вопросы, чтобы сформировать вашу точку зрения при разработке технологий или политики:

  • Что означают честные и равноправные технологии?
  • Что означает безопасная технология?
  • Что это означает для цветных сообществ и уязвимых групп населения?
  • Понимаете ли вы, что происходит с созданной вами технологией, когда она выходит на рынок?
  • Понимаете ли вы, получили ли люди, которые в конечном итоге будут использовать эту технологию, достаточную подготовку, чтобы использовать ее должным образом? Обучены ли они выявлять предвзятость?
  • И понимаете ли вы, что на самом деле происходит с сообществами реального мира, на которые оказывает влияние эта технология? (особенно обратите внимание на представление потенциально затронутых сообществ в процессе разработки данных и политики)

Ясно, что мы должны знать, кто разрабатывает нашу государственную политику, какие решения должны быть приняты в отношении этой политики, и, что наиболее важно, понимать, что будет и что произойдет с реальными людьми, когда политика будет реализована. Тем более, когда политики используют новые технологии.

Более активно взаимодействуйте с политиками вашего сообщества

Совет Елизаветы:

  1. Начните с поиска в Интернете по доскам и комиссиям в вашем городе и / или штате. Вот пример для MN, а вот пример для Миннеаполис
  2. Найдите тот, который вам нравится, и не расстраивайтесь, если нет того, который напрямую связан с технологиями. Это ключевой момент, я могу влиять на пространство гражданских технологий через призму гонки и справедливости. Плата по технологиям не было. Что было ближе всего к моей страсти - расовое равенство? У меня есть коллега, который входит в комиссию MN Game and Fish. Она хотела улучшить участие и возможности женщин. Она любит ловить рыбу. Она успешно помогает государству выделять ресурсы на обучение / работу / мероприятия для женщин в этой сфере.
  3. Обратитесь к членам совета или представителям вашего прихода. Больше всего нравится, когда сообщество делает шаг вперед, чтобы помочь им. Мои связи и влияние неоценимы.

О встрече по машинному обучению и взаимодействию с пользователем (MLUX)

Мы рады создать будущее интеллектуальных продуктов, ориентированных на человека, и считаем, что первым шагом к этому станет объединение специалистов по UX и Data Science / Machine Learning, чтобы они могли собираться вместе и учиться друг у друга на регулярных встречах, технических переговорах и т. Д. панели и события.

Хотите узнать больше? Присоединяйтесь к нашей встрече, узнавайте первыми о наших мероприятиях, присоединившись к нашему списку рассылки, следите за прошедшими мероприятиями на нашем канале YouTube и подписывайтесь на нас в twitter (@mluxmeetup) и Linkedin.