Из 15-го выпуска моего информационного бюллетеня Гуманный ИИ

Лето со всеми его путешествиями закончилось! Этот выпуск моего информационного бюллетеня Humane AI посвящен путешествиям, вдохновленным моими летними каникулами. Но, что более важно, написание этого номера вдохновлено сотрудником паспортного контроля в аэропорту Варны, Болгария, скептически царапающим ребром монеты мою шенгенскую визу, чтобы убедиться, что виза, уверенно сидящая в моем иранском паспорте, на самом деле настоящий!

В течение следующих нескольких минут я приглашаю вас прочитать об использовании ИИ в иммиграции и путешествиях, геотегах и его негативном влиянии на окружающую среду, «Опыте» Airbnb и многом другом.

✏ От полиграфов до детекторов лжи с искусственным интеллектом: все они врут, но до сих пор используются. На этот раз для путешественников!
Достаньте четвертак из кармана. Переверните, если выпадет решка, вы лжете; если решка, то вы говорите правду… Точно такая же степень точности, как у этого полиграфа. Сказал Дуг Уильямс, бывший детектив полиции Оклахома-Сити, проводивший проверку на детекторе лжи в период с 1972 по 1979 год. о своих самых больших страхах или даже сжимании их ануса!

Несмотря на опасения научного сообщества по поводу недостаточной точности этих инструментов, правоохранительные органы по-прежнему используют полиграфы для поиска преступников, шпионов и т. д. Согласно этой статье Intercept, детектор лжи с искусственным интеллектом — виртуальный полицейский, пилотируемый в аэропортах Венгрии, Греции и Латвии, задает вам вопросы на границе. Вы даете свои ответы устно, а виртуальный полицейский использует вашу веб-камеру, чтобы сканировать ваше лицо и движения глаз на предмет признаков лжи. Проект был разработан исследователями из Манчестерского столичного университета, которые говорят, что технология может улавливать «микрожесты, которые человек делает, отвечая на вопросы на своем компьютере, анализируя выражение лица, взгляд и позу». В статье высказываются опасения по поводу точности и прозрачности этого инструмента. Чтобы узнать больше об этом исследовании, прочитайте эту статью. Количество человек, принявших участие в исследовании по обучению и тестированию этого инструмента, составляет 32 человека; общая точность 75%; и финансирование, предоставленное ЕС, 4,5 миллиона евро!

📎 Если вы хотите углубиться в исследования об использовании алгоритмов машинного обучения, чтобы сделать вывод о самочувствии, общем интеллекте, письменных способностях, беглости речи, сексуальной ориентации, политической ориентации, личностных чертах, аутизме, депрессии, дислексии, психопатии и стрессе, проверьте вышла статья под названием Могут ли машины читать наши мысли? «Издано Оксфордским институтом Интернета. Исследователи изучили 26 исследований о возможности прогнозирования психологических черт и психических состояний людей по их активности в социальных сетях, чертам лица и т. д. В документе также поднимаются вопросы о доверии, информированном согласии и цифровой идентификации.

✏Как Министерство внутренней безопасности США использует цифровые данные во имя национальной безопасности
Идея мониторинга профилей в социальных сетях для выдачи въездной визы в США не нова. (см. эту хронологию). Однако на прошлой неделе мониторинг социальных сетей принял оруэлловский оборот, узнав, что палестинский первокурсник Гарварда был депортирован из-за поста своего друга в Facebook. Читать рассказ здесь. Авторы статьи Мониторинг социальных сетей поставили под сомнение эффективность сбора данных из социальных сетей для обеспечения безопасности границ. Кроме того, согласно отчету, пилотные программы мониторинга социальных сетей DHS, по-видимому, были в значительной степени сосредоточены на мусульманах: по крайней мере, две нацелены на сирийских беженцев, одна нацелена как на сирийских, так и на иракских беженцев, а аналитический инструмент, использованный как минимум в двух пилотных проектах, был специально для носителей арабского языка. Согласно отчету, одним из последствий таких инициатив стала самоцензура людей, обращающихся за визами, а также членов их семей и друзей.

📎 Тем из вас, кто интересуется правом, я предлагаю прочитать эту замечательную статью Lawfare под названием Национальное предприятие по проверке: искусственный интеллект и иммиграционное правоприменение Чинмайи Шармы. В статье подробно рассматриваются предложения Министерства внутренней безопасности по использованию ИИ в иммиграции. В нем описаны конкретные роли, которые USCIS, ICE и CBP играют в выполнении заказов DHS.

Почему это так важно для меня? Я вам скажу: из-за характера моей работы (связанной с последствиями новых технологий для прав человека) я решил не возвращаться в свою страну, чтобы избежать какой-либо потенциальной враждебности правительства по отношению к двойным гражданам. Четырнадцать дней из всех этих 365 дней в году мы с мамой, сестрой и сестрой пытаемся воссоединиться где-нибудь за пределами Ирана. Мы планируем за несколько месяцев, волнуемся, проходим контрольные списки для получения визы и собеседования по видеосвязи. Но потом я вижу, как им снова и снова отказывают, запрещая въезд в США (из-за запрета мусульман) и во все европейские страны Шенгенской зоны. Иногда я задаюсь вопросом, в чем ценность всех этих надежных систем проверки и безопасных пограничных технологий, если, в конце концов, их коллективное решение состоит в том, чтобы запретить это: радость быть со своей семьей и быть в безопасности.

✏Как геотеги в Instagram разрушают окружающую среду и уносят человеческие жизни?!
Когда мы ищем Лондон в социальных сетях, это первое, что мы видим, — сказал один из южных Корейский посетитель скал Семи Сестер в Англии. Из-за геотегов в социальных сетях, постов влиятельных лиц и алгоритмов поиска скала Семь сестер, ранее известная только заядлым туристам, стала одним из излюбленных мест для туристов. Согласно статье, растущее число посетителей вызвало опасения по поводу рисков, связанных с тем, что так много людей находится высоко на скалах. В прошлом году Ким Хе Вон, корейская студентка, умерла, потеряв там опору. Согласно этой петиции Change.org, когда фотографии какого-либо места набирают популярность в Instagram (через функции геотега и хэштега, а также публикации или «функции), результатом часто является всплеск посещений. К сожалению, ряд площадок на открытом воздухе по всему миру был закрыт или разрушен из-за негативного воздействия этого наплыва посетителей».

Подписавшиеся под петицией Change.org просят Facebook/Instagram разрешить пользователям сообщать о нарушениях, которые являются незаконными и вредными для окружающей среды, и внедрить более эффективные методы модерации контента, чтобы обуздать виральность фотографий/аккаунтов, пропагандирующих вредные действия.

✏Поисковое ранжирование Airbnb Experiences на основе машинного обучения
Этим летом во время моей поездки я заметил, что Airbnb запустила сервис под названием Experience, чтобы помочь местным жителям проводить занятия с гостями. или взять их на местные туры. В этом посте, опубликованном на странице Airbnb Engineering and Data Science Medium, подробно рассказывается о плане Airbnb по лучшей персонализации этой услуги. Вот выдержка: Мы можем использовать информацию о стране, чтобы персонализировать рейтинг Впечатлений на основе категорий, предпочитаемых пользователями из этих стран. Например, исторические данные говорят нам, что при посещении Парижа японские путешественники предпочитают занятия и мастер-классы (например, изготовление парфюмерии), путешественники из США предпочитают еду и напитки, а французские путешественники предпочитают историю и волонтерство. Мы использовали эту информацию для разработки нескольких функций персонализации на уровне отправной точки — пункта назначения.

Хорошо, я пропущу свои предположения о потенциальном дискриминационном воздействии этой услуги из-за обучения на предвзятых исторических данных, или о влиянии на местный бизнес, или потенциальных опасениях по поводу разных демографических характеристик — обратите внимание, что Airbnb уже борется для решения расовой дискриминации в своих услугах. Я даже не пойду туда; Я просто хочу выделить это предложение из сообщения на Medium: Путешественники из США предпочитаютЕду и напиткиВпечатления, а Французские путешественники предпочитают Историю. и волонтерство?!! Это заставило меня расхохотаться! Что я могу сказать, мои американские друзья? ¯\_(ツ)_/¯ Я просто знаю, что это предложение само по себе может вызвать новое предложение «Freedom Fries!

Это отрывок из информационного бюллетеня Humane AI #15, который веду я, Roya Pakzad. Вы можете подписаться на рассылку новостей здесь.