Промышленная революция вызвала бурный рост эксплуатации детей: в Британии в начале 19 века средний возраст детей, начинающих работать, составлял 10 лет; В 1900 году в США 18% всех рабочих составляли дети.
Только после принятия в 1989 г. Конвенции о правах ребенка были созданы международные рамки для защиты детей от экономической эксплуатации и установления минимального возраста для приема на работу.
По мере приближения революции искусственного интеллекта дети и молодые люди становятся уязвимыми для эксплуатации по-новому. Эксплуатация данных детей может стать для революции искусственного интеллекта тем же, чем детский труд был для промышленной революции.
Дети и молодые люди особенно подвержены риску неожиданного негативного воздействия новых технологий, потому что они часто ранние их последователи. Pew Research Center, например, обнаружил, что 59% подростков в США подвергались издевательствам или домогательствам в Интернете и использование смартфонов было связано с увеличением уровня депрессии среди подростков. Эти риски очень велики, учитывая, насколько сложно ограничить доступ к онлайн-технологиям по возрасту.
Дети также часто не знают о том, как проводится наблюдение за их использованием технологий, и очень редко могут дать осознанное согласие. Privacy International, например, подчеркивает, как ICE (иммиграционная служба, таможня и правоохранительные органы США) использует коммерчески доступный инструмент поиска под названием Giant Oak Search Technology. Инструмент Giant Oak просматривает каждый уголок Интернета, включая социальные сети, предположительно, чтобы позволить ICE отслеживать людей. Учитывая, насколько широко используются социальные сети среди детей и молодежи, весьма вероятно, что Giant Oak использует данные детей.
Конвергенция Интернета вещей, виртуальной реальности, алгоритмического принятия решений и машинного обучения создает риск чрезмерной эксплуатации детей в революции искусственного интеллекта.
Объем данных, собираемых о детях, будет расти в геометрической прогрессии, как и потенциальные варианты использования этих данных. Способность новых технологий вызывать устойчивые и непреднамеренные изменения в развитии и идентичности детей (как положительные, так и отрицательные) также резко возрастет по мере того, как революция искусственного интеллекта проникает в классы, здравоохранение и государственные учреждения, отвечающие за защиту детей.
Технологи (и авторы научной фантастики) повышают осведомленность общественности о рисках революции искусственного интеллекта. Однако политики все еще не решаются, как лучше отреагировать. Подход, основанный на правах человека, может указать путь вперед.
В первой части этой серии статей мы исследуем, чем подход, основанный на правах человека, может отличаться от нормативного, и представим некоторые гипотетические сценарии, позволяющие выявить последствия революции искусственного интеллекта для прав человека в отношении детей. Часть 2 будет посвящена вопросам информированного согласия. Часть 3 будет уточнена.
Почему подход, основанный на правах человека?
Технологические изменения опережают правительства по всему миру. В этом контексте нормативный подход к использованию технологий неэффективен. Нормативные акты, как правило, носят конкретный и запретительный характер, а регулирующие органы, как правило, реагируют на внедрение новой технологии, а не проявляют инициативу в руководстве внедрением. Эволюция политики конфиденциальности в Европе подчеркивает это: Facebook открыла международную штаб-квартиру в Дублине в 2008 году; Только в 2018 году вступили в силу Европейские общие правила защиты данных (GDPR) (хотя схемы защиты данных существовали задолго до 2018 года, GDPR первым справился с полным объемом использования данных Facebook).
GDPR также подчеркивает преобразующие возможности правозащитного подхода к новым технологиям. Принцип GDPR конфиденциальность по дизайну возлагает на технологов положительную ответственность за то, чтобы учитывать конфиденциальность и по умолчанию стремиться к большей конфиденциальности при проектировании и разработке своих продуктов. Эта положительная ответственность фактически нейтральна с точки зрения технологии: ответственность за защиту конфиденциальности сохраняется независимо от применяемой технологии. И эта позитивная ответственность подлежит исполнению: регулирующие органы имеют право требовать от технологов демонстрации того, как они учитывали последствия для конфиденциальности при разработке своих продуктов.
По мере появления новых технологий наша существующая система прав человека нуждается в обновлении. С помощью таких инструментов, как GDPR, мы расширили и усовершенствовали нашу концепцию свободы слова. Например, право быть забытым - это, по сути, попытка совместить право на свободу слова с формой повсеместного доступа к информации, которую трудно вообразить в 1948 году.
Революция в области ИКТ, как следует из названия, изменила то, как мы общаемся, собираем и обмениваемся информацией. Неслучайно право человека, наиболее тесно связанное с революцией в области ИКТ, - это право на свободу мнений и их свободное выражение. Когда революция в области ИКТ уступит место революции искусственного интеллекта, это затронет гораздо более широкий круг прав человека и возникнет множество проблем с совместимостью.
Ниже я описываю четыре мысленных эксперимента, предназначенных для демонстрации того, как различные технологии объединяются, чтобы воздействовать на детей и молодежь, а также некоторые проблемы прав человека, которые эти технологии порождают. Каждый мысленный эксперимент - это гипотетический сценарий, представляющий, как существующие и новые технологии могут быть адаптированы в ближайшее десятилетие.
На что может дать согласие ребенок?
Чарли - 13-летний ребенок, который любит заниматься спортом. На свой день рождения она просит Fitbit, чтобы отслеживать ее упражнения, и ее родители делают это. Чарли любит Fitbit и продолжает использовать продукты Fitbit в течение следующих пяти лет.
Быстрая перемотка вперед. Чарли сейчас 18, и ее Fitbit собрал данные о ней за пять лет. Между тем, Fitbits также стала более изощренной. Набор данных Fitbit о Чарли теперь включает, сколько шагов за день она сделала, ее пульс, суточные сожженные калории и местоположение по GPS. Fitbit также только что объявил о двух новых партнерских отношениях: одно со страховщиком здоровья, которое предложит специальные планы медицинского обслуживания людям, которые регулярно тренируются, а второе с медицинским стартапом, использующим данные частоты пульса Fitbit для выявления людей с сердечными заболеваниями. >
Однажды утром Чарли получает на своем Fitbit предупреждение: «Обратитесь к врачу - сердечная аритмия». Несколько лет спустя, когда Чарли начинает исследовать медицинское страхование, поставщик сообщает ей, что ее ранее существовавшее заболевание было учтено в ее страховых взносах.
Должны ли дети и их опекуны иметь право на прозрачность?
Правительство штата Виктория недавно запустило новую инициативу по открытым данным, которая делает данные, собираемые в режиме реального времени множеством правительственных ведомств, включая Министерство образования, Министерство здравоохранения и социальных служб, а также полицию, доступными для всех в них. отделы.
Мика - аналитик данных из Мельбурна, сотрудник полиции Виктории. Мика интересуется, сможет ли он построить алгоритм, который сможет предсказать, когда ребенок находится в опасности, и порекомендовать действия соответствующему государственному органу.
Мика программирует алгоритм с небольшим количеством исходных предположений о возможных факторах риска (если ребенок пропускает три школьных дня подряд, если родитель был недавно арестован, если родитель недавно начал получать выплаты Centrelink) и затем передает алгоритму архив исторических данных о случаях жестокого обращения с детьми и использует программу машинного обучения для уточнения прогностических возможностей алгоритма.
Мика запускает алгоритм, и он быстро начинает выявлять детей из группы риска в режиме реального времени. На основании этих рекомендаций Департамент здравоохранения и социальных служб может лучше оказывать родителям детей из групп риска дополнительную поддержку. Лучше всего то, что по мере использования алгоритма и расширения инициативы открытых данных в большем количестве правительственных ведомств алгоритм может постоянно совершенствоваться, повышая точность. В конечном итоге для дальнейшего повышения точности алгоритм подключается к общедоступным данным из Facebook и Instagram, а также к системе Open Banking.
Если стартапы на базе искусственного интеллекта заменят школы, как следует обновить право на образование?
Дэну два года. Его мама работает в Кремниевой долине, в образовательном стартапе, ориентированном на раннее обучение. Стартап только что разработал новый продукт - репетитора с искусственным интеллектом, призванного помочь детям младшего возраста научиться читать. Репетитор по искусственному интеллекту еще не является общедоступным, но мама Дэна имеет к нему доступ и установила его на iPad для Дэна.
Репетитор по ИИ оказался для Дэна невероятно успешным. Репетитор ИИ следит за глазами Дэна, чтобы отслеживать его внимание, и со временем учится, как удерживать Дэна в учебе. Лучше всего то, что репетитор искусственного интеллекта также подключен к детской коляске Дэна и машинам его родителей, поэтому он может отслеживать местоположение Дэна и давать Дэну новые уроки, вдохновленные местами, которые он посещает.
Перенесемся на три года, и Дэн идет в начальную школу. Его наставник по ИИ привил ему любовь к чтению, и он уже читает и пишет намного лучше своих сверстников. Преподаватель искусственного интеллекта также может напрямую подключиться к своей школьной сети, чтобы его новые учителя могли видеть профиль Дэна, его читательские привычки и его стиль обучения. Дэн намного опережает своих коллег.
Имеют ли молодые люди право вносить свой вклад?
Чжан Ли 28 лет. После окончания средней школы она изучала медицину в Мельбурнском университете и сейчас подходит к концу своей медицинской стажировки. Ей нужно найти свою первую работу, но она переживает кризис. Робототехника, искусственный интеллект и виртуальная реальность изменили больницы. Теперь они радикально более эффективны. Небольшое количество врачей и специалистов может лечить пациентов в любой точке мира. Диагностика почти полностью автоматизирована, алгоритмы машинного обучения выявляют болезнь и назначают лечение с гораздо большей точностью, чем любой врач-человек. В большинстве больниц сейчас работает больше специалистов по обработке данных, чем врачей.
Большая часть медицинского образования Чжан Ли сейчас избыточна, и она конкурирует с сотнями других дипломированных врачей только за несколько позиций. Она могла бы переквалифицироваться на медсестру, но это займет несколько лет, и нет никаких гарантий, что медсестра не будет так же автоматизирована к тому времени, когда она переучится. Чжан Ли всегда предполагала, что ее жизнь пойдет по определенному пути - учеба, получение диплома, начало карьеры, создание семьи, выход на пенсию, - но теперь она не уверена, сможет ли она когда-нибудь найти работу.
Разработка подхода, основанного на правах человека
Политики и технологи должны принять упреждающий подход, основанный на правах человека, для защиты тех, кто подвергается риску эксплуатации в революции искусственного интеллекта. Подход, основанный на подлинных правах человека, должен начинаться с людей, которых больше всего затрагивает: детей и молодежи.
Вопросы, рассмотренные здесь, являются отправной точкой для гораздо более широкого разговора. На потенциальную широту и глубину изменений, к которым приведет революция в области искусственного интеллекта, невозможно адекватно отреагировать с помощью реактивных регуляторных подходов со стороны политиков.
Часть 2 исследует информированное согласие и детей в эпоху цифровых технологий. Предполагая, что ограничение по возрасту остается практически невозможным, мы рассмотрим политику и меры воздействия на продукты, которые могли бы дать детям возможность давать осознанное согласие и защищать данные о детях, где осознанное согласие невозможно.
