Велнес-фирмы и страховые компании работают с компаниями для сбора данных о рецептурных препаратах, которые используют работники, о том, как они делают покупки и даже о том, голосуют ли они, чтобы предсказать их индивидуальные медицинские потребности и порекомендовать лечение.

Американские компании активно используют предиктивную медицину — отправить сотруднику приглашение на медосмотр гораздо дешевле, чем оплачивать его больничный счет. Если разобраться, история не так страшна, как кажется на первый взгляд. Это рациональный и прогрессивный подход. Основная опасность — работоспособность данных может стать поводом для дискриминации со стороны работодателя при принятии решений о приеме на работу, продвижении по службе или увольнении. Рационально не нанимать, но это не этично. Типичный конфликт этики и прагматики.

Юристы отмечают, что эта сфера до сих пор не урегулирована властями. Нет законов, которые бы определяли, к каким данным компании имеют доступ и имеют ли они право их использовать. Эксперты по конфиденциальности предупреждают, что результаты такого анализа могут привести к дискриминации женщин: «Если [работодатель] изначально думал, что 15% женщин среди его сотрудников могут забеременеть, но данные показывают, что этот показатель ближе к 30%, это может привести к работодатель сказал, что мы не можем нанять столько женщин-сотрудников в этом году, потому что мы не можем позволить им уйти в отпуск по семейным обстоятельствам», — объясняет Ходж. С другой стороны, Facebook оплачивает своим сотрудникам криоконсервацию ооцитов (процесс замораживания яйцеклеток), чтобы женщины не использовали декретный отпуск.

Это касается не только работодателя, но и правительства. Настоящая суть этого вопроса, конечно же, касается сути одного из самых больших текущих противоречий в технологической индустрии: доступа правительства (или «надзора», в зависимости от того, как вы формулируете проблему). Должно ли правительство — в какой бы форме оно ни было — иметь доступ к данным на вашем смартфоне?

И еще один пример того, как данные, сгенерированные вами, больше вам не принадлежат и могут быть использованы как угодно. В том числе против вас.

Почему важно защитить свои данные

Приложения, которые выглядят как обмен мгновенными сообщениями, но имеют другое назначение, в настоящее время становятся все более популярными. Ученый говорит, что человеку приятнее взаимодействовать таким образом. Например, поговорите с роботом, чтобы перевести деньги с вашего банковского счета.

Растет мнение, что онлайн-безопасность ослабляется из-за подрыва надежного шифрования с помощью бэкдоров для правительства. Ослабление шифрования не препятствует тому, чтобы террористы скрывались в Интернете, но облегчают проникновение хакеров в банковские счета, медицинские записи и телефоны. К сожалению, нет никаких доказательств того, что массовая слежка остановила теракт.

Сегодня Интернет является одним из наших самых важных глобальных общественных ресурсов. Это открыто, бесплатно и необходимо в нашей повседневной жизни. Это место, где мы общаемся, играем, совершаем банковские операции и делаем покупки.

Все это стало возможным благодаря набору основных принципов. Например, вера в то, что индивидуальная безопасность и конфиденциальность в Интернете являются фундаментальными. Необходимо отстаивать эти принципы и сохранять Интернет в качестве глобального общественного ресурса. Это также означает наблюдение за угрозами.

Шифрование является ключом к здоровому Интернету. Интернет-пользователи зависят от шифрования каждый день, часто не осознавая этого, и оно позволяет делать удивительные вещи. Он защищает журналистов и их источники, правозащитников и осведомителей. (дело викиликс?)

Шифрование — это не роскошь, а необходимость. Вот почему к шифрованию следует всегда относиться серьезно: это часть нашего обязательства по защите Интернета как общедоступного ресурса, открытого и доступного для всех.

Компании, являющиеся крупными игроками в сфере коммуникаций, могут вмешиваться разными способами. Например, есть такие проекты, как Let’s Encrypt — бесплатный автоматизированный веб-центр сертификации, предназначенный для того, чтобы любой мог легко запустить зашифрованный веб-сайт. Он был разработан в сотрудничестве с Electronic Frontier Foundation, Cisco, Mozilla, Akamai и многими другими технологическими организациями, чтобы обеспечить безопасность каждого в Интернете.

Этическая часть вопроса

Есть много случаев, когда правительственные учреждения и сотрудники правоохранительных органов по всему миру обсуждают политики, которые нанесут ущерб безопасности пользователей за счет ослабления шифрования. Это включает в себя призывы таких агентств, как ФБР, к технологическим компаниям создавать лазейки в зашифрованных сообщениях. Буквально на этой неделе мы видели важный пример, когда ФБР призвало Apple обойти свои собственные средства защиты в случае продолжающегося расследования в Сан-Бернардино (смертоносный террористический акт в Сан-Бернардино, декабрь 2015 года; на смартфоне есть функция, которая удаляет все информацию с него после 10 неправильных вводов паролей, и ФБР просит отключить эту функцию — в этом случае агентство может просто брутфорсить). Хотя трудно обсуждать интернет-политику в контексте ужасающих и трагических событий, запрос ФБР не вызывает сомнений. Если это будет разрешено, это подорвет повседневную безопасность пользователей Интернета и создаст прецедент для дальнейшего ослабления шифрования.

В целом, оправданием этих политик часто является то, что надежное шифрование помогает злоумышленникам. По правде говоря, надежное шифрование необходимо для всех, кто пользуется Интернетом. Мы уважаем опасения сотрудников правоохранительных органов, но считаем, что предложения по ослаблению шифрования — особенно требования к бэкдорам — серьезно навредят безопасности всех пользователей Интернета.

В ответ на этот запрос Apple написала публичное письмо-отказ с подробным объяснением. Короче говоря, неприкосновенность частной жизни является важным правом человека; если мы сделаем систему с бэкдором, она тут же распространится и все айфоны окажутся незащищенными. Далее подробное техническое описание того, почему невозможно разблокировать одно, не рискуя нарушить приватность других устройств.

Мне нравится сильная позиция компании. Кажется, публичное письмо в этой ситуации выглядит как «пиар на костях», но альтернативы нет. И я убежден, что такие вопросы должны решаться публично.

Этика роботов

СКАЙНЕТ уже есть. В Пакистане. Так называется программа АНБ США по анализу больших данных мобильной связи. Они используют алгоритмы машинного обучения для оценки вероятности того, что каждый человек окажется террористом. На основании этих данных экстремистов убивают. Для полноты картины убитые летающими дронами.

Патрик Болл (специалист по данным и исполнительный директор Группы анализа данных по правам человека) называет алгоритмы Skynet «смехотворно оптимистичными».

И вот такая ситуация: По данным Бюро журналистских расследований, с 2004 года в Пакистане от ударов беспилотников погибло от 2500 до 4000 человек. И большинство из них были классифицированы правительством США как «экстремисты».

Неизвестно, с каких пор работает алгоритм машинного обучения, но, похоже, он начал развиваться до 2007 года.

Несколько слов о системе: Отключение мобильного телефона помечается как попытка уклониться от слежки, передача SIM-карты другому лицу также помечается как подозрительная метка (программа определяет это по разнице между местоположением SIM-карты и активностью в сети). социальные сети)

Основная проблема в том, что программа работает на основе методички — как спам-фильтр — ты помечаешь что-то как спам/не спам, а фильтр дальше обрабатывает сам. В данном случае вы скармливаете машине нескольких известных террористов (их мобильные профили активности) и нескольких невиновных граждан. Проблема только в том, что известных террористов не так много, поэтому точность программы вызывает недоверие.

В общем, выглядит грустно. Мы боимся, что искусственный интеллект победит нас. Но пока мы используем искусственный интеллект для убийства, возможно, невинных людей.

Ученые Марк Ридл и Брент Харрисон из Колледжа компьютерных наук Технологического института Джорджии обучают искусственный интеллект нравственности с помощью литературы, пропагандирующей человеческие ценности. Интересным моментом является то, что интерактивные — предполагающие развитие сюжета в зависимости от выбора читателя — истории для обучения искусственного интеллекта, составленные другим искусственным интеллектом — системой Шахерезады.

Психологи, нейробиологи и другие специалисты, изучающие мозг, разделили мозг на две части: одна отвечает за иррациональное, другая — за рациональное. Гоулман называет это эмоциональным интеллектом и академическим интеллектом.

И если с академическим изучением интеллекта более-менее разобрались (с тестом IQ например), то с эмоциональной частью даже не все ясно. Глядя на количество исследований и общий интерес, эта часть сейчас более важна для изучения.

Искусственный интеллект может быть либо самообучающимся, либо очень сильным, но вряд ли и тем, и другим вместе. Изучение эмоционального разума искусственного интеллекта приводит к вопросу, зачем нужны так называемые интеллектуальные агенты, способные к эмоциональной эмпатии (возвращаясь к обучению моральных роботов, читающих интерактивные сказки системы Шахерезады).

Как Интернет влияет на людей

Общеизвестно, что у миллениалов кратковременная память (предпочитают не запоминать информацию, а где ее найти), быстрое переключение внимания (легче отвлечься) и еще кое-что, извините, я тоже миллениал. .

На Facebook каждая ссылка, которой вы делитесь, и фотография, которую вы публикуете, являются подтверждением вашей личности. На Tumblr вы можете наслаждаться анонимностью, говорить все, что хотите, не опасаясь, что это попадет в вашу постоянную запись, и запускать столько Tumblr, сколько захотите, по одному для каждой части вашей личности.

В отчете «Цифровые медиа и социальные последствия в эпоху гиперподключений» мы видим, что технологии и цифровые инновации влияют на наше взаимодействие со СМИ, развлечениями и потреблением информации. Они также меняют уровень нашей связи с другим человеком и с командой. Более широкие культурные воздействия только начинают ощущаться. Эпоха цифровых технологий меняет нас как личности, чтобы трансформировать организации и общество.

Самовыражение в наши дни происходит через противоречивый контент, а стремление казаться творческой личностью через репост вдохновляющих материалов. Использование такого инструмента для построения личного бренда кажется недооцененным, но те, кто его использует, становятся евангелистами.

Жуткие моменты: никому не верь

Роберт Эпштейн, старший психолог-исследователь Американского института поведенческих исследований и технологий в Калифорнии и бывший главный редактор журнала Psychology Today, написал статью в качестве превью своей будущей книги «Новый контроль над разумом».

Подробно, с результатами экспериментов и четкими пояснениями, текст о том, как поиск и социальные сети могут манипулировать общественным мнением (например, в случае с выборами) просто настраивая алгоритмы или используя технологию таргетинга, без какого-либо ручного редактирования.

Например, никто не мешает показать внешне нейтральный призыв «Все на выборы!» только те, кто согласно алгоритму прогнозирования собирается голосовать за определенного кандидата. Влияние на результат голосования может выражаться не просто в долях, а в высоком проценте. Это действие не противоречит никакому действующему законодательству. Для такого рода вещей нет механизмов контроля — и нет способа доказать манипуляцию. Как и подбор результатов в поисковой строке при запросе имен кандидатов — опять же чисто алгоритмически.

Таким образом, и Google, и Facebook, например, гигант интернет-коммуникаций в Америке, могут влиять — призывать людей идти и голосовать, ориентируясь именно на тех, кто будет голосовать за подходящих для компании кандидатов.

Масштабы возможной манипуляции, если психологи и программисты будут работать вместе или уже работают — это не только выборы, возможно, потребуется манипулятивная поддержка