Осведомленность о предотвращении самоубийств Реакция и участие

Как только Великий Технический Гигант был объявлен победителем — и все устройства, контент, публикации, отметки «Нравится», публикации, фотографии, видео, доставка очень хрустящего арахисового масла, беспилотные автомобили и данные всех видов были прокачаны через одну и ту же систему — молодой инженер начала работать над проектом в свободное время.

Это был страстный проект 1.2 — не то, что было частью ее обычных обязанностей, но из-за ее высокой производительности ей была позволена снисходительность. Это был проект, который требовал доступа к большому количеству информации из множества различных источников. К счастью, еще одной привилегией, которую она получила за время работы в компании, был беспрецедентный доступ к некоторым из самых ценных продуктов компании — в основном благодаря тому, что она прошла более дюжины реорганизаций с очень небольшим контролем того, кто все еще имел доступ к Какие. Она могла получить доступ к ленте, истории браузера пользователя, его электронной почте и истории чата, а если ее старый начальник еще не покинул компанию, к операционной системе смартфона человека (включая историю его геолокации). Это было бы достаточно хорошим началом для прототипа, тестирования и представления в комитет по развитию.

Если это будет проект с опорой на ноги, что-то, что она сможет превратить в полноценную инициативу, ей понадобятся данные на каждом этапе пути. Все должно было быть измерено, чтобы показать улучшение. Ей нужна была ее основа. Это не должно быть сложно, это был просто вопрос доступа к определенному подмножеству довольно ужасной базы данных, о существовании которой она знала, но никогда не удосужилась выполнить запрос.

Она открыла свой терминал, написала свой запрос и отправила его в Tombstone.

Инженеры назвали его более чем достаточно умным, чтобы ему можно было доверять такие вещи, и слишком молодым, чтобы ему можно было доверять такие вещи. Но вот они, база данных, содержащая всех мертвых пользователей, была названа Tombstone — правда, она была закончена менее чем за неделю.

Надгробие подсчитало показатель смертности. Его основной алгоритм был прост: если вы не генерировали данные в системе более семи дней подряд, вы считались мертвым. После предполагаемой смерти подтверждение было сделано путем запуска филиала системы обработки естественного языка компании в поисках сообщений, в которых упоминается предполагаемый умерший человек с высокой оценкой чувства траура или сожаления, и, конечно же, перекрестных ссылок с любыми планами поездок, которые вы могли составить. После того, как вас подтвердили как умершего, вы были добавлены в Tombstone.

На самом деле с этими аккаунтами ничего не произошло. Как правило, не было публичного подтверждения того, что компания что-либо знала об этом, но когда ваш показатель смертности достиг определенного уровня, вас незаметно перемещали в Tombstone и из базы данных Ad Serve.

Это была не вся база данных, в которой она нуждалась. Был конкретный параметр, который ее интересовал, тег метода. Используя улучшенную обработку естественного языка и недавно проиндексированные общедоступные записи, Tombstone также включила причину смерти и показатель достоверности того, что она была верной. Иногда тег метода добавлялся до того, как показатель смертности пользователя достигал критического значения — например, в случае хорошо задокументированных заболеваний, таких как рак, — в других случаях он добавлялся после того, как были опубликованы общедоступные записи.

Мертвые пользователи, которые ее интересовали, были самоубийцами. Это был довольно простой запрос: ей нужна была их основная информация, местонахождение, телефонные данные, фотографии, история браузера и последние 720 дней сообщений (входящих и исходящих).

Когда данные были возвращены, у нее был исходный уровень. Это число, зафиксированное в течение последних семи лет, которое она решила изменить с помощью Project SPARE.

Она собиралась написать код для спасения жизней.

Примечания к выпуску обновлений Tombstone, когда он еще находился в активной разработке:

0.1.119 Удаляет пользователей Tombstone из базы данных Ad Serve при их добавлении в Tombstone. Пользователи жаловались, что рекомендации продуктов и предложения их умерших друзей и членов семьи были неприличными.

0.1.147 Небольшой патч для yearReview.n, удаляющий изображения пользователей в Tombstone из монтажа Year in Review. Маркетинг говорит, что это разрушает их показатели производительности и удовлетворенности.

0.1.151 Предоставляет новую конечную точку API другим службам для удаления данных Tombstone из своих продуктов. Больше никаких одноразовых действий от команды Tombstone не требуется.

1.1.994Включает ранее заблокированные данные устройства (если они доступны), учитывая, что конфиденциальность не имеет большого значения, учитывая характер пользователей в Tombstone. Включает в себя пассивно собранную информацию о геолокации, выборку случайных звуков и изображений, а также всю биометрическую информацию. Полную информацию можно найти в документации.

1.3.837 Откатывает сообщение с соболезнованиями друзьям и семье, когда пользователь добавляется в Tombstone. Алгоритм, используемый для расчета показателя смертности, слишком предсказуем, пользователи получали сообщения слишком рано, вызывали страдания и скорбь по людям, которые были еще живы некоторое время дольше.

Она начала анализировать исходную линию на наличие очевидных паттернов, после чего включила на ней машины.

Когда она начала копаться в данных, это было именно то, на что она надеялась. Глядя на дату, когда тег метода достиг наивысшего уровня достоверности, дату, когда индекс смертности пользователя достиг порогового значения, и фактическую зарегистрированную дату смерти, у нее закружилась голова. Она нашла возможность.

Метка метода самоубийства во многих случаях применялась за несколько дней — если не недель — до того, как индекс смертности достиг своего порога (который сам по себе часто намного опережал дату смерти).

Этот алгоритм годами находился в режиме обслуживания, работая точно так же, как и в тот день, когда она получила исходные данные. Он был настолько хорош, что не нуждался в дальнейшем развитии. Это было настолько хорошо, что предсказало смерть большинства этих людей. Но ничего не было сделано по этому поводу.

Пока ничего, подумала она. Алгоритм будет продолжать работать, применяя свои теги и перетягивая уже погрузившихся пользователей в Tombstone. Единственный способ остановить это — решить проблему наверху воронки. Прежде чем передать свои исходные данные в машины, чтобы найти свои закономерности, она в последний раз вернулась в Надгробие.

На этот раз она установила два оповещения.

Каждый час сервер отправлял ей два списка. В первый список попадут пользователи, чей индекс смертности был ниже порогового значения — они были живы, — но тег метода самоубийства уже был применен. Это были люди, которым она должна была помочь.

Второй список появится позже — она надеялась, что намного позже. Он также был настроен на запуск каждый час, если позволяют данные. Было бы так, что все люди из первого списка, чей индекс смертности перешагнул порог, умерли. Это были люди, которым она вовремя не помогла.

ПОДАЧА НА РАССМОТРЕНИЕ ПРОЕКТА

Название проекта:S.P.A.R.E.: Реагирование и участие в предупреждении самоубийств.

Существующий статус:Страстный проект 1.2

Статус запроса:Инициатива l.0

Обзор проекта: SPARE использует существующую базу данных и алгоритмы Tombstone для выявления пользователей из групп риска, особенно тех, кто рискует совершить самоубийство, и пытается с помощью машинного обучения и непрерывного A/B-тестирования изменить их существование, где это возможно. , в сторону позитива.

Проектный подход. Когда базовые данные Tombstone были собраны и загружены в платформу машинного обучения, было выявлено несколько типов поведенческих паттернов (в основном определяемых полом, возрастом и регионом). Применяя выявленные шаблоны обратно к алгоритму тегирования метода Tombstone, тег метода (и уровень достоверности) можно было применить к пользователю намного раньше. Таким образом, SPARE получил больше времени, чтобы вмешаться, снизить и, в идеале, полностью исключить показатель достоверности из тега метода самоубийства.

Когда пользователь входил в тестовую популяцию SPARE, ряд методов опробовался, тестировался, подтверждался, а затем либо повторялся, либо отбрасывался в пользу другого метода, в котором процесс повторялся.

Все возможные точки соприкосновения с пользователем были включены в методы вмешательства SPARE, но наиболее часто используемые перечислены ниже (подробности о том, как они использовались, ниже):

  • Лента
  • Личные сообщения (подробнее об этом ниже)
  • Носимые устройства
  • Иммерсивное моделирование окружающей среды
  • Телевидение
  • Игровые системы
  • Центр уведомлений
  • Полнота профиля
  • Службы доставки
  • Навигатор приложений
  • Использование парка электромобилей

Когда пользователю предоставлялся контент (лента, телевидение, навигатор приложений и т. д.), все алгоритмы сортировки настраивались так, чтобы отдавать предпочтение контенту с очень положительными оценками настроений или связями, идентифицированными как люди, которые нравятся пользователю или которыми он хочет быть. В то же время отрицательному контенту или контенту из подключений, идентифицированных как имеющие негативную ассоциацию с пользователем, был присвоен значительно более низкий балл.

Наконец, критически важным аспектом этого подхода было увеличение частоты появления нового и приятного контента, всегда сохраняя его свежим. Ключевым поведением для примененного тега метода самоубийства было увеличение времени в лентах и ​​на телевидении за счет предыдущих действий. Хотя SPARE не мог предотвратить такое поведение (по крайней мере, на начальном этапе проекта), его можно было использовать в качестве потенциального стимула для вмешательства SPARE.

Изменить настроение и поток контента для пользователя было бы недостаточно (особенно с учетом продолжающихся социальных экспериментов, которые компания проводит, чтобы попытаться улучшить настроение населения посредством потребления контента во времена раздоров и бедствий).

Новая возможность, которую мы использовали с SPARE, заключалась в увеличении количества входящих (не инициированных пользователями) сообщений, сообщений о взаимодействиях, акций или даже личных запросов на контакт.

В то время как мы манипулировали доступом к контенту пользователя из группы риска, мы одновременно изменили мир контента для сети пользователя. Работая наиболее агрессивно с теми, у кого самая высокая оценка сходства и связи с пользователем, SPARE начинает продвигать контент, историю использования, все, что может быть превращено в публикацию, которой можно поделиться, от пользователя из группы риска в своих лентах.

Кроме того, SPARE использует музыку, видео (любые соответствующие артефакты поп-культуры) и общие местоположения, чтобы побудить двух пользователей связаться друг с другом.

Возьмем, к примеру, пользователя из группы риска и старого школьного друга. Пока школьный друг слушает музыку, SPARE будет играть старую песню, популярную в их районе и особенно в их старшей школе. За счет увеличения точек соприкосновения с ностальгией (NTP) при достаточно высоких показателях соединения SPARE показал, что может инициировать контакт между ними, который в противном случае не произошел бы (см. Раздел 3.14. Детали результатов).

Для привлечения пользователей из группы риска использовался ряд других методов, в том числе повышение ценности предложений и вознаграждений. Варианты и методология A/B-тестирования включены.

Комитет приветствовал ее работу за сосредоточенность на пользователях и их благополучии. Пользователь, в конце концов, является приоритетом номер один для компании. Небольшое улучшение, которое она смогла показать, они считали воспроизводимым, что, конечно, было многообещающим.

Проблема была не только в размере улучшения, но и в его локализации. SPARE был наиболее эффективным в Соединенных Штатах. Для глобального развертывания необходимо было устранить значительные культурные различия.

Комитет также был впечатлен количеством услуг, которые она собрала вместе при создании SPARE. Это продемонстрировало впечатляющее понимание систем компании и функциональной совместимости (это также привело к тому, что несколько недель спустя в масштабах компании была проведена ни к чему не обязывающая проверка доступа всех сотрудников, чтобы убедиться, что не было никаких текущих проблем с информационной безопасностью с затяжным доступом). когда сотрудники перешли к другим проектам).

Главной заботой комитета была стоимость. Несмотря на огромную работу, уже проделанную над проектом, необходимые инвестиции в глобализацию и машинное обучение не соответствовали текущим приоритетам компании.

Очевидно, что увеличение доходов, получаемых этими пользователями, не умирающими, заслуживает внимания, но в целом инвестиции, необходимые для глобального решения, были больше, чем прогнозируемые потери от мертвых пользователей — ведь рождаемость по-прежнему опережает смертность.

В конце концов, она должна была задокументировать весь свой код и немедленно прекратить работу над проектом SPARE, что она и сделала. Все ресурсы, относящиеся к ней, должны были быть помещены в общую папку «Песочница» — вместе с другими идеями, которые еще не подошли к своему времени, — где к ним мог получить доступ любой в компании и вернуться к ним в будущем, что она и сделала.

Несмотря на блокировку доступа в масштабах всей компании, оповещения, которые она делала в Tombstone, не были привязаны к ее учетной записи. Она никогда не спрашивала Надгробие. Надгробие отправило их прямо ей. Она добавила оповещения прямо на серверы. И каждый час они присылали ей сообщения — она никогда их не отфильтровывала и не отключала.

Она чувствовала, что кто-то должен знать, что эти люди где-то рядом. Если она не сможет поручить своей армии машин помочь им, тогда она возьмет это на себя, вручную. Много раз приходила тревога о том, что все еще живы, но ненадолго, и она поднимала их профиль и начинала им сообщение.

Каждый раз она останавливалась, не зная, что сказать, не зная их так, как мог бы СПЕЙР. Она не могла найти их любимую песню, отправить им правильный ироничный комментарий, подавленная незнанием, она просто продолжит свою работу   — и не будет читать недавно умершее оповещение в течение нескольких недель.

Спустя годы проект SPARE был пересмотрен, когда стажеру, который позже станет восходящим стартом в компании, было поручено создать проект для себя, используя только пыльные остатки папки «Песочница». Он был очарован SPARE — то, как оно могло изменить пользователя и ленту его сети, даже подтолкнуть кого-то к действию, это было именно то, что он искал.

Используя SPARE в качестве основы своего проекта, он смог заставить статистически значимую группу пользователей сменить стиральный порошок, даже не показывая им рекламу.