Проблемы
- Люди не сталкиваются с идеями, с которыми они не согласны, в не враждебной среде.
- Люди не знают, кому доверять
Одна из возможных частей решения
Это будет публичный обзор дизайна высокого уровня. С тех пор, как я нажал на видео о беспорядках в Майло-Беркли на YouTube, я получил бесконечный запас приманки для фанатов. Сегодня стало тривиальным поддерживать состояние ярости, и я знаю, что людей, с которыми я не согласен, кормят аналогичными диетами. Я хотел бы подкинуть во вселенную идею, которая, по моему мнению, могла бы либо помочь противостоять этому, либо вдохновить на другие идеи, которые могут противостоять этим тенденциям. Одно можно сказать наверняка: социальные сети и новостные агентства не собираются менять меню, пока борьба за внимание зрителя — это единственный способ, с помощью которого они должны конкурировать.
Идея была частично вдохновлена Сетью доверия PGP, с которой я познакомился через систему пакетов Debian. Если вы хотите загружать пакеты в репозитории Debian, вам необходимо предоставить ключ gpg. Кроме того, вам нужно будет связаться с по крайней мере одним человеком в проекте Debian и сказать этому человеку, что вы тот, за кого себя выдаете, и что этот ключ принадлежит вам. Поступая так, вы бы убедили этого человека поверить в то, что вы — это вы сами. Этот человек уже является частью того, что называется сетью доверия. Теперь любой, кто доверяет этому человеку, может по доверенности доверять вашим заявлениям о вашей личности.
Сеть доверия — мощная концепция. Он во многом отражает наше нецифровое поведение. Если вы хотите стать программистом, но не знаете, с чего начать, вы можете начать с разговора с человеком, которому вы доверяете, который является программистом. В отсутствие этого человека вы можете поговорить с человеком, которому вы доверяете и который знает программиста. Вы бы доверяли этому программисту по доверенности и ценили бы его совет больше, чем совет совершенно незнакомого человека. Подразумевается, что человек, которого вы знаете, не будет пытаться вас обмануть; безопасное предположение чаще всего в этом сценарии.
Используя идею доверенной сети, мы можем создать простую систему для борьбы с тенденцией к предвзятости подтверждения в наших платформах социальных сетей, которую мы так охотно ищем и находим сегодня. Ниже приведен высокоуровневый проект такой системы.
Технический дизайн на высоком уровне
Цель состоит в том, чтобы построить и поддерживать граф доверия, по которому мы можем перемещаться, чтобы выявить противоположные точки зрения. Следующая последовательность является предполагаемым вариантом использования. Эта система носит кодовое название CounterView, надеюсь, по очевидным причинам.
- Пользователь находит статью в одной из своих лент социальных сетей.
- Статья — это то, с чем этот пользователь уже согласен.
- Вместо того, чтобы читать его, пользователь может запросить CounterView со ссылкой на статью, с которой он уже согласен.
- Статья анализируется и классифицируется как отчет по набору из одной или нескольких тем.
- Статья также помещается в единую (возможно, политическую) корзину на основе ее автора, местоположения и других метаданных. Сегменты включают левый, центральный левый, центральный, центральный правый, правый. Сегменты просто представляют спектр и могут быть переименованы для использования вне политики.
- Предполагая, что статья была левоцентристской, сеть доверия будет пройдена, чтобы найти людей, которые в значительной степени считаются правоцентристами, основываясь на их мнении и мнениях других в сети доверия.
- Вместо этих правоцентристских кандидатов пользователю будет рекомендована их работа, которая была классифицирована как имеющая те же наборы тем (с некоторым уровнем достоверности).
Ниже приведен общий обзор того, как может выглядеть образец запроса. Здесь нет никакой магии. Большинство вещей будет создано вручную. Частью процесса добавления кого-либо в доверительную сеть будет предоставление им и их работе какой-то разумной классификации в политическом (или любом другом бинарном) спектре. Эта классификация служит только для определения того, какие статьи отличаются друг от друга, а не одинаковы.
Полезность этого зависит от наличия достаточно заполненного графа с участием тех, кто в графе. Это также зависит от способности людей доверять людям, с которыми они не согласны; то, в чем я все еще очень уверен, возможно. В этом контексте для одного человека доверие другому означает, что один человек верит, что другой человек искренне верит в то, что он утверждает. Это не значит, что один человек соглашается с другим. Это означает, что один человек считает, что другой человек может точно изобразить свои взгляды, не искажая их, чтобы выиграть спор. Каждый в графе должен иметь возможность участвовать в разговорах, которые включают факты и причины, а не оппортунистические обзывания.
Эта система зависит от решения небольшого количества дискретных задач:
- Программный сбор всей работы отдельных лиц на графике. Нужны хотя бы заголовки.
- Программное извлечение тем или вопросов из фрагментов мультимедиа. Способность определить, относятся ли два медиафайла (статьи, видео, блоги и т. д.) к одному и тому же вопросу.
- Ручное назначение членов графа отдельным корзинам на основе их мнения и мнения других участников графа. Сегменты включают левый, центральный левый, центральный, центральный правый, правый.
То, насколько каждый отдельный пользователь доверяет этому графу и этим классификациям, становится вопросом того, насколько он доверяет членам графа. В некоторой степени подграфы можно построить, выбрав несколько узлов из большего графа и используя их в качестве отправных точек.
Рост графа
График начинается с одного человека. Этот человек должен начать с добавления людей, которым он доверяет в публичной сфере. В начале график, вероятно, будет перекошенным, сильно наклоненным в одном направлении. Если весь граф состоит только из одной политической корзины, то никаких рекомендаций дать нельзя. Если это так, то необходимо попросить рекомендации у одного из доверенных лиц; люди, которым они доверяют и с которыми не согласны. Если ссылка может быть найдена и добавлена в трастовую сеть, то ее можно использовать для набора дополнительных членов аналогичным образом.
Почему бы не сосредоточиться на машинном обучении?
Многие люди ожидали, что это потребует большего машинного обучения. Это может быть мощный инструмент, но он не лишен недостатков. Цель состоит в том, чтобы познакомить людей с новыми идеями, с которыми они не согласны, таким образом, чтобы они могли доверять и понимать. Может быть трудно объяснить, почему кто-то получил предложение от нейронной сети таким образом, что он может его понять и счесть заслуживающим доверия.
Объяснение, которое кто-то может получить в системе с машинным обучением, может быть таким: «Люди, которые часто не согласны с этой статьей, считают эти статьи достойными доверия». Некоторые последующие вопросы от этого человека могут быть такими: «Почему они сочли эти статьи достойными доверия?», «Что это были за люди?», «Должен ли я заботиться о том, чтобы многие люди соглашались с чем-то?».
Я думаю, что лучшим объяснением рекомендации статьи было бы: «Эта статья была написана А и опубликована на foo.com, который считается крайне левой публикацией. Вы доверяете Б, который утверждает, что С — авторитетный автор, которого считают правоцентристским. Вот несколько статей C на эту тему». Я думаю, что это намного ближе к тому, как мы функционируем в нашей офлайн-жизни.
Еще одна веская причина избегать машинного обучения для чего-то подобного — это обслуживание. Машинное обучение в масштабе, как правило, требует более высокого уровня навыков. Также, как правило, требуется больше данных и больше вычислений. Дизайн в этом посте может быть понят и реализован студентами бакалавриата информатики с использованием бесплатного стабильного программного обеспечения с открытым исходным кодом.
Тем не менее, машинное обучение определенно имеет свое место в этой системе. Ручное извлечение тем из каждой статьи, когда-либо написанной каждым человеком в графике, пугает.
Вывод
Эта идея довольно грубая, но я чувствую, что важно воплотить ее в жизнь. Кто когда-либо читает это, не стесняйтесь повторять это, давать мне отзывы или просто украсть это и заставить его работать. Подобные инструменты будут важны для нашего долгосрочного здравомыслия в наш цифровой век.
