Могут ли машины говорить правду?
Будет А. Остановить фальшивые новости? Или сделать хуже?
Вы не можете верить всему, что читаете. Особенно в Интернете.
С появлением таких социальных сетей, как Twitter и Facebook, распространение фейковых новостей становится все более неприятной проблемой.
А поскольку дезинформация распространяется со скоростью кликов, нам становится все труднее отличать фальшивку от реальности.
Но могла ли машина сделать это за нас?
Дождливым декабрьским днем 2016 года Эдгар Мэддисон Уэлч поехал из Северной Каролины в Вашингтон, округ Колумбия, на расстояние почти 400 миль, чтобы сходить в пиццерию. Однако он не собирался заказывать пиццу. Позже Эдгар сказал детективам, что расследует новость. В новостях говорилось, что в этой пиццерии действовала группа по торговле детьми с целью сексуальной эксплуатации.
Эдгар видел эту историю в Интернете.
И он верил, что это было на самом деле.
Он вошел в пиццерию в 15:00 того же дня с заряженным револьвером 38-го калибра и штурмовой винтовкой. В итоге он трижды выстрелил в ресторан. К счастью, все сотрудники и клиенты сбежали до того, как он открыл огонь.
Но менее чем через полчаса Эдгар вышел из здания с поднятыми руками и сдался полиции уже на месте происшествия.
Он не нашел никаких доказательств того, что прочитал в Интернете новость. Не было детей, подвергшихся насилию, как утверждается во многих видеороликах на YouTube, не было заговора, которым поделились многие пользователи Facebook и подписчики Twitter.
Все это было подделкой.
Подобные фейковые новости - явление не новое.
Записи ложных историй, маскирующихся под реальность, можно проследить вплоть до Древнего Египта.
И роль технологий в их распространении тоже не нова.
Изобретение печатного станка в 1439 году фактически облегчило и увеличило распространение фальшивых и вводящих в заблуждение текстов.
Но Интернет - и особенно появление социальных сетей - позволил фейковым новостям распространяться с ранее мыслимой скоростью. Намного быстрее, чем его можно развенчать, и он может охватить гораздо более широкую аудиторию, чем когда-либо прежде.
Практически невозможно остановиться.
Исследователи из Стэнфорда провели исследование, показавшее, что даже студенты, хорошо разбирающиеся в социальных сетях, не могут отличить фейковые новости от настоящих.
И если фейковые новости могут заставить человека подстрелить пиццерию, наша способность остановить их распространение может предотвратить аналогичные - или даже того хуже - инциденты в будущем.
Но, возможно, нам и не нужно.
Сейчас идет глобальная конкуренция за разработку программного обеспечения, способного находить и распознавать фальшивые новости.
Под названием Fake News Challenge более 100 команд из 25 стран борются за решение, которое поможет победить фальшивые новости.
И они надеются сделать это с помощью машинного обучения.
Машинное обучение - это то, на что это похоже. Это метод создания программного обеспечения, которое не просто выполняет то, что запрограммировано, оно может учиться.
Мы видим машинное обучение в действии с помощью программного обеспечения для распознавания речи, такого как Siri или Amazon Echo, или программ перевода, таких как Google Translate.
Это также важно для развития искусственного интеллекта.
Но чтобы сделать A.I. Чтобы определить фальшивые новости, вы должны создать машину, которая не только умеет читать, но и анализирует содержание новостной статьи.
Один из способов сделать это - использовать функцию обнаружения стойки.
Обнаружение позиции - это метод подтверждения утверждения путем сбора и сравнения ряда новостных статей на общую тему и определения того, согласны они или нет друг с другом.
Другими словами, машина организует новости в зависимости от того, какую позицию они занимают.
Допустим, в Интернете ходят новости, в которых говорится, что небо падает. Чтобы проверить, правда это или нет, наша машина для проверки фейковых новостей сначала ищет все статьи, в которых упоминается падающее небо, и разделяет их на три категории:
1. Те, кто согласен с утверждением, что небо падает.
2. Несогласные.
3. И те, кто не занимает твердую позицию.
Это довольно простая техника, которую применяют люди, проверяющие факты. Но наша машина может сделать это намного быстрее, имея гораздо больший объем данных.
Это больше, чем просто составление базы данных новостных статей и определение того, какой аргумент является наиболее популярным или наиболее многочисленным. Это была бы просто поисковая машина.
И это ужасный способ установления истины, поскольку дезинформация чаще распространяется и распространяется чаще, чем правда.
Таким образом, машина должна знать, какой аргумент наиболее убедителен.
Один из способов сделать это - сделать так, чтобы наша машина по проверке фальшивых новостей определяла, ссылаются ли статьи на их источники или нет.
Если в статье утверждается, что небо падает, но нет никаких проверяемых источников, машина может смело предположить, что этот аргумент - не что иное, как безумные предположения.
В конечном итоге для определения позиции по-прежнему требуется, чтобы человек просматривал статьи и источники, чтобы сделать окончательное решение, но автоматизация процесса сбора и организации того, что может быть миллионами слов текста, может значительно сократить время, необходимое для отделения фактов от вымысла.
Но фейковые новости вот-вот перейдут от текста к аудио и даже видео.
Опять же, исследователи из Стэнфорда находятся в авангарде науки о фейковых новостях. Они разработали программу, которая может превратить видеозаписи любого человека в марионетку для захвата движения.
Вот демонстрация с участием бывшего президента Джорджа Буша, президента России Владимира Путина и президента Дональда Трампа.
Теперь объедините это с технологией обработки звука, разрабатываемой в Университете Алабамы в Бирмингеме, где можно обработать только несколько минут звукового образца таким образом, чтобы генерировать любую речь, какую пожелает ваше лживое сердце, и вы можете сделать довольно много кто угодно делает или говорит все, что вы хотите - независимо от того, правда это или нет.
И это уже сделано.
Исследователи из Вашингтонского университета использовали нейронную сеть - другой тип обучающей машины - для синтеза аудио и видео с изображениями бывшего президента Барака Обамы. Программа выполняет это путем анализа и изучения движений лица президента Обамы и сопоставления их с любым звуком, который вы хотите ввести. Это может быть любая запись выступления Обамы, аранжировки или манипуляции с ней любым способом, которым вы хотите, или использование имитатора или синтезатора звука, чтобы заставить его говорить то, чего он никогда раньше не говорил.
С помощью этой технологии легко представить сценарий, в котором фальшивое видео с участием важного мирового лидера может посеять международную неразбериху или даже конфликт.
Так как машинное обучение может помочь нам выявлять фейковые новости, оно может на порядок усугубить проблему.
Но машины могут снова спасти нас.
Используя увеличение Эйлера для видео, команда Карнеги-Меллона смогла использовать машинное обучение для анализа видеозаписи человека и определения, есть ли у него пульс. Путем сортировки тысяч часов видеозаписей программа научилась распознавать несоответствия кровотока и частоты сердечных сокращений в поддельных видеозаписях. Машина могла делать это в режиме реального времени, что позволяло мгновенно опровергать поддельные видео.
Но пока есть машины, которые могут обучаться, всегда будет другая программа, готовая перехитрить наши усилия по обнаружению.
Так что на данный момент фейковые новости никогда не будут побеждены. Но это не значит, что мы должны сдаваться. Лучшая защита от дезинформации - это хорошо информированный и критический ум.
Вот несколько приемов, которые вы можете использовать для повышения своей медиаграмотности и самостоятельного выявления фейковых новостей.
1. Всегда проверяйте URL-адрес.
Это может быть первым признаком того, что новостная статья может не вызывать доверия. Если у него необычное окончание, например. Com.co, скорее всего, это не настоящий новостной сайт, и статью не следует принимать за чистую монету.
2. Знайте источник.
Если веб-сайт не является авторитетным, широко известным новостным изданием с большим опытом работы, прочитайте раздел «О нас» на веб-сайте. Это даст вам информацию об организации, поставляющей новости. Он также может рассказать вам о людях, которые управляют веб-сайтом, и о том, какие предубеждения у них могут быть или какие особые интересы они могут преследовать.
3. Посмотрите цитаты в рассказе.
В достоверных новостях часто содержится много цитат экспертов или тех, кто разбирается в предмете. Если в статье мало или совсем нет цитат, вы можете быть уверены, что это не заслуживающая доверия новость.
4. Проверьте людей, которых цитируют.
Это хороший способ проверить, знают ли они, о чем говорят. Если цитируется исследование, должна быть ссылка на исследование или способ его найти.
И есть еще масса проверенных временем методов обнаружения фейковых новостей. Посмотрите их здесь: http://www.factcheck.org/2016/11/how-to-spot-fake-news/
Таким образом, машинное обучение будет иметь решающее значение в продолжающейся борьбе с фальшивыми новостями, но все будет напрасно, если мы не сможем положиться на наш проверенный и проверенный метод человеческого обучения.
Смотреть видео:
