Написано нашим директором по обучению Джемом Томасом
Мне нравятся технологии. Не сами гаджеты, а очень, очень умные технологии, которые в них встроены. Я так же возбужден изящным алгоритмом, как и любой другой мужчина. Тем не менее, большинство из нас понятия не имеют, какая сила мозга вкладывается в наши маленькие цифровые игрушки и поддерживает нашу жизнь, все более основанную на цифровых технологиях. Но это может быть очень сексуально.
Вот почему я был действительно впечатлен чистой изобретательностью технических специалистов Yahoo в создании системы для достаточно последовательного обнаружения онлайн-злоупотреблений.
Они использовали стандартные простые методы, такие как поиск оскорбительных ключевых слов, но также сосредоточились на особой яркой пунктуации, которая чаще всего украшает оскорбительные сообщения, и поиске синтаксических модальностей, которые определяют значение предложений. А потом пошли дальше, посыпав волшебной волшебной пылью искусственного интеллекта и машинного обучения, углубившись в семантику фраз, оттачивая анализ значений слов и отношений между ними. Хочу больше? Он здесь во всей своей техно-гиковской красе.
Однако не менее впечатляет то, что, по общему признанию, в своих собственных наборах данных банда Yahoo смогла идентифицировать оскорбительные сообщения примерно с 90-процентной точностью. Это означает, что они могут быть сняты или отфильтрованы. Любой, кто смутно понимает, как трудно этого добиться, будет изумлен. Великолепно!
Но ждать. Полегче, тигр. Разве мы не немного обеспокоены тем, что позволяем «машинам» делать за нас слишком много? Цифровые аборигены жалуются на проблемы с памятью? Роботы поднимаются и забирают все наши рабочие места? Алгоритмы, решающие, что мы видим, читаем, слышим в киберпространстве?
Опасение состоит в том, что мы позволяем «машинам» закрывать трещины в гражданском обществе и что это позволяет нам, как людям, снимать с себя ответственность за правильное устранение этих трещин. Скрывая беды Интернета за дозорными алгоритмами, мы все больше склоняемся к тому, чтобы не справиться с этими бедами, избегать их понимания, уменьшать нашу способность ориентироваться в них и, возможно, угрожать концепции свободы слова.
Это не для того, чтобы критиковать эти блестящие умы за работой и игрой, строящей наше цифровое будущее. Конечно, есть место для показа ужасающего контента, и технологии могут сыграть свою роль, особенно когда мы говорим о детях. Но то же самое можно сказать и о старом добром образовании, критическом мышлении, (цифровой) медиаграмотности, как цифровой, так и традиционной. Подготовка себя, молодых и старых, к блужданию по все более запутанной среде Интернета, к вынесению суждений, обучению, анализу, пониманию или отбрасыванию, имеет решающее значение для нашего выживания в цифровом будущем.
Эти навыки всегда обеспечат большую устойчивость к бедам Интернета, включая текущую причину, радикализацию, чем умная фильтрация контента. С незапамятных времен именно такие человеческие усилия и способности, которые они взращивают, позволяли человечеству развиваться и выживать в суровом мире, часто созданном им самим.
Размышляя о нашей случайной чрезмерной зависимости от технологий, я вспоминаю пословицу, согласно которой Google может дать вам 10 000 ответов на один вопрос, а хороший библиотекарь даст вам правильный ответ. Так что давайте не будем отменять ответственность человека и отказываться от его участия в борьбе со злоупотреблениями в Интернете, киберзапугиванием и радикализацией в Интернете.
