Машинное невежество и наше будущее
Модели данных и недостаток суждений ведут нас к катастрофе.
Когда я читаю последний информационный бюллетень Авинаш — Машинный интеллект и ваше будущее!, я думаю о своем собственном карьерном пути и о том, как в последние месяцы я стал гораздо больше беспокоиться и беспокоиться о препятствующих рисках злоупотребления данными. в масштабе.
Ранее в этом году я целыми днями готовился к своей презентации Супернеделя Амель Хамель и еще больше к Маркетинговому фестивалю. Я углубился в увлекательные истории о мошеннических экспериментах с машинным обучением и другие страшные истории с данными, которые я подытожил в Судный день для нас. Некоторые участники сказали, что я напугал их до чертиков… Правда в том, что я сам испугался!
Перед интервьюированием Кристофера Уайли я тоже прочитал все, что мог, часами смотрел отзывы Уайли и Цукерберга и понял, что со времен Cambridge Analytica мало что изменилось; таким запутанным и злым был/есть Facebook; и сколько других подобных Cambridge Analytica существует.
Цитата из Новый пузырь доткомов уже здесь: это называется онлайн-реклама» задела за живое:
Люди теряют «волю к воле». Хитрые маркетологи могут предсказывать наше поведение и манипулировать им. Facebook знает вашу душу. Google взламывает ваш мозг.
За данными большое будущее
«Одно слово: данные. У данных большое будущее».
Эта адаптация знаменитой пластиковой цитаты из Выпускника попала в точку — я сам использовал ее в некоторых старых презентациях. Это то, что нам сказали, и то, во что я верил. У меня самого и у многих моих коллег-цифровых аналитиков замечательная карьера.
Но будущее не такое светлое или только частичное, если мы доверяем Великому Авинашу.
Независимо от вашей работы, если основные действия относятся к кластерам данных и прогнозов, ваша работа подвергается огромной опасности.
Минимально желательная ситуация состоит в том, что ваша работа связана с суждением и оценкой суждения. — Авинаш
Я разделяю оценку Авинаша о том, что работа, связанная с данными и прогнозированием, может очень скоро быть заменена машинным обучением и ИИ, и нужно стремиться к тому, чтобы работа «вынесения суждений» оставалась ценной.
Данные как без суждения
Что меня действительно беспокоит — и то, что я наблюдаю почти ежедневно, — это общее отсутствие суждений со стороны маркетологов и аналитиков. Отсутствие суждения о том, как собираются данные и как они превращаются в некую религиозную Святую Истину. Отслеживается, как массы были приучены принимать каждое их действие, каждое движение и каждое настроение. В конце концов, большинство людей думают, что им нечего скрывать, и, поскольку они все равно будут получать рекламу, лучше получить целевую рекламу. Ты получил это! Целенаправленный — выбранный в качестве объекта внимания или нападения…
Массы приучены принимать каждое их действие, каждое движение и каждое настроение отслеживается.
Поставщики, помня о наших наилучших интересах, и ведущие голоса в нашей отрасли сказали, что мы должны сливать все данные, которые мы можем найти, в какое-то болото больших данных; передать бразды правления высшему разуму; и это автоматически дало бы нам оружие для масштабного обмана и манипулирования целевой аудиторией — выжать немного больше внимания, получить немного больше прибыли. Повторяйте до отвращения до… до чего?
Когда я писал эту статью, я наткнулся на тред LinkedIn (на французском языке) об интеграции Google Cloud AutoML с Kaggle. Майкл Альбо, генеральный директор местной консалтинговой фирмы по науке о данных и общественный деятель, поделился своим беспокойством по поводу того, что люди без каких-либо реальных знаний в области науки о данных смогут конкурировать с проверенными и настоящими учеными данных. Там, где одни видят неизбежную демократизацию науки о данных, другие видят опасность использования этих очень мощных инструментов в качестве черных ящиков. Если мы примем данные, машинное обучение и ИИ, в конечном счете, послужат более важной цели информирования о решениях, которые могут повлиять на реальных людей, также возрастает риск того, что эти системы потерпят неудачу, введут в заблуждение и обманут. Термин машинное обучение состоит из двух слов, и я боюсь, что аспект обучения, который является важным компонентом развития суждений, слишком легко упускается из виду.
Если мы примем данные, машинное обучение и ИИ, в конечном счете, послужат более важной цели информирования о решениях, которые могут повлиять на реальных людей, также возрастает риск того, что эти системы потерпят неудачу, введут в заблуждение и обманут.
Впереди опасный поворот
Я думаю, что слепая вера в данные, в те машины и модели, которые определяют нашу повседневную жизнь, опасна. Я думаю, что гиперцелевая персонализация в масштабах, которая может посеять хаос в демократиях, опасна. Я думаю, что риск творить зло — даже не осознавая этого — становится серьезно опасным.
Я не могу судить о других отраслях, но пространство цифрового маркетинга и аналитики особенно подвержено риску падения на темную сторону. Несмотря на появление GDPR, CCPA и ITP — все меры направлены на предотвращение злоупотреблений и защиту потребителей — продавцы играют в кошки-мышки с регуляторами. Пока я пишу это, каждый из этих поставщиков — будь то аналитика или рекламные сети — ищет способы более точного сбора большего количества данных. Некоторые из них находятся на грани соблюдения и притворяются прозрачными, изо всех сил пытаясь обойти право потребителей на свободу воли и уважение. Мои коллеги по маркетингу и аналитики ищут способы продолжать собирать как можно больше данных, соблюдая при этом требования, потому что они в основном рассматривают данные как де-факто деловое право.
В конце концов, разве маркетинг не всегда был игрой убеждения? Да, конечно, за исключением того, что люди теперь являются объектом пропаганды и манипуляций с беспрецедентной точностью и масштабом.
Несмотря на мир без файлов cookie и Интеллектуальное предотвращение отслеживания, которые должны серьезно ограничить их возможности отслеживать вас, ни один поставщик не пострадает серьезно. Наоборот, эти инициативы только подтолкнули к созданию более умных способов сбора еще большего количества данных. Можете ли вы представить себе одного поставщика, говорящего: Наш продукт не так хорош, как раньше, из-за GDPR/CCPA/ITP? Конечно нет, они будут хвастаться перед своими клиентами способностью отслеживать вас лучше, чем когда-либо прежде!
Это ваша цифровая жизнь
Знаменитое приложение Facebook This Is Your Digital Life стало вектором, с помощью которого Cambridge Analytica смогла собрать информацию о миллионах людей.
Вы понимаете, что прямо сейчас, в этот самый момент, в большинстве рекламных сетей имеется больше данных, чем когда-либо было у Cambridge Analytica?
Данные не безобидны. Данные не абстрактны, когда речь идет о людях. Эксплуатируются не данные, а люди. Это не данные и сети, на которые влияют и которыми манипулируют, это вы. - "Эдвард Сноуден"
Каковы ваши ограничения как цифрового маркетолога или аналитика? Где красная черта, которая заставит вас сказать: «Нет, я не хочу быть винтиком в системе?»
Во многих смыслах я чувствую, что достиг этого предела.
Например, этично ли для финансовой организации включать трекеры рекламных сетей, когда вы просматриваете свои финансовые данные? Простой вопрос с захватывающим диапазоном ответов!
Для меня дилемма решается легко:
Когда вы находитесь в состоянии входа в систему, когда вы просматриваете очень конфиденциальные личные данные, очень важна очень строгая практика обработки данных, и обмен поведенческими данными со сторонними рекламными сетями не является тем, что я считаю этичным.
Это одна из многих историй, которые я хочу исследовать дальше. Есть и другие эксперты, поднимающие флаг сомнительной этики и злоупотреблений служебным положением, особенно на канале data-protection-priv на #Measure Slack. Есть возможность сотрудничать, определять лучшие практики, методы и инструменты. Однако могут быть случаи, когда мы должны избавиться от бюрократизма, перестать избегать сложных вопросов и вызывать тех, кто мешает этичному и честному использованию данных. В течение следующих нескольких недель я надеюсь поделиться своим мнением о нескольких историях, связанных с данными и конфиденциальностью, некоторыми рекомендуемыми передовыми практиками, инструментами и услугами.
И последнее замечание: если вы цифровой маркетолог или аналитик, который видит зло внутри себя, пожалуйста, свяжитесь с вами конфиденциально.
Стефан Амель — опытный независимый консультант по цифровому маркетингу и аналитике, новатор, преподаватель и спикер, проявляющий большой интерес к конфиденциальности пользователей и этичному использованию данных.
Если вам понравилась эта статья, вы должны подписаться на меня в Facebook или Twitter, подключиться к LinkedIn и, пока вы это делаете, почему бы не нажать на милые хлопающие ладошки слева и не подписаться на меня в Средний!
