Многие люди будут сталкиваться с рекомендательными двигателями каждый день, поскольку технология все больше проникает во все аспекты жизни общества. От предложений новой музыки и фильмов до классического «Если вам это понравилось, вам также понравится…» — этот стиль искусственного интеллекта меняет жизнь потребителей. Удивительный потенциал этого ИИ невозможно переоценить, поскольку он знакомит клиентов с идеями, продуктами и услугами, которые они хотят или никогда не подозревали, что им нужны. Однако в то время, когда вокруг ИИ как отрасли возникают этические вопросы, на поверхность всплывают моральные дилеммы.

Теперь ожидается, что средний руководитель должен решить ряд этических вопросов, прежде чем внедрять решение с искусственным интеллектом. На первый взгляд масштаб проблем может показаться неуправляемым. Справляется ли современная организация с предвзятостью данных, проблемами прозрачности и безошибочностью машин, или они отказываются от инноваций, чтобы избежать сложных проблем в и без того сложной области? Что еще хуже, некоторые могут вообще отказаться от этических соображений и сосредоточиться исключительно на своей прибыли.

Особое внимание Recommender Engines к улучшению качества обслуживания клиентов выдвигает на первый план две ключевые проблемы. Вопросы сбора данных и пользовательского опыта и как сбалансировать коммерческие интересы с этическим духом. Мы встретились с техническим директором Brainpool, доктором Питером Беббингтоном и основателем Cognitive Machines Баласаравананом Венугопалом, чтобы обсудить этические вопросы, которые предприятия должны учитывать при разработке рекомендательных систем.

Искусственный интеллект в интересах пользователя

Одной из основных проблем, связанных с Recommender Engines, является то, что клиент получает от обмена своими данными. Венугопал задается вопросом о том, как обмен данными улучшает качество жизни конечных потребителей: «Для меня рекомендательные услуги имеют минимальную ценность», — объясняет он. Выгода для пользователя зависит от ряда субъективных факторов, которые клиенты будут учитывать при совершении покупок. Сэкономленное время на поиск продуктов, которые были быстро рекомендованы, качество рекомендации и актуальность продукта — все эти факторы будут учитываться покупателем.

Потребители все больше осознают, чем они делятся с организациями, что заставляет переосмыслить коммерческие рекомендательные механизмы. Если ценность, получаемая клиентом от обмена своими данными, не считается эквивалентной раскрытию их конфиденциальности, то, вероятно, мы увидим новый проект обмена данными. Д-р Беббингтон указывает на несколько примеров организаций, пытающихся смягчить эту возможность. Недавнее решение Apple заблокировать сторонние файлы cookie в Safari и обеспечить согласие пользователя на отслеживание данных приложения — заметный шаг в этом направлении.

Не существует наилучшей практики, позволяющей сбалансировать полезный пользовательский опыт с конфиденциальностью данных. Каждая отдельная организация должна понимать данные, необходимые для создания благоприятной среды для своих клиентов, и создавать рекомендательные продукты, соответствующие этому идеалу. Ясно то, что потребность клиентов в том, чтобы чувствовать, что их конфиденциальность защищена, вскоре станет не только этической проблемой, но и коммерческим императивом. Создание ИИ с учетом конечной выгоды клиентов имеет решающее значение для долгосрочного успеха конечного продукта.

Баланс коммерческого и этического

Согласование этического идеала с коммерческими стимулами — непростая задача. Многие процессы, которые можно было бы переосмыслить, чтобы отразить моральные проблемы дня, сдерживаются целями накопления богатства. Это сложная территория для рекомендательных систем медиасервисов, которые предназначены для того, чтобы пользователи как можно дольше слушали песни или смотрели видео, чтобы максимизировать доход от рекламы. Отбросив обвинения в зависимости, эти движки созданы для того, чтобы постоянно предлагать своим пользователям контент, адаптированный к их проявляемым интересам.

Для доктора Беббингтона именно здесь начинается разрыв между коммерческими и этическими императивами. «То, что началось с большего количества кликов и предложения большего количества контента, в конечном итоге приводит к поляризации и террористическим актам», — говорит он нам. Создание рекомендаций для привлечения большей части аудитории ничего не сделало для того, чтобы бросить вызов врожденным предубеждениям, присущим людям. Система, созданная для того, чтобы подпитывать существующие мнения человека, ничего для него не делает, кроме как создает онлайн-экосистему правоприменения. Кратковременные взгляды за пределы этой эхо-камеры не только вызывают шок, но и еще больше укрепляют взгляды, поддерживаемые рекомендациями. Венугопал объясняет нам свое беспокойство по поводу того, что эта система поддерживает бизнес-модели организаций, только стимулируя их «расти больше и извлекать выгоду из всех возможных путей».

Нахождение баланса

По мере того, как законодатели по всему миру постепенно догоняют быстрый рост технологий, ясно одно: они будут возлагать на предприятия ответственность за то, как используются их продукты. От технологических компаний «большой четверки», представляемых перед правительственными комитетами, до регламента GDPR 2018 года началось движение к законодательству о технологиях, управляемых данными. Те, кто не взял на себя ответственность за свою практику, будут привлечены к ответственности. Чтобы опережать изменения в законодательстве, важно обеспечить, чтобы механизмы рекомендаций были настроены так, чтобы приносить пользу потребителю, не создавая вакуума противоположных мнений.

Перед лицом этого будущего у наших экспертов было два противоположных взгляда. Венугопал с оптимизмом смотрит на положительное влияние государственного законодательства, считая его «естественной коррекцией курса». Доктор Беббингтон считает, что для того, чтобы любые изменения действительно оказали положительное влияние на потребителя, необходимы гораздо более решительные действия, и выступает за фундаментальное переосмысление наших коммерческих целей. Нынешнее положение дел не совсем ужасно, но продолжать идти по нынешнему пути значит наносить еще больший ущерб нашему обществу. Бросьте вызов своему бизнесу, чтобы поставить этику выше коммерческих стимулов и создать выгодный опыт для ваших клиентов.