Философские мысли о будущем дизайне рекомендательных систем
На могиле Карла Маркса на лондонском кладбище Хайгейт написано:
«Философы только интерпретировали мир по-разному. Но дело в том, чтобы это изменить.
Я согласен с Марксом и, наверное, поэтому бросил философию.
В предыдущем посте я рассказал, как и почему размытость аналоговой и цифровой реальности ставит нас перед серьезными этическими вопросами, связанными с чем мы делаем и кем мы хотим быть . В этом посте я хотел бы поближе познакомиться с тем, что некоторые философы говорили о том, что значит сказать, что что-то хорошо для кого-то. Затем я хотел бы рассмотреть, как эти учетные записи соотносятся с дизайном рекомендательных систем, которые якобы служат для рекомендации хороших товаров лицам, участвующим в процессе, широко называемом персонализация.
В частности, этот пост был вдохновлен чтением проницательной книги философа Ричарда Краута Что хорошо и почему: этика благополучия. Здесь Краут дает нам три конкурирующих версии хорошего: конативное, гедонистическое и развитие.
Конативное представление о благе
Давайте начнем с самого интуитивного и простого представления о хорошем. Конативный (его латинский корень, conari, означает попробовать или приложить усилия) имеет следующий вид:
«Если G хорош для S, это должно быть потому, что S преследует его, или желает этого, или любит это - или будет, при определенных условиях, преследовать, желать или любить это».
С этой точки зрения мы предполагаем, что то, что человек ищет, любит или нажимает, должно быть хорошо для человека, иначе зачем бы ему было потратить свое время на поиск или щелкание по нему? Собирая историю просмотров, мы можем довольно точно определить, что для вас хорошо. Если бы его не было, вы бы его не искали. Как отмечает Краут, конативная версия наивно привлекательна по нескольким причинам. В основном это дает человеку «особую роль» в определении того, что для него хорошо.
Согласно условному описанию добра, если я хочу выяснить, как лучше всего подделать свою смерть, чтобы получить страховку жизни с помощью поиска Google, фальсификация моей смерти - это хорошо для меня. Затем Google будет искать мне рекламу, соответствующую этому интересу (при условии, что такая реклама существует). Такой подход, кажется, отражает постмодернистскую культуру Интернета, все идет; К счастью, это также является хорошей бизнес-стратегией, когда вы не судите об интересах своих клиентов. Например, Facebook по-прежнему не будет проверять факты политической рекламы, размещаемой на ее платформе, хотя Google и Twitter предприняли некоторые шаги для мониторинга (Google) или полного запрета политической рекламы на своих платформах (Twitter).
Либерализм и лояльность
Жители Запада особенно влюблены в конативную версию. Похоже, он уважает либеральный принцип автономии, который мы так высоко ценим. Идея состоит в том, что у человека должен быть свободный выбор в том, что он преследует, без внешнего давления, например, со стороны правительства. В Америке эта вера священна. Показательный пример: в настоящее время есть люди, протестующие против того, чтобы им сказали носить маски для лица во время возобновления всемирной пандемии.
Возможно, самым влиятельным сторонником такой точки зрения был Джон Стюарт Милль, который утверждал, что хорошее общество - это такое общество, в котором люди имеют свободу развивать свой характер, следовать своему видению хорошей жизни и участвовать в публичных дебатах. Милль беспокоился, что люди не могут процветать без определенной защиты от тирании большинства и общества. Он также считал, что человек не может быть человеком с характером, если его желания и побуждения не являются его собственными.
Совсем недавно политический философ Джон Ролз поддержал аналогичную либеральную, плюралистическую концепцию блага в своей влиятельной книге Теория справедливости. Для Ролза первичные блага - это объекты ценности, которые, как предполагается, хочет каждый разумный человек. На Ролза глубоко повлияла философская традиция контрактуализма, восходящая, по крайней мере, к Левиафану Гоббса. В конце концов, Ролз оставляет на усмотрение отдельных обществ решать, как распределять эти первичные блага справедливым способом, который, как он утверждает, достигается за счет следования весьма специфической процедуре распределения (воплощенной в его вуаль невежества мысленного эксперимента) и внимание к определенным особенностям его окончательного распространения.
Как признал даже Google, персонализированные рекомендации и личные данные, на которых они основаны, могут негативно повлиять на нашу личность и, следовательно, могут иметь серьезные последствия для всего общества. В нынешнем виде машинное обучение не может принимать во внимание видение хорошей жизни и связанные с этим моральные убеждения, делая так называемые персонализированные прогнозы.
Короче говоря, конативная версия привлекательна, потому что льстит нам как уникальным людям, как это делал старый слоган Apple «Думай по-другому». Ирония в том, что, решив думать иначе и купить продукт Apple, мы на самом деле думаем так же, как и все, кто покупает тот же серийный компьютер.
Гедонистский взгляд на добро
Перейдем ко второму важному счету хорошего. Грубо говоря, гедонизм - это точка зрения, которая:
«Всякий раз, когда для S хорошо то, что происходит какое-то положение дел, это событие хорошо для S просто и только потому, что он доволен; и всякий раз, когда S доволен, это хорошо для S просто и только потому, что он доволен ».
Другими словами, если покупка новой пары обуви, рекомендованной мне в рекламе на Facebook, вызывает у меня удовлетворение, то покупка обуви для меня идет на пользу.
Опять же, было бы полезно взглянуть на различие Джона Стюарта Милля между качеством и количеством удовольствия. Милль говорит, что, выбирая между двумя видами деятельности, которые доставят нам некоторое удовольствие - и, следовательно, полезны для нас, - мы должны выбрать деятельность, дающую нам большее качество удовольствия, а не просто самое большое количество.
Я не совсем уверен, как можно определить качество удовольствия, не обращаясь к некоему внешнему объективному списку удовольствий. Как известно, Сократ сказал: Лучше быть неудовлетворенным человеком, чем довольной свиньей; Лучше быть неудовлетворенным Сократом, чем довольным глупцом . Точно так же количество удовольствия, кажется, почти невозможно надежно или точно измерить у разных людей, как утверждали Amartya Sen и другие.
Еще одна интересная критика такой точки зрения дана философом Джудит Джарвис Томсон в ее книге Доброта и совет 2003 года. Она утверждает, что приравнивать добро к тому, что приносит нам наибольшее удовольствие или что происходит, является настолько общим, что не имеет смысла. По ее словам, Добро всегда в некотором роде, в определенном контексте, для некоторых существ.
Описание Томсона напоминает телеологическое, или функциональное описание блага Аристотеля. Телеология («цель» или «цель») предполагает, что вещи имеют конкретную цель или функцию по своей природе. Нож хорош для резки овощей, но плох для массажа. «Мы не можем делать простых, общих заявлений о том, что хорошо», - возражает Томсон. Доброта очень контекстна и сложна и будет зависеть от определенных фактов о вашей личности и окружении. Хотя в контексте приложения вам может быть полезно порекомендовать этот конкретный продукт, этот же продукт может быть плохим для вас в другом вне приложения.
Развитие блага
Перейдем к нашему заключительному отчету о добре. Этот отчет во многом опирается на аристотелевское представление о человеческом процветании. Согласно Крауту, цветение (вы знаете его родственный термин «цветок») означает:
«Развиваясь должным образом и полностью, то есть путем роста, созревания, полного использования возможностей, способностей и способностей, которые (при благоприятных условиях) [человек] естественно [имеет] на ранней стадии [своего] существования».
Теория развития предполагает, что человеческие жизни следуют, по крайней мере в общем виде, базовой структуре развития и что это хорошо, если позволить раскрывать эту структуру в течение всей своей жизни. .
С точки зрения развития, то, что хорошо для кого-то, - это все, что способствует расцвету его потенциальных возможностей, способностей и способностей; точно так же плохо все, что уменьшает эти же вещи. В частности, Краут говорит, что человеческая жизнь включает в себя «созревание и осуществление определенных когнитивных, социальных, эмоциональных и физических навыков».
Один из релевантных когнитивных навыков, упомянутых выше, - это способность принимать решения относительно собственной жизни. Краут пишет:
«Одно из великих благ, которое ребенок должен научить приобретать и получать от него удовольствие, - это способность принимать собственные решения о важных для него областях своей жизни: какой он будет работать, на ком он женится, с кем он будет связывать, где будет жить и тд. Если основных точек выбора не существует, если для него спланированы все важные аспекты его жизни, его когнитивные способности не оспариваются, и ему не требуется упражнять свое воображение ... Если я возьму на себя ответственность контролировать все в вашем окружении , так что у вас больше нет эффективного контроля над тем, что вы делаете, тогда я причиню вам большой вред, превратив вас в пассивное существо, у которого нет полномочий или навыков принятия решений ».
Теперь можно возразить, что эти рекомендательные системы предлагают относительно безобидные и неважные вещи, такие как фильмы для просмотра или веб-сайты для посещения. Тем не менее, тенденция все больше движется в сторону автоматизированного принятия решений и рекомендаций. Социальные сети и приложения для знакомств уже влияют на то, с кем мы сотрудничаем и с кем поддерживаем романтические отношения. Для получения дополнительных сведений по этой теме см. Другую мою статью на Medium о религии и рекомендательных системах здесь.
Агентские навыки автономии: становление личностью
Философ-феминистка Диана Мейерс приходит к аналогичным выводам в своей книге Быть собой: эссе об идентичности, действиях и социальной жизни. Она утверждает, что людям необходимо сочетание трех агентских навыков, чтобы проявлять независимость: самопознание, самоопределение и самоуправление. Вместе эти три навыка она называет автономной компетенцией.
Мейерс описывает, как автономная компетентность связана с развитием человека в течение ее жизни:
Осуществляя автономную компетенцию, субъекты-агенты осознают свои действительные аффекты, желания, черты, способности, ценности и цели, понимают реалистичные
личные идеалы и стремятся привести первые в соответствие со вторыми. Компетенция автономии запускает разрозненный процесс самопонимания и самовосстановления методом проб и ошибок, который обеспечивает временную аутентичную идентичность. Автономные действия - это те, которые вводят в действие атрибуты, составляющие подлинную идентичность человека, и действия, которые способствуют развитию его подлинной идентичности. Таким образом, на мой взгляд, концепция автономной компетенции обеспечивает философскую психологию и эпистемологию аутентичной идентичности и самоопределения.
Отчет Мейера хорошо согласуется с текущими обсуждениями этики рекомендательных систем, которые сосредоточены на интуитивной прозорливости и проблемах пузыря фильтров. Возможно, мы сможем, по крайней мере, до некоторой степени, ввести в действие эти конструкции самопознания, самоопределения и самоуправления и использовать их для выработки рекомендаций. Если мы можем это сделать, то у нас действительно есть персонализированные рекомендации. В этом последнем разделе я кратко рассмотрю альтернативный подход к персональным рекомендациям, основанный на этом понятии развития.
Гуманистическая персонализация: добро выбираете вы
Идеи девелопментализма уходят корнями в прошлое. Однако важно то, что их нужно периодически пересматривать, чтобы мы не забыли о них. Знаменитый психотерапевт Карл Роджерс впервые применил личностно-ориентированный подход в начале 1960-х годов, который стремился воспитать полностью функционирующих людей, которые полностью раскрыли свой потенциал как личности. Совсем недавно философы Марта Нуссбаум и Амартия Сен отстаивали подход возможностей к правам человека, основанный на схожих идеях. Мы предполагаем, что нечто подобное может обеспечить прочную этическую основу для персонализированных рекомендаций.
Гуманистическая персонализация, как я ее себе представляю, повлечет за собой два основных изменения нынешней парадигмы рекомендательных систем, основанных на поведенческих больших данных (BBD). Эти системы в значительной степени обучены предоставленным в цифровом виде бессознательному целенаправленному поведению (Роб Китчин и Мартин Додж называют эти данные capta) и могут не соответствовать вашим личным предпочтениям. повествование. Этот конфликт вносит фундаментальное герменевтическое напряжение в персонализацию:
Что на самом деле означают эти зарегистрированные поведения на самом деле? А кто решает?
Кроме того, данные о вас - особенно если они получены из баз данных скрытых брокеров данных - могут не отражать вашу личность. В идеале гуманистическая персонализация позволила бы вам выбрать собственное мнение о добре и изменить способ, которым вам рекомендуются вещи, учитывая ваше собственное, сознательное, рефлексивное понимание самого себя.
Во-вторых, гуманистическая персонализация сместится в сторону от оптимизации глобальных функций затрат (для всех людей в обучающей выборке) и объективных показателей производительности, таких как точность, отзывчивость и т. Д. или NCDG. Применение математических формулировок« справедливости , как если бы мы могли просто превратить вещи в задачу ограниченной оптимизации, упускает суть. Вместо этого нам нужен сдвиг парадигмы в сторону использования методов качественной социальной науки. Инструменты интерпретативной социальной науки были разработаны для выявления важных качественных измерений явлений, таких как значение и повествование, которые не поддаются количественной оценке. Пришло время их использовать.
Повествовательная точность - это субъективное соответствие рекомендаций самооценке.
Проще говоря, гуманистическая персонализация будет направлена на оптимизацию повествовательной точности, что, по общему признанию, является гораздо более сложной и менее четко определенной задачей. Но в конечном итоге любая «оптимизация» будет основываться на субъективной оценке предмета персонализации.
В заключение, если мы действительно надеемся использовать такие технологии, как машинное обучение, чтобы приблизиться к хорошей жизни, мы должны понимать основные аспекты того, что делает человеческую жизнь стоящей, и как люди развиваются в течение всего курса. их жизней. Такие разные философы, как Гегель, Мид, Фуко, Аксель Хоннет и Джудит Батлер, глубоко исследовали нашу врожденную потребность в признании со стороны других. Наши представления о себе неразрывно связаны с тем, как другие думают о нас. Гуманистическая персонализация направлена на то, чтобы вернуть термины цифрового дискурса людям, которые в конечном итоге знают себя лучше всего.
Пока наши рекомендации не начнут оптимизироваться для повышения точности повествования, наши действия больше будут напоминать поведенческие, а не персонализированные рекомендации.
