(В котором я пытаюсь оправдать перед собой то, что я провел — очень великолепное, дающее пищу для размышлений — утро, посещая мероприятие, посвященное доверию к банковскому делу, вместо того, чтобы заниматься машинным обучением, которым я занимаюсь).

Короче говоря, доверие к банковскому делу имеет больше общего, чем вы можете себе представить, с доверием к ИИ. Оба борются с технологическим прорывом (хотя и с противоположных сторон уравнения), а также с проблемами, связанными с разнообразием и прозрачностью. Возможно, один может учиться у другого.

Найдется немного отраслей, столь же ненавидимых, как банковское дело, в которых катастрофический крах, подорвавший уровень жизни большинства, не имел столь незначительных последствий для его создателей. Сектор продолжает платить штрафы за прошлые проступки, которые, как могли бы заметить немилосердные комментаторы, расцениваются как простая плата за ведение бизнеса, так что финансовые штрафы, похоже, мало что меняют в поведении. К настоящему времени по всему миру было наложено штрафов на сумму 320 миллиардов долларов. Достаточно, отметил участник дискуссии Марк Карни, чтобы выделить 5 трлн долларов на кредитование домашних хозяйств и предприятий.

Напротив, технологии искусственного интеллекта (или, точнее, способы их использования) сами по себе подвергаются общественному контролю, поскольку их потенциал для предоставления преимуществ и власти становится все более очевидным. Компании ИИ находятся на гораздо более ранней стадии своей карьеры, чем банки, но обещают быть столь же важными для общества.

Обе отрасли работают на мировой арене, и усилия по их регулированию или разработке этических кодексов должны преодолевать географические и культурные границы.

Заслуживает доверия? Закон, этика и культура в банковской сфере была дискуссия, организованная Советом по банковским стандартам и проведенная в Банке Англии. Видео доступно здесь.

Профессионалы?

У врачей есть клятва Гиппократа; бухгалтеры и юристы могут аналогичным образом апеллировать к своим этическим стандартам, кодифицируя то, что считается морально допустимым. В отличие от этого, делегаты на мероприятии Банка Англии нарисовали картину того, как младших сотрудников в банках заставляют действовать таким образом, который противоречит их личному пониманию того, что правильно. Это просто потому, что не существует такого этического кодекса, который можно было бы обжаловать (или осуждать).

Переход к такой профессиональной банковской деятельности был решительно одобрен как один из проверенных способов создания культуры, в которой успех измеряется другими способами, а не только чистой прибылью.

Исследователи и практики ИИ пытаются опередить кривую, разрабатывая этические кодексы до того, как ИИ будет установлен, как сейчас банковское дело. Принципы Asimolar AI и корпоративное Партнерство по AI — две такие инициативы. Новые Хозяева Вселенной стремятся избежать того, чтобы их считали безответственными, эгоистичными и отстраненными.

Созреют ли такие инициативы к тому времени, когда банковское дело будет полностью разрушено финтехом (конечно, не только с поддержкой ИИ), поможет определить, является ли получившаяся культура такой же гнилой, как и та, которую она заменяет. Как бы то ни было, один участник назвал технологию поводом для оптимизма, что привело к переходу власти к потребителю, который будет использовать свою власть, чтобы выбирать заслуживающие доверия бренды.

Прозрачность

Прозрачность необходима для установления доверия в банковской сфере. Параллели здесь с алгоритмической прозрачностью очевидны, и их так же трудно достичь на практике. Прозрачность должна гарантировать, что когда принимаются решения, их можно объяснить, а люди, которые их принимают, несут ответственность. Он должен предоставлять возможность тем, кто принимает решения, подвергать их сомнению и участвовать в усилиях по совершенствованию процесса их принятия. Кумовство, кумовство и конфликт интересов почти по определению должны быть разоблачены.

Марк Карни отметил, что в наши дни протоколы комитетов Банка Англии по денежно-кредитной политике публикуются сразу же после объявления решений по процентным ставкам, и все же они не являются эффективной коммуникацией. Для этого нужен контекст. Как и в случае с ИИ, недостаточно указать на механику и пожать плечами, что все это есть для тех, кто может видеть. Индивидуумы нуждаются в некотором посредничестве контекстуальной информации не потому, что им не хватает интеллекта, чтобы понять ее, а потому, что им не хватает времени, необходимого для того, чтобы пробраться через все это для полной прозрачности. Фейковые новости снова появились как пример неудачи традиционного «посредничества».

В качестве легкомыслия в сторону, интересно, говорит ли это что-нибудь о возможной пропасти между «делать» и «говорить», что на мероприятии, которое превозносило достоинства прозрачности, вопросы и ответы были тщательно организованы, чтобы, казалось бы, исключить любую реальную «общественность». задать вопрос (*).

Разнообразие

Собственный опрос Совета по банковским стандартам показывает, что люди, работающие в банковской сфере, несчастливы. Это пиррова победа денег, полученных за счет здоровья и благополучия. Я думал, что это налог на жадность, но, видимо, человек должен иметь чрезмерную награду и жизнь (кхм).

Было решено, что сбалансированная жизнь делает людей более эффективными и должна способствовать повышению разнообразия рабочей силы в банковской сфере. Этот последний пункт не был расширен, но я предполагаю, что логика в том, что это сделало бы банковскую карьеру более привлекательной для более широкого круга людей. Более того, существует аргумент «просвещенного личного интереса» — доверие к учреждениям связано с восприятием того, как обращаются с персоналом.

В ИИ отсутствие разнообразия может привести к предвзятости в наборах данных, предвзятости в алгоритмах и неспособности представить варианты использования и продукты для людей, отличных от тех, кто похож на создателей. Предвзятость также влияет на то, какие идеи будут финансироваться, поскольку в венчурной индустрии тоже есть проблемы с разнообразием. Как и в банковском деле, лидеры в области ИИ выглядят нерепрезентативно для сообществ, на которые они влияют. Во-первых, форумы, которые позволяют услышать разные голоса, помогут установить доверие (а в каком-то безмятежном будущем то же самое будет и с наймом разнообразной рабочей силы).

Для меня было настоящей привилегией присутствовать на Worthy of Trust? Закон, этика и культура в банковской сфере. Каждый из спикеров был вдумчив, информирован и открыт. Для тех, кому интересно, в блоге Banking Standard Board здесь есть еще много полезного по вопросам, касающимся доверия к банковскому делу.

Мне удалось связать банковское дело и ИИ. Я сделал несколько довольно поверхностных замечаний об общих проблемах, чтобы предположить, что мир ИИ может опираться на допущенные ошибки (и извлеченные уроки) в банковской сфере, чтобы формировать свою собственную политику. Индустрия искусственного интеллекта превосходно готова решать вопросы этики, права и культуры. Это видно на корпоративном уровне и последовательно на уровне отдельного исследователя. Интересно, связано ли это как-то с относительной молодостью многих (не всех!) его влиятельных героев. Итак, в заключение я поддержу заключительные слова лорда-главного судьи о том, что необходимо сделать сейчас, чтобы изменить банковскую культуру:

Начните с молодых — и требуйте, чтобы руководители регулярно встречались с ними!

(*) Я хотел бы задать Марку Карни следующий вопрос: как Банк Англии может ожидать серьезного отношения к соблюдению духа (а не только буквы) этического руководства, в то время как он также описывает Шарлотту Хогг (в )действия как «честная ошибка»?

Меня это искренне озадачивает. Возможно, губернатор чересчур увлекся текущим примером, чтобы проиллюстрировать свой аргумент о том, что одна ошибка не должна заканчивать карьеру, а должна давать возможность учиться и меняться. с чем я согласен. Но логично ли называть очевидную неоднократную неспособность Хогг вспомнить своего брата «ошибкой»? Для меня это действительно грозило подорвать заявленные цели дискуссии.