Решение проблемы черного ящика: важность объяснимости ИИ для борьбы с отмыванием денег

С ростом использования искусственного интеллекта (ИИ) в сфере борьбы с отмыванием денег (БОД) мощь моделей машинного обучения стала бесценным инструментом для выявления и реагирования на постоянно меняющиеся преступные модели. Однако, хотя эффективность некоторых из этих моделей не вызывает сомнений, их необъяснимость стала серьезной проблемой для регулирующих органов. В этой статье мы рассмотрим важность объяснимости в ИИ для борьбы с отмыванием денег и то, как многоуровневый подход к принятию решений может помочь решить проблему черного ящика.

Потребность в объяснимости:

Когда финансовое учреждение (ФО) совершает ошибку, например разрешает платеж лицу, находящемуся под санкциями, регулирующие органы выясняют, почему это произошло. В зависимости от причин ФО может быть освобожден от обвинений или оштрафован на огромную сумму. Поэтому для FI крайне важно объяснить логику моделей машинного обучения, используемых FI, чтобы доказать соответствие правовым нормам и обеспечить четкое понимание регулирующими органами процесса принятия решений.

Что требуют регуляторы:

Регуляторные органы требуют прозрачности, соблюдения требований законодательства, качества и количества данных, объяснимости и проверки модели. Проверка модели — это процесс оценки производительности и точности моделей. Прозрачность предполагает четкое понимание логики, лежащей в основе моделей, а соблюдение требований законодательства гарантирует, что модели соответствуют конфиденциальности данных, антидискриминационным законам и другим нормативным требованиям. Качество и количество данных обеспечивают использование высококачественных данных и достаточных объемов данных для обучения и тестирования моделей. Объяснимость — это способность модели давать четкие и интерпретируемые объяснения своим решениям.

Проблема черного ящика:

Общей проблемой подхода машинного обучения является «проблема черного ящика»: обученные модели могут давать ответы, но никто не знает, почему был дан тот или иной ответ или что привело к тому или иному решению. Такое отсутствие объяснимости часто неприемлемо для регулирующих органов. Чтобы попытаться решить эту проблему, модели обучают предоставлять механизм оценки, но слишком часто это не является правильным лекарством от болезни, поскольку оценка на самом деле ничего не объясняет с точки зрения бизнеса.

Решение:

Решение проблемы «черного ящика» — это «поэтапный подход» или «расслоение решений». Вместо обучения огромных и очень сложных моделей, которые генерируют окончательное решение, мы разделяем процесс на этапы, в которых задействованы несколько моделей машинного обучения, каждая из которых более узкая и предназначена для определенной области. Более того, их можно комбинировать с классическими подходами, основанными на правилах. Ключевым моментом является отделение объективных вопросов, которые являются независимыми и могут быть объективно решены, от субъективных деловых вопросов, на которые необходимо ответить в контексте склонности финансовой организации к риску.

Постановочный подход:

Поэтапный подход, который мы также можем назвать многоуровневым принятием решений, включает в себя принятие окончательного бизнес-решения с использованием набора факторов (решений) из объективированных моделей машинного обучения. Эти факторы легче объяснить и утвердить в процессах модельного управления рисками (MRM). Этот подход обеспечивает более глубокое понимание процесса и предлагает лучший контроль, упрощая защиту решений, утвержденных для различных финансовых учреждений.

Поэтапный подход может быть расширен в зависимости от области. Будут разные потребности в решении случаев проверки имен, предупреждений о проверке транзакций и мониторинге транзакций. Основная проблема заключается в правильном различении факторов, которые можно объективировать, и бизнес-решений. Модели для факторов будут меняться реже, в то время как условия для бизнес-вопросов будут меняться с появлением новых криминальных моделей, правил, выводов или измененного объема данных, доступных для принятия решений.

Например, когда у нас есть набор факторов из объективных моделей машинного обучения, мы можем начать думать об окончательном бизнес-решении, таком как определение предупреждения о проверке транзакции как ложноположительного или истинно положительного. Эти решения (факторы), понятные каждый сами по себе, теперь служат входными данными для окончательного решения, которое либо вообще не должно приниматься с использованием модели машинного обучения, либо должно быть сделано отдельной моделью.

Этот поэтапный подход дает больше информации о процессе и обеспечивает лучший контроль. Но самое главное, это дает гораздо больше шансов на одобрение регулирующими органами. В этой модели концептуально мы гораздо ближе к типичному основанному на правилах принятию решений и внутренней политике, к которым привыкли регуляторы.

Заключение:

Использование моделей машинного обучения стало неотъемлемой частью сферы AML. Однако отсутствие объяснимости является важнейшей проблемой для регулирующих органов. Поэтому важно использовать продукты, которые сочетают в себе объяснимые подходы, основанные на правилах, с высокоэффективными моделями машинного обучения. Поэтапный подход отделяет объективные вопросы от субъективных деловых вопросов, упрощая объяснение решений и их утверждение в процессе MRM. Выполняя эти требования, финансовые учреждения могут эффективно бороться с финансовыми преступлениями и защищать своих клиентов и финансовую систему.