В большинстве алгоритмов машинного обучения петля обратной связи играет важную роль в повышении их производительности. Многие исследования искусственного интеллекта показывают, что уровень точности моделей нейронных сетей значительно выше с хотя бы одним контуром обратной связи, чем с моделями без такового. Однако некоторые спорят об этических проблемах реализации петель обратной связи в определенных интеллектуальных системах, таких как системы рекомендаций или механизмы принятия решений. Все они будут рассмотрены следующим образом.
Циклы обратной связи, вообще говоря, широко используются в машинном обучении и глубоком обучении, особенно в нейронных сетях, для повышения точности маркировки. Благодаря обратной связи от выходного слоя в модели нейронной сети, вариации весов в скрытом (-ых) слое (-ах) будут корректироваться, чтобы лучше соответствовать ожидаемым результатам при обучении модели, а это означает, что результаты будут давать гораздо меньше ошибок. Исследование, проведенное Джеймсом Дикарло и его коллегами из McGovern Institute в 2019 году, доказывает, что чем больше петель обратной связи будет в нейронных сетях, тем более точные результаты они получат. Проще говоря, если мы хотим иметь лучшую модель нейронной сети, просто добавьте больше циклов обратной связи.
С другой стороны, растет число публичных критических замечаний в адрес известных платформ социальных сетей, которые используют данные обратной связи для манипулирования онлайн-привычками своих пользователей. Чтобы увеличить частоту использования людьми своих онлайн-платформ, эти интернет-гиганты, такие как Facebook, YouTube и другие, внедряют сложные системы рекомендаций для изучения информации о поведении пользователей в Интернете, такой как история просмотров, часто используемые темы и наиболее просматриваемый контент, после чего они могут доставлять контент, который соответствует предпочтениям пользователя, более точно. В результате люди с большей вероятностью будут проводить больше времени на этих платформах, и эти фирмы будут иметь больший профиль с помощью рекламы. Но на самом деле на их платформах также есть множество экстремального или незаконного контента, такого как терроризм или порнография, где алгоритмы рекомендаций помогают более легко распространять эту информацию. Например, после того, как зритель просмотрел один или два видеоклипа, относящихся к детскому порно, система порекомендовала бы больше видео на такую тему, которая удерживает человека на просмотре, что потенциально может создать зацикливание у зрителя, потребляющего ужасающий контент. Вот почему некоторые бойкотируют эти платформы.
Другой пример этой темы - разработка беспилотных автомобилей. Без сомнения, петли обратной связи необходимы с точки зрения технологии распознавания объектов в этой области. Пока автомобиль движется сам по себе, он должен уметь распознавать светофоры, дорожные знаки, пешеходов, транспортные средства и все другие типы объектов, где петли обратной связи могут помочь повысить точность. Но это еще не все. Некоторые производители автомобилей также используют петли обратной связи для управления компонентом принятия решений в автомобиле, что «вызвало у многих недоумение». В случае нити или автомобильной аварии автономный автомобиль должен был бы немедленно принять решение для пассажиров внутри, что могло бы нанести вред пассажирам, или могло бы ударить пешеходов на дороге, или могло бы повредить собственность других людей. Казалось бы, петли обратной связи могут быть палкой о двух концах.
Что я вижу в петлях обратной связи, так это их большой потенциал, хотя определенные проблемы с тем, как они используются в настоящее время, неизбежны и вызывают беспокойство. Поэтому нужно понимать, как правильно его использовать и где применять. Тщательное обсуждение его использования в машинном обучении может помочь ему далеко продвинуться.
