Но исследователи предупреждают об опасности симуляции, приводящей к неожиданному взаимодействию ботов с реальными пользователями, и, следовательно, предлагают изолировать ботов от реальных пользователей.
Facebook разрабатывает теневую социальную сеть только для того, чтобы боты поняли, как мошенники и тролли работают и используют ее платформу.
Гигант социальных сетей развернул веб-симуляцию (WES) для теневой социальной сети, которая, согласно исследовательскому документу, объясняет, как симуляции с искусственным интеллектом могут имитировать поведение людей.
Благодаря взаимодействию ботов исследователи надеются узнать, как мошенники используют сеть, чтобы обманывать других или использовать их информацию.
Моделирование позволяет ботам лайкать сообщения, отправлять запросы в друзья и выполнять другие действия, которые может выполнять обычный пользователь Facebook.
Каждый бот предназначен для имитации различных типов личности с помощью Facebook, некоторые из них предназначены для поиска целей, в то время как другие будут иметь черты, которые делают их склонными к мошенничеству.
Теневая социальная сеть имитирует реальные взаимодействия пользователей и социальное поведение, наблюдаемое на реальной платформе. Согласно исследовательскому документу, система WES, в отличие от традиционного моделирования, построена на реальной программной платформе, а не моделирует модель реальности.
WES обещает быть реалистичной и практичной, а ее симуляция сложных взаимодействий сообщества на платформе может быть полезна для понимания и автоматического улучшения развертывания многопользовательских систем.
Исследователи Facebook, создающие симуляцию, считают, что она поможет им обнаруживать ошибки в крупнейшей в мире социальной сети, которой в настоящее время пользуются около 2,5 миллиардов пользователей по всему миру.
Симуляцию можно использовать для одновременного запуска тысяч различных сценариев, что, в свою очередь, помогает автоматически рекомендовать изменения и обновления, которые могут улучшить работу реальных пользователей.
Поскольку только строки компьютерного кода отделяют реальных пользователей Facebook от ботов с искусственным интеллектом, исследователи опасаются, что эксперимент может распространиться на общедоступную версию Facebook.
Несмотря на то, что боты выполняются в коде реальной платформы, они должны быть надлежащим образом изолированы от реальных пользователей, чтобы симуляция не приводила к неожиданным взаимодействиям между реальными пользователями и ботами.
Помимо изоляции, боты должны будут демонстрировать высокий пользовательский реализм в некоторых приложениях, что может создать проблемы для подходов машинного обучения, которые используются для их обучения.
Первоначально опубликовано на https://rightclick.ai 11 мая 2020 г.
