Facebook создал собственную ботоферму – изолированную платформу ботов для изучения троллей и мошенников

Компания Facebook хочет помешать людям злоупотреблять своей системой, поэтому она создает платформу ботов, которые могут подражать людям.

Это своеобразная изолированная версия Facebook, где вместо живых пользователей программные боты смогут добавляться в друзья, делиться публикациями и ставить им отметки (или же раздражать, оскорблять и мошенничать) вдали от человеческих глаз.

Facebook описывает платформу как уменьшенную изолированную симуляцию соцсети, заполненную поддельными пользователями, которые моделируют различные виды реального поведения.

Например, бот-мошенник может быть обучен связываться с «целевыми» ботами, которые демонстрируют поведение, похожее на реальных жертв мошенничества на Facebook.

Другие боты могут быть обучены вторжению в личную жизнь пользователей или поиску «плохого» контента, который нарушает правила Facebook.

Программное моделирование реального поведения позволит Facebook, например, выявлять ошибки.

Исследователи смогут создать WES-пользователей (Web Enabled Simulation), единственной целью которых является, например, кража информации у других ботов.

Если они вдруг найдут способы получить доступ к большему количеству данных после обновления, это может указывать на уязвимость, которую могут использовать реальные мошенники.

Но при этом никакие данные реальных пользователей не пострадают, и ошибку можно будет устранить ещё до того, как она появится на реальной платформе.

Некоторые боты могут получить доступ только для чтения к «настоящей» Facebook, но при условии, что они не имеют доступа к данным, которые нарушают правила конфиденциальности.

Тогда они могли бы реагировать на эти данные исключительно для чтения.

Исследователи отмечают, что «боты должны быть надлежащим образом изолированы от реальных пользователей, чтобы симуляция, хотя и выполнялась на реальном коде платформы, не приводила к неожиданным взаимодействиям между ботами и реальными пользователями».

Однако основная цель заключается именно в создании параллельной виртуальной версии социальной платформы, где исследователи могут развёртывать «полностью изолированные боты, которые могут демонстрировать произвольные действия и наблюдения».

При этом исследователи получат возможность моделировать, как пользователи могут реагировать на изменения в платформе.

Часто Facebook делает изменения на платформе и тестирует их на небольших группах реальных людей.

А теперь для этих задач можно будет использовать ботов.

Facebook назвала свою систему WW – WES World.

(Открывается в новом окне).