Вы здесь

Создан алгоритм борьбы против интернет-троллей

В фокусе

Модераторы, победа близка! Калифорнийские учёные помогут нам справиться с интернет-троллями. По крайней, мере они нам это обещают после того, как изучили более 10000 заблокированных акаунтов.

На основе проведенного анализа был создан алгоритм, с помощью которого можно автоматически обнаруживать и блокировать троллей.

Примерно 3% пользователей на любом форуме не придерживаются правил, оскорбляют собеседников, провоцируют агрессию, ведут себя в общем деструктивно. В 90-х годах за такими юзерами закрепилось название "тролль". Понять, как с ними справиться, решила группа исследователей из Стэнфордского университета.

Джастин Чен, Кристиан Данеску-Никулеску-Мизил и человек с подозрительно похожим на отечественное именем Юре Лесковец, недавно взяли под лупу комментарии на сайте CNN. На этом ресурсе зарегистрировано более одного миллиона участников, а модераторы банят примерно по 70 человек в день.

Подробному изучению подверглись акаунты тех, кто попал в бан всего один раз. Их оказалось около 12 000. Те, кто был заблокирован несколько раз, из исследования исключались, т.к. после первого бана их поведение могло меняться. СПАМеров тоже не учитывали. Кроме CNN в исследовании рассматривались данные новостного сайта Breitbart и игрового портала IGN.

Учёные сравнили особенности анти-социального поведения троллей с поведением среднестатистического юзера на протяжении всего времени с момента регистрации акаунта до его блокировки. Выяснилось, что тролли имеют особенность сосредотачиваться на какой-то конкретной теме, их стиль речи становится со временем всё хуже, а толерантность форумного сообщества к ним снижается. К тому же очень часто комментарии от троллей не относятся к обсуждаемой теме.

Тролли очень категоричны и редко пользуются нейтральными словами, такими как «бы», «вероятно» или «рассмотреть». Учёные отметили, что «на всех трёх ресурсах тролли успешно вовлекают других в непродуктивные дискуссии».

На основе полученных данных уже разработан прототип алгоритма, который будет распознавать и банить троллей автоматически. Уже после анализа 5-7 комментариев программа может предсказать, будет ли участник забанен модератором. Пока у системы есть недостатки, но учёные обещают их устранить после дополнительных тестирований.

Оценить материал:
Голосов еще нет
распечатать Обсудить в: