Ученые придумали алгоритм для автоматизированной борьбы с интернет-троллями

Опубликовано: 21 апреля 2015 года

Рубрика: Интернет, Информационные технологии

Исследователи из Стэнфордского университета и Корнелльского университета (оба находятся в США), воспользовавшись грантом Google, разработали алгоритм, позволяющий с 79-процентной точностью определять «троллей» на интернет-ресурсах по пяти первым сообщениям.

Тролль в интернете — человек, который ведет себя вызывающе, оскорбительно, провоцирует других участников на острую реакцию.

Работа ученых опубликована на сайте библиотеки Корнелльского университета.

Авторы работы утверждают, что разработанный ими алгоритм может использоваться в качестве вспомогательного инструмента в работе модераторов.

Исследователи проанализировали 40 млн комментариев, оставленных 1,7 млн пользователями, а также 100 млн оценок этих комментариев другими участниками обсуждений на новостном сайте CNN.com, новостном ресурсе о политике Breitbart.com и игровом сайте IGN.com, использующими веб-сервис для обсуждений Disqus. На сбор данных ушло 18 месяцев.

Затем авторы работы сравнили поведение пользователей, которые впоследствии были забанены, с пользователями, которые не были забанены ни разу, и пришли к выводу, что поведение этих двух групп существенно отличается.

Во-первых, тролли предпочитают концентрироваться на беседах с конкретными участниками в групповом обсуждении. Во-вторых, они склонны оставлять неуместные комментарии. В-третьих, в их фразах чаще присутствует ненормативная лексика, чем во фразах представителей другой группы. В-четвертых, они чаще всего получают отклики от других участников беседы, таким образом расходуя их время на бесцельную болтовню.

Исследователи также выяснили, что постепенно в беседах агрессия троллей возрастает и они вызывают все большее неприятие других участников. Если же другие участники отвечают троллю грубо, то беседа принимает еще более негативный характер. При этом, по словам исследователей, чем дольше тролль принимает участие в беседе, тем сложнее его определить. Скорее всего, это связно с изменением поведения других участников в беседе, предположили они.

Что касается вопроса, создают ли тролли обсуждения сами или присоединяются к уже существующим, однозначного ответа исследователи не дали.

По их словам, это зависит от конкретного сайта. Например, на Breitbart.com и IGN.com тролли преимущественно начинали общение с ответов на комментарии других пользователей, тогда как на сайте CNN.com они преимущественно сами инициировали обсуждения.

Исследователи не говорят, когда разработанный ими алгоритм может появиться в Сети.

Источник: CNews

P.S.

См. в тему (09 июля 2011 года):

«Мнимая интернет анонимность во всём мире позволяет отбросить вежливость и терпимость».

Российский народ (в т.ч. и в Коми) дорвался до инструмента квазианонимного выплескивания своих эмоций и, как это обычно бывает, стала появляться вседозволенность — авторы многих комментариев совсем перестали стесняться нецензурных и оскорбительных высказываний.

Также в обществе высокий уровень пока скрытой агрессии, инициируемой и подогреваемой отдельными блогерами. Раньше, в советское время, были «кухни». Теперь — «анонимное» комментирование статей. Человеческая суть не меняется. Меняются лишь инструменты выражения её. В 21-м веке основным таким инструментом стал интернет.

Относительно политкорректности и толерантности, много дискуссий на эту тему. Мне кажется, рунет чересчур неполиткорректен и мало толерантен к чужим мнениям.

К примеру, вот статья с мнением, отличающимся от мнения большей части рунета (статью готовил в том числе и как «научный» эксперимент посмотреть реакцию рунет-общественности): http://bda-expert.com/2011/02/ne-schitayu-edinuyu-rossiyu-partiej-vorov-i-zhulikov/

Посмотрите средний оценочный балл статьи — 1,63 из пяти возможных. Причем абсолютно уверен, что оценки в основной своей массе выставлялись не за контент статьи, а за сам факт её существования. Большинство, наверно, даже не вчитались в то, о чём там написано.

Впрочем, слабая культура толерантности в российском сегменте интернета — это, мне кажется, проблема роста. Рано или поздно острота её снизится, хотя полностью «на нет» проблема не сойдёт никогда.

P.P.S.

Происхождение термина «троллинг»

Термин «троллинг» происходит из сленга участников виртуальных сообществ и не имеет прямого отношения к сфере научного дискурса. В дословном переводе англ. trolling означает «ловлю рыбы на блесну».

В наиболее общем виде это явление характеризуется как процесс размещения на виртуальных коммуникативных ресурсах провокационных сообщений с целью нагнетания конфликтной обстановки путём нарушения правил этического кодекса интернет-взаимодействия. В качестве цели таких действий могут выступать волны правок (постмодерация сообщений, тем, новостей) — флейм (от англ. flame — «пламя, огонь»), либо бесцельная конфронтация — холивары (от англ. holy war — «священная война»).

В отношении пользователя, осуществляющего троллинг, утвердилось обозначение «тролль».

По предположению сотрудника института социологии РАН Ирины Ксенофонтовой, это слово приобрело популярность из-за другого его значения — «троллей» как существ, упоминаемых в скандинавской мифологии. Мифологические существа тролли, особенно в детских рассказах, изображаются в качестве уродливых, неприятных существ, созданных для причинения вреда и сотворения зла.

Источник: ru.wikipedia.org

См. также: