Текущие инструменты модератора в Disqus позволяют пользователям фильтровать комментарии по IP-адресу, по словам и даже по ссылкам. Более того, если этих инструментов недостаточно, пользователи могут вручную блокировать пользователей, сообщать о них или запрещать их в реальных цепочках комментариев. Что ж, видимо, этого недостаточно, поэтому Disqus добавил новый фильтр «Токсичный», который модераторы могут использовать для цензуры или запрета комментариев.

Новый фильтр был недавно добавлен в приложение комментариев Disqus, и сотрудники Disqus объяснили, как он работает, в недавнем посте, сделанном на Официальном сайте.

Disqus использовал данные, собранные и опубликованные в сотрудничестве с левым веб-сайтом Wired, чтобы создать свой новый API для мониторинга и пометки комментариев как «токсичных». Вы можете увидеть шкалу «токсичности» с помощью системы оценок комментариев ниже на последних веб-сайтах. Карта интернет-троллей.

Как видите, примеры, которые они использовали, явно демонстрируют, что определенный вид словоблудия, направленный на SJW, скорее всего, будет помечен комментарием. Посмотрим, применимо ли это в равной мере и к атакам на людей правого толка.

По мнению Disqus, токсичный контент определяется оскорблениями, троллингом, отсутствием вклада и разумной собственностью читателей. Если они чувствуют, что комментарий, скорее всего, заставит читателя покинуть контент вместо того, чтобы внести свой вклад, тогда они почувствуют, что комментарий, скорее всего,… «токсичный».

Это сообщение означает, что администраторы контента смогут видеть комментарии, помеченные Disqus как «токсичные», и решать, хотят ли они что-то с этим сделать, например, автоматически скрывать или удалять токсичные комментарии или перемещать их в папку «Спам».

В сообщении также говорится, что они будут использовать алгоритм машинного обучения, чтобы лучше идентифицировать и настроить фильтр токсичности для различных сообществ, объясняя…

«Этот первоначальный выпуск устанавливает базовый уровень токсичности в нашей сети. Однако мы знаем, что то, что считается приемлемым, а что — токсичным, будет различаться в разных сообществах. Чтобы лучше решить эту проблему, мы работаем над способами включения общественных норм в оценку токсичности с надеждой в конечном итоге предоставить более индивидуальные решения для отдельных объектов и сообществ».

На данный момент меткой «токсичный» обозначаются только комментарии, но никаких действий против них не предпринимается. Модераторы по-прежнему могут контролировать, хотят ли они удалять или оставлять «ядовитые» комментарии.