Discord заблокировал миллионы спам-аккаунтов

В период с апреля по декабрь прошлого года компания Discord заблокировала 5,2 миллиона учётных записей. Наиболее распространёнными причинами для бана аккаунтов стали спам и негуманный контент, который включает в себя порнографию, выкладываемую в сеть без согласия второй стороны (так называемая «порноместь»), а также сексуальный контент, связанный с несовершеннолетними.

Отчёт показывает резкую разницу в типах нарушений, сообщаемых большинством пользователей, по сравнению с действиями, которые с наибольшей вероятностью могут стать причиной бана пользователей и серверов. Наиболее распространённые сообщения, которые Discord получает от пользователей, касаются домогательств, однако лишь относительно небольшая часть этих сообщений приводит к принятию мер. В Discord считают, что это может научить людей сразу же блокировать пользователя-нарушителя, не прибегая к каким-либо дальнейшим действиям.

Однако, так называемый негуманный контент составляет всего 6,7% от всех сообщений, это второй по частотности запрет. Одной из причин этого является то, что Discord с большей вероятностью предпримет действия после получения одного из таких сообщений, при этом компания заявляет, что использует гораздо более активный подход к удалению подобного контента. Discord сканирует каждое изображение и видео, загруженные на сервис, и использует PhotoDNA, чтобы сопоставить их с известными материалами, содержащими сексуальное насилие над детьми. По заявлению Discord, в большинстве случаев этот подход означает, что нарушающие работу серверы могут быть удалены до того, как кто-либо сообщит о них.

Спам — одна из областей с неизменно большим количеством сообщений и банов. Это третий по распространённости тип сообщений, он приводит к наибольшему количеству банов. В Discord говорят, что с большей вероятностью они будут действовать в отношении сообщений о спаме, поскольку обычно они затрагивают большое количество пользователей, и их легко проверить.

Да, 5,2 миллиона банов звучит внушительно, но это лишь малая часть того, что Facebook раскрыл в своём отчете о прозрачности в прошлом году. Компания заявила, что удалила 54 миллиона единиц насильственного контента, более 10 миллионов постов, содержащих разжигание ненависти, 5,7 миллиона постов, которые нарушали внутренние нормы по запрету домогательства и травли, и 18,5 миллиона единиц эксплуататорского контента. Опять же, учитывая более чем 2 миллиарда пользователей по сравнению с четвертью миллиарда пользователей Discord по состоянию на май прошлого года, такое расхождение особо не удивляет.

В августе прошлого года компания Discord выпустила свой пёрвый отчёт о прозрачности, который охватил первый квартал 2019. Как заявляют в Discord, в дальнейшем они планируют выпускать отчёты раз в полгода, следующий отчёт ожидается в августе.