Одноклассники: с помощью ИИ в комментариях почти вдвое сократилась токсичность

В социальной сети «Одноклассники» внедрена модель машинного обучения, которая автоматически распознает токсичные комментарии. Она блокирует возможность написания новых комментариев для их авторов на определённый период времени — от одного часа до 24 часов. Это время зависит от того, как часто пользователь оставляет негативные высказывания в адрес других.

Согласно исследованию, проведённому в социальной сети «Одноклассники», негативные публикации вызывают гнев у более чем 40% опрошенных пользователей. Для выявления таких комментариев, которые пользователи считают нежелательными и токсичными, в социальной сети была разработана и запущена модель машинного обучения (ML). Она была обучена на 400 тысячах высказываний, которые можно охарактеризовать как недружелюбные или провоцирующие негативные дискуссии.

Чтобы лучше понять, какие именно комментарии вызывают у пользователей наибольшие трудности, ОК провели опрос среди своей аудитории. В результате этого исследования стало ясно, что запуск ML-модели позволил в три раза сократить время обработки жалоб на токсичные публикации и, следовательно, быстрее помочь людям с решением их проблем.

«Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против “токсичности”. Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем. Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых», — комментирует нововведение Александр Москвичев, директор по продукту ОК.

Ранее Online47 рассказывал, что «Одноклассники» предоставят доступ к эксклюзивным трансляциям от 20 театров и культурных проектов страны.