Социальная сеть «Одноклассники» внедрила автоматическое обнаружение и скрытие эротических изображений и GIF-файлов в ленте и комментариях к публикациям. Обновление направлено на создание комфортной среды для пользователей. Об этом рассказали в пресс-службе ОК.
Теперь, если пользователю захочется увидеть скрытое изображение или GIF-файл, достаточно будет просто кликнуть по нему — или проигнорировать.
Чтобы точнее определять и ограничивать такой контент, в ОК провели исследование, выяснив, что пользователи считают эротическими изображениями и насколько они неприемлемы для них. Исследование помогло понять, какие именно изображения нежелательны, что позволило инженерам ОК обучить модели машинного обучения для автоматического распознавания и размытия таких файлов.
Для этого было использовано более 6 млн файлов, на основе которых разработали две ML-модели: одна анализирует визуальное содержимое, а другая классифицирует контент для его скрытия или отображения.
Кроме того, исследование позволило определить, какие категории изображений допустимы для показа в соцсети. Например, обновление не касается произведений искусства, фотографий спортсменов и пляжных снимков пользователей. При этом, пользователи по-прежнему могут пожаловаться на любой нежелательный контент через интерфейс соцсети или службу поддержки.
Фото: Пресс-служба соцсети «Одноклассники»
