Новости В «Одноклассниках» начали автоматически обнаруживать и скрывать эротические изображения

[vaspvort]

«Одноклассники» теперь автоматически обнаруживают и размывают в ленте и комментариях к публикациям в соцсети изображения и GIF‑файлы, которые пользователи считают эротическими. Обновление стало ещё одним шагом к поддержанию на платформе комфортной среды, рассказали Хабру в пресс‑службе соцсети.

Чтобы лучше выявлять и ограничивать эротический контент, ОК провели исследование среди пользователей и выяснили, что именно они считают эротикой, которую не хотят видеть. Людям предложили оценить, насколько изображения откровенны и неприемлемы, и выразить своё желание или нежелание сталкиваться с ними в соцсети.

На примерах, которые респонденты посчитали нежелательным, инженеры ОК обучили модели машинного обучения, чтобы те автоматически обнаруживали и размывали такой контент. Всего ОК использовали более 6 млн файлов и разработали две ML‑модели. Одна непосредственно сканирует картинку и определяет визуальное содержимое, другая относит контент к определённому типу, за счёт чего он или размывается, или остаётся в первоначальном виде. Если пользователь захочет посмотреть скрытое изображение или GIF‑файл, он может кликнуть по нему.

Обновление не затрагивает изобразительное искусство, фотографии спортсменов и пляжные снимки пользователей. При этом пользователи всё так же могут пожаловаться на нежелательный и неприемлемый контент любой категории в интерфейсе соцсети или через обращение в службу поддержки.

Для просмотра ссылки необходимо нажать Вход или Регистрация