Для выявления и ограничения нежелательного контента компания провела исследование среди пользователей и выяснила, что именно пользователи соцсети считают эротикой, которую не хочется видеть. На примерах, которые респонденты посчитали нежелательным, инженеры «Одноклассников» обучили нейросеть, чтобы та автоматически обнаруживала и размывала нежелательный контент.
Для этого было использовано более 6 млн файлов и разработано две ML-модели. Одна непосредственно сканирует картинку и определяет визуальное содержимое, другая относит контент к определенному типу, за счет чего он или размывается, или остается в первоначальном виде. Обновление не затрагивает изобразительное искусство, фотографии спортсменов и пляжные снимки пользователей.
Ранее «Телеспутник» сообщал, что соцсеть «Одноклассники» стала скрывать ненормативную лексику.
