«В основе рекомендательных алгоритмов лежит использование искусственного интеллекта (ИИ), будь то довольно простые модели логистической регрессии или наиболее продвинутые версии глубоких нейронных сетей. Поэтому можно смело утверждать, что ИИ — ключевой компонент популярных социальных сетей», — пишут авторы документа, цитируют «Ведомости».
При распространении контента ИИ «часто отдает предпочтение спорной, разжигающей вражду и недостоверной информации, поскольку именно такой контент привлекает больше внимания пользователей и ведет к повышению вовлеченности и взаимодействия с платформой», отмечают в ГРЧЦ.
«В результате социальные сети могут спровоцировать политическую поляризацию и продвигать дезинформацию», — делают вывод авторы справки. ГРЧЦ приводит в пример статистику соцсети Facebook (принадлежит компании Meta, признана экстремистской и запрещена в РФ), согласно которой 64 % всех новых подписчиков экстремистских групп пришли в них через рекомендации.
Описываемые риски обосновывают принятие законопроекта о регулировании таких сервисов.
«Законодательное регулирование рекомендательных сервисов необходимо для защиты потребителей от непрозрачных алгоритмов отбора контента, способных искажать реальное положение дел и приводить к пугающим последствиям, вплоть до реального нанесения вреда здоровью и психике человека», — заявляют в ГРЧЦ.
Это регулирование среди прочего должно включать в себя возможность независимого аудита используемых тем или иным сервисом алгоритмов. Соответствующий законопроект должен регламентировать использование персональных данных пользователей.
«Пользователь должен быть в доступной форме и в полной мере проинформирован о работе рекомендательного алгоритма, дать согласие на обработку персональных данных и иметь возможность его отозвать», — считают в ГРЧЦ.
Читайте также статью «Рекомендательные алгоритмы не рекомендуются».
