РКН хочет протестировать систему выявления видеолжи на основе ИИ

Специалисты Национального центра когнитивных разработок (НЦКР ИТМО) специально для подведомственного Роскомнадзору Главного радиочастотного центра (ГРЧЦ) разрабатывают сервис Expert на основе ИИ, который позволит проверять видеозаписи выступлений на предмет лжи и представляет интерес для оперативного выявления «дипфейков» (deepfake).

Deepfake — это метод синтеза данных, который позволяет заменять в оригинальных видеороликах элементы изображения. Технология предоставляет возможность создавать фейковые видеозаписи с заявлениями известных личностей, в том числе политиков.

Прототип системы был представлен РКН на заседании экспертного совета ГРЧЦ по ИИ в июле. На этом мероприятии присутствовал глава Роскомнадзора Андрей Липов. Его заинтересовало данное решение, поэтому он попросил в ускоренном режиме передать разработку ведомству на тестирование, пишет «Коммерсантъ».

Как пояснили в ИТМО, система Expert анализирует видео или аудио, оценивая уверенность, уровень агрессии внутренней и внешней, конгруэнтность (уровень согласованности информации, передаваемой вербальным и невербальным способом) и противоречивость, сравнивает слова с научными статьями и высказываниями других специалистов.

Система заточена на работу с английским языком, однако показатели уверенности, агрессивности, конгруэнтности возможно извлечь на любом языке.

По словам руководителя научно-исследовательской лаборатории «Когнитивная невербалика» НЦКР ИТМО Олега Басова, английский выбрали в силу того, что это самый распространенный язык. Он отметил, что доработка системы в плане получения текста из речи на русском языке стоит в ближайших планах.

Басов также рассказал, что система прошла предварительное тестирование в преддверии выборов в Сенат США. Были проанализированы опубликованные на YouTube интервью шести кандидатов на предмет противоречивости, агрессии и уверенности в себе. В заявлениях трех кандидатов система обнаружила скрытую агрессию, а одного из них удалось уличить во лжи, сообщил он.

Ранее «Телеспутник» писал, что Правительство скорректирует проект «Искусственный интеллект» для противодействия санкциям.