Эксперты ООН предупредили о неконтролируемом росте возможностей систем ИИ

Как сообщает агентство Reuters, независимая группа из 40 ведущих ученых и экспертов, сформированная под эгидой ООН, опубликовала первый отчет, посвященный оценке влияния искусственного интеллекта на мировое сообщество. Документ будет официально представлен правительствам стран в рамках Глобального диалога по управлению ИИ, который пройдет в Женеве 6–7 июля. Эксперты подчеркивают, что, несмотря на колоссальные возможности для развития, текущие темпы внедрения технологий опережают способность государств к их регулированию.

Сопредседатель экспертной группы Йошуа Бенджио выразил серьезную обеспокоенность по поводу безопасности систем. По его словам, наука на данном этапе не может гарантировать, что ИИ не нанесет катастрофического ущерба – «либо самостоятельно, либо из-за злонамеренных действий пользователей», учитывая растущие возможности моделей и участившиеся случаи их обманчивого поведения.

В докладе отмечается, что развитие ИИ характеризуется высокой степенью концентрации ресурсов: на долю США приходится 75% вычислительных мощностей из топ-500 мировых суперкомпьютеров, тогда как на Китай – 15%. При этом внедрение технологий происходит неравномерно, а большинство стран, включая развитые экономики, не обладают достаточной технической экспертизой для оценки наиболее мощных моделей или полноценного участия в процессах их международного управления.

Среди ключевых рисков эксперты выделяют угрозу информационной целостности, распространение дипфейков, негативное влияние на психическое здоровье пользователей и экологические системы. Кроме того, действующие модели ИИ обучены лишь на малой доле из 7000 существующих в мире языков, что создает критические ошибки в машинном переводе, способные повлиять на качество медицинских диагнозов. Группа экспертов, работающая независимо от правительств и корпораций, планирует представить более детальный и всеобъемлющий отчет в следующем году.

Ранее «Телеспутник» приводил мнение медиаэксперта Юлии Аблец о трансформации профессий под влиянием ИИ. По ее словам, требования работодателей к сотрудникам вышли за рамки простого умения составлять запросы для нейросетей, сместившись в сторону глубокой интеграции технологий в бизнес-процессы.