По словам экспертов, крайней формой такой манипуляции может стать доведение до самоубийства, например, если нейросеть, имитирующая близкого человека, подтолкнёт пользователя к роковому шагу. Специалисты сомневаются в эффективности запретов: учесть все возможные сценарии поведения нейросетей и их ответы на запросы невозможно. К тому же ограничения могут навредить ресурсам, где ИИ помогает пользователям осознанно подбирать товары или контент, сообщают «Известия».
Согласно тексту документа, разработчики систем искусственного интеллекта будут обязаны предупреждать пользователей о недопустимости применения нейросетей для манипулирования поведением и эксплуатации уязвимостей человека. Под эксплуатацией уязвимостей понимается использование возрастных, социально-экономических, психологических и других состояний человека для целенаправленного воздействия на его поведение, принятие решений или несанкционированного доступа к информации.
При этом конкретные примеры таких действий, список пользователей, которым адресовано предупреждение, а также меры наказания в законопроекте не прописаны.
Ранее «Телеспутник» сообщал, что искусственный интеллект чаще всего используется в регионах РФ в здравоохранении и госуправлении.
