Базовый набор функций новых средств безопасности на базе ИИ в Microsoft включает блокировку потенциально опасных подсказок, обнаружение галлюцинаций и защищенных материалов. В будущем, как отметили в компании, будут добавлены инструменты для безопасных ответов и отслеживания подозрительных пользователей.
Также известно, что клиенты облачной платформы Microsoft Azure смогут отключать фильтры, предлагаемые Microsoft, чтобы оценить безопасность запросов к ИИ. Кроме того, система предложит отчеты о пользователях, пытающихся провоцировать ИИ на недопустимые ответы.
Компания рассчитывает избежать предубеждений на счет опасности генеративного ИИ, появившихся из-за инцидентов с дипфейками, попыток искажения истории и создания недопустимых по разным соображениям материалов.
Ранее «Телеспутник» писал, что в американской корпорации Microsoft планируют перенести сроки приостановки работы своих облачных сервисов клиентам из России с 20 марта на конец месяца. Сообщалось, что Microsoft и Amazon с 20 марта 2024 года приостанавливают доступ к своим облачным продуктам на территории РФ.
