Внимание! Атака!
Основными направлениями использования злоумышленниками нейросетей руководитель AI-продуктов Just AI Алексей Борщов выделил:
1. Автоматизацию атак: ИИ автоматизирует процессы, которые раньше требовали ручного труда. Это включает в себя сканирование уязвимостей, брутфорс паролей, фишинг и распространение вредоносного ПО. Ботов становится сложнее отличить от реальных пользователей, подмечает эксперт.
«Нейросети позволяют автоматизировать разработку самого вредоносного ПО. К примеру, сгенерировать powershell-скрипты для нападений на веб- и мобильные ресурсы», — подтвердил руководитель R&D-лаборатории Центра технологий кибербезопасности ГК «Солар» Максим Бузинов.
2. Создание более убедительного фишинга путем персонализации. Это значительно повышает вероятность успеха атаки.
Стандартные фишинговые письма, ранее легко узнаваемые, теперь становятся персонализированными. «Если раньше нам приходили письма от “принцев” с обещанием наследства, на которые уже никто не реагирует, то сегодня мошенники могут использовать ИИ для создания сообщений, которые выглядят убедительно и адаптированы под конкретного получателя», — прослеживает закономерность директор по консалтингу ITQuick Роман Таранов.
3. Дипфейки.
Дипфейки открывают возможности для обмана сотрудников. С их помощью злоумышленники могут имитировать голос руководителя и убедить сотрудника передать конфиденциальные данные или установить вредоносное программное обеспечение, обозначил опасную тенденцию Таранов.
Но и у мошенников есть свой криптонит. Нейросети действительно помогают им в быстром создании скриптов. «Но их возможности ограничены в создании чего-то нового. Они собирают информацию и пытаются адаптировать ее к выявленным шаблонам. Таким образом, ИИ способствует быстрому распространению уже известных решений и тактик. В этом смысле нейросети не ухудшают ситуацию с безопасностью, а скорее ускоряют с обеих сторон процесс борьбы “добра со злом”», — резюмирует главный аналитик ИТ-интегратора AWG Алексей Ровдо.
Роль человека в ИБ
К сожалению, пока нельзя полностью исключить из ИБ-уравнения человеческий фактор, говорят специалисты. «Ошибочные действия рядовых сотрудников и самих ИБ-специалистов компаний приводят к возникновению уязвимостей в ИТ-инфраструктуре бизнеса. В случае атак с использованием социальной инженерии, фишинг и пр., утечки происходят через открытые порты организации на внешних ресурсах», — рассказал Максим Бузинов «Телеспутнику». Значительно сократить количество инцидентов помогут меры технического контроля. Например, системы обеспечения безопасности почты не позволят зараженным файлам дойти до конечного пользователя, а современные антивирусы заблокируют доступ сотруднику к вредоносу в моменте.
Поэтому для снижения рисков следует постоянно повышать компетентность и осведомленность сотрудников и клиентов об угрозах, проводить тренинги, моделирование фишинговых атак и так далее. Кроме того, важно корректно применять «классические» технические и организационные меры, такие как ограничение и разделение прав доступа, шифрование данных и использование надежной аутентификации, говорит главный аналитик ИТ-интегратора AWG Алексей Ровдо.
Но проблема не только в этом. Существенным фактором является и нехватка специалистов по кибербезопасности. Количество экспертов не растет пропорционально росту технологий, поэтому необходимо дополнять их работу современными инструментами на базе ИИ, рассуждает директор по консалтингу ITQuick Роман Таранов.
Возникает вопрос — можно ли уже сейчас восполнить этот дефицит? Сможет ли на данном этапе ИИ быть надежнее человека? На этот вопрос представитель «АйТи Бастион» отвечает однозначно. Пока ИИ не заслуживает полного доверия. «Кто-то должен ставить задачи и принимать решения. Получается, без человека в этой области никуда не деться. Примеры, когда ИИ-системы потребляют управляющие воздействия от ИИ-систем можно только осторожно назвать скромными», — замечает Дмитрий Михеев.
Более веско высказал свое мнение директор департамента информационной безопасности «Аквариус» Константин Закатов. Эксперт утверждает, что «любой ИИ – ничто без опытных специалистов, которые ещё очень длительное время будут играть ведущую роль в создании системы защиты любой инфраструктуры, потому что на стороне атакующих тоже всегда будет человек».
ИИ не способен самостоятельно предотвратить утечки и устранить дыры в безопасности - эти задачи по-прежнему выполняют специалисты по кибербезопасности, говорит Алексей Борщов. Они оценивают результаты работы нейросети, принимают ключевые решения и разрабатывают стратегии для защиты от новых видов атак. Поэтому в ближайшее время спрос на ИБ-специалистов не упадет.
Нейросети-защитники против нейросетей-мошенников
Использование искусственного интеллекта стало одним из новых направлений киберзащиты, обозначили тренд в пресс-службе «Мегафон». «ИИ может обнаруживать аномалии, фильтровать информацию, отсеивать вредоносный спам и фишинг, сканировать системы и обнаруживать уязвимости, автоматизировать процесс реагирования на угрозы, что дает возможность быстрее их нейтрализовать», — перечислил сотовый оператор. Также способность обучаться позволяет ИИ анализировать данные, трафик, программы, прогнозировать возможные атаки и ошибки людей.
Атаки становятся изощреннее и требуют активного внимания к развитию систем безопасности, отмечает технический директор «АйТи Бастион» Дмитрий Михеев. Это происходит не по причине ИИ, скорее – ИИ развивается по тем же причинам и законам, что и угрозы безопасности:
– Проникновение средств связи и вычислений сейчас стало повсеместным.
– Бесконечное количество сервисов и данных, которые обрабатываются. Все это создается с очень большой интенсивностью, а внимание к угрозам безопасности удается уделить не всегда.
– Развитие средств поиска и анализа, где инструменты с использованием ИИ хороши тоже влияют и на процессы разработки, и на процессы анализа недостатков систем и прикладного ПО. Поиск уязвимостей удается в ряде случаев автоматизировать, что приводит к открытию новых ландшафтов для реализации атак.
Для того, чтобы минимизирвать риски нейросети вводят на разных уровнях. «Интеграция ИИ в рутинные процессы информационной безопасности уже происходит довольно быстрыми темпами: автоматизируется работа с данными, быстрее выявляются угрозы и ускоряется реагирование на них», — обозначил директор департамента информационной безопасности «Аквариус» Константин Закатов. Уже сейчас ведущие отечественные вендоры в области ИБ предлагают заказчикам продукты, которые являются синергией накопленного опыта и часто объединяют в себе несколько классических инструментов ИБ, создавая некий автопилот реагирования на угрозы. Конечно же, злоумышленники точно так же используют инструменты ИИ для обхода системы безопасности, и это тоже материал для обучения алгоритмов защиты новым навыкам и сценариям поведения.
Похоже описывает взаимодействие с нейросетями в рамках ИБ эксперт руководитель AI-продуктов Just AI. Анализируя большие объемы данных, нейросеть может выявлять паттерны и аномалии, которые указывают на потенциальную угрозу. «Однако, "просчитать" действия злоумышленников полностью невозможно, так как они тоже используют ИИ и постоянно адаптируют свои методы. Это своего рода гонка вооружений», — подмечает Алексей Борщов.
В своих прототипах ГК «Солар» применяет искусственный интеллект для комплексного детектирования аномального поведения пользователей, узлов сети, ПО, а также операций с базами данных, подозрительных действий внутри сетевых инфраструктур и на конечных устройствах. «Нейросети актуальны для построения сложной комплексной защиты пользовательских данных от компрометации, а также для выявления фейков и создания ИИ-ассистентов, которые способны автоматизировать рутинные операции и высвободить время сотрудников кибербезопасности для решения более сложных задач», — поделился Максим Бузинов.
«ИИ помогает анализировать траффиковую активность и паттерны поведения, анализировать звуковые волны, выявлять аномалии в голосе и другое», — обозначили в «СберМобайл».
Таким образом, ИИ остается неоднозначным оружием в руках человека. Однако можно с уверенностью сказать, что использование нейросетей в киберзащите становится неотъемлемой частью борьбы с новыми угрозами. Технологии помогают не отставать от злоумышленников, а иной раз и предугадывать их атаки. Также с помощью языковых моделей можно более эффективно использовать ограниченные ресурсы специалистов, не теряя в качестве защиты организации.
