img
img27 июля 2026 в 12:00

Ярослав Якимов: ИИ-модель, которую называют «оружием мечты хакера», первым делом пошла в оборону

Новая модель искусственного интеллекта Mythos от компании Anthropic оказалась в центре скандала. Нейросеть, которую изначально создавали для поиска уязвимостей в программном обеспечении, сама продемонстрировала невероятные навыки взломщика. Распространение такого обоюдоострого оружие власти США жестко ограничили, но беспокойства по поводу новых вызов кибербезопасности это не сняло. Кому новая модель дает преимущество – взломщикам или защитникам, стоит ли ожидать нам глобальной кибервойны нейросетей и можно ли установить эффективные правила противостояния ИИ – все эти вопросы задали директору по развитию технологий и искусственного интеллекта GS Labs Ярославу Якимову.

Новая модель искусственного интеллекта Mythos от компании Anthropic оказалась в центре скандала. Нейросеть, которую изначально создавали для поиска уязвимостей в программном обеспечении, сама продемонстрировала невероятные навыки взломщика. Распространение такого обоюдоострого оружие власти США жестко ограничили, но беспокойства по поводу новых вызов кибербезопасности это не сняло. Кому новая модель дает преимущество – взломщикам или защитникам, стоит ли ожидать нам глобальной кибервойны нейросетей и можно ли установить эффективные правила противостояния ИИ – все эти вопросы задали директору по развитию технологий и искусственного интеллекта GS Labs Ярославу Якимову.
Кейс Mythos показал, что одна и та же модель может быть и щитом, и инструментом атаки. Значит ли это, что начинается эпоха кибервойны, которую ведут ИИ?

Я бы не драматизировал. «Кибервойна ИИ» — эффектный ярлык, но он лишь нагнетает обстановку и мало что объясняет. Anthropic показала модель, способную автономно находить уязвимости практически во всех распространённых операционных системах и браузерах. В одном только Firefox Mythos обнаружила 271 уязвимость и разработала рабочие эксплойты (готовые программы, которые используют уязвимость для атаки) к 181 из них. Компания оценила риск и не стала выкладывать модель в открытый доступ — вместо этого она дала специалистам по безопасности ресурсы, чтобы заранее укрепить критически важный код.

Обратите внимание: та же модель, которую называют «оружием мечты хакера», первым делом пошла в оборону. Отсюда мой главный тезис: Mythos не переписывает правила игры. Новых классов атак искусственный интеллект не создал — поиск уязвимостей и эксплойты существовали всегда. Он удешевил и ускорил то, что раньше требовало редкой квалификации и месяцев или лет работы. По сути, известные угрозы просто поставили на поток. А с потоком справляются понятными средствами защиты, и паникой тут делу не поможешь.

Одна и та же модель ищет уязвимости и для защиты, и для нападения. Поэтому всё решает то, у кого есть к ней доступ и по каким правилам она применяется. Сама технология здесь нейтральна
Как меняется баланс сил между «белыми» и «чёрными» хакерами, когда у обеих сторон появляется одинаковый инструментарий?

Инструмент становится общим, но позиции сторон остаются разными. У атакующего ИИ есть преимущества старта: его проще развернуть, он не связан этикой и регламентами, а наработки быстро расходятся по рынку злоумышленников. И это не гипотеза — ещё осенью 2025 года Anthropic описала первую известную кибершпионскую кампанию, где ИИ-агент выполнил 80–90 % операций, а люди лишь выбирали цели и давали одобрения. Оборонительный ИИ, наоборот, внедряется медленнее, ограничен правилами и заперт в контуре конкретной компании.

Но у защитника есть структурное преимущество, которого нет у нападающего: он знает свою инфраструктуру. Когда защита опирается на полную видимость учётных записей, контроль над повышением привилегий и связанные между собой процессы реагирования, ИИ превращается в мощное средство защиты. Появляется то, что уже называют «агентным SOC» (Security Operations Center, центр мониторинга и реагирования на инциденты информационной безопасности): агенты непрерывно сканируют инфраструктуру, замечают аномалии и реагируют за секунды. Есть и обратная сторона — ИИ резко сократил путь от публикации уязвимости до готового эксплойта, поэтому времени на установку обновлений остаётся всё меньше — особенно у сервисов, доступных из интернета. В итоге баланс смещается в сторону тех, кто лучше организован, — вне зависимости от того, «чёрные» они или «белые».

Можно ли установить правила такого противостояния между «ИИ-атакующим» и «ИИ-защитниками»? Как они могли бы выглядеть?

Единый «свод правил войны» подписать вряд ли получится: у сторон разные интересы, а атакующие правил по определению не соблюдают. Но отдельные элементы уже складываются, и они реалистичнее любого громкого договора. На межгосударственном уровне есть Pall Mall Process — инициатива Великобритании и Франции: в апреле 2025 года 21 страна подписала необязывающий кодекс поведения с четырьмя принципами: подотчётность, соразмерность, прозрачность и надзор. Он опирается на выработанные в ООН 11 добровольных норм поведения в киберпространстве.

На уровне разработчиков роль «правил» выполняют политики ответственного масштабирования: у Anthropic, OpenAI и Google DeepMind прописано, что модель проверяют на опасные способности и приостанавливают выпуск, если риск не удаётся удержать. Свежий пример — Claude Fable 5: в июне 2026 года Anthropic сняла модель с публичного доступа после того, как исследователи Amazon смогли заставить её найти уязвимость и написать код для атаки, и вернула её лишь через несколько недель — с усиленными ограничителями и заметно урезанными возможностями. Сюда же — координируемое раскрытие уязвимостей и экспортный контроль: с 2025 года веса ИИ-моделей (их обученные параметры — по сути, «содержимое» модели) формально попали под экспортные ограничения. В России со стороны бизнеса тот же принцип пока держится на «мягком праве» и саморегулировании: с 2021 года действует Кодекс этики в сфере ИИ, который подписали «Сбер», «Яндекс», VK и десятки других компаний и вузов, — он закрепляет приоритет безопасности человека и ответственность разработчика.

Должны ли разработчики нести ответственность за последствия использования их технологий, если утечка или их применение приводят к ущербу?

Базовый принцип права простой: отвечает тот, кто применил инструмент во вред. Производителя молотка не судят за то, что им кого-то ударили. Но флагманские ИИ-модели — не молоток, и ответственность здесь распределяется между несколькими сторонами: создателем модели, тем, кто её внедрил, и конечным пользователем.

У создателей мощных моделей есть особая обязанность, соразмерная возможностям. Именно поэтому решение Anthropic не публиковать Mythos и вместо этого открыть доступ защитникам я считаю примером ответственного поведения: компания не переложила риск на рынок. Регуляторы движутся в ту же сторону. Европейский AI Act требует от моделей с системным риском оценивать опасные способности, ставить защитные фильтры и сообщать об инцидентах, а штрафы доходят до 7 % мирового оборота. Однако, Правительство РФ уже внесло в Госдуму законопроект о больших фундаментальных моделях ИИ, в основе которого — риск-ориентированный подход. Он обязывает разработчиков принимать технические меры безопасности, вести документацию с описанием возможностей и ограничений модели и задавать правила её эксплуатации — вплоть до порядка вывода из эксплуатации. Закон пока не принят тогда как часть требований должна заработать с марта 2027 года.

Отдельная тема — утечки: если веса модели с опасными возможностями утекли в сеть из-за слабой защиты, это уже вопрос халатности самого разработчика. Так что ответственность делится: пользователь отвечает за применение, создатель — за то, чтобы опасные возможности не оказались в открытом доступе по неосторожности.

Ответственность за атаку несёт тот, кто её провёл. Но у создателей флагманских моделей есть особая обязанность — не выкладывать опасные возможности в открытый доступ
Гонка ИИ-инструментов в киберпространстве уже идёт. Каким вы видите её развитие в ближайшие 2–3 года?

Ближайшие два-три года пройдут как гонка скоростей: обе стороны переходят на агентов, и выигрывает тот, кто быстрее замыкает цикл «обнаружил — среагировал». До открытой войны, на мой взгляд, дело не дойдёт.

Первое, чего я жду: рутинные атаки станут более массовыми и дешёвыми и то, что раньше делали немногие профессионалы, автоматизируется. Второе — оборона тоже станет агентной: центры мониторинга перейдут от ручного поиска к разбору уже подготовленного агентами контекста. Третье — сместится периметр целей. По прогнозам Kaspersky, под удар всё чаще будут попадать логистика, цепочки поставок, умный транспорт и спутниковая связь, а классические ИТ-системы перестанут быть единственной мишенью. При этом важно не впадать в фатализм: прорывы уровня Mythos пока случаются в контролируемых условиях и у крупных лабораторий, до рядового злоумышленника такие возможности ещё не дошли. Побеждать будет тот, у кого дисциплина и безопасность лежат в основе процессов, а сам по себе ИИ исхода не гарантирует.

Что делать руководителям отдела кибербезопасности? Какие превентивные меры вы порекомендовали бы внедрять уже сегодня?

Хорошая новость в том, что готовиться нужно к ускорению уже знакомых угроз — ничего магического в них нет. И здесь наибольший эффект дают базовые меры.

img
Ярослав Якимов
Директор по развитию технологий и искусственного интеллекта GS Labs
Первое — применить принцип наименьших привилегий к самим ИИ-агентам и закрепить за каждым агентом ответственного человека-владельца: агент с широкими правами превращается в готовую цель. Второе — изолировать агентов: запускать их в «песочнице» — изолированной среде, ограничивать доступ к сети и данным, проверять запросы на инъекции в промптах. Крупные вендоры уже оформили это в подход «нулевого доверия для ИИ» — соответствующие рекомендации весной 2026 года выпустили Microsoft и Cisco. Третье — сжать сроки установки обновлений, особенно на внешних сервисах, и внедрять оборонительный ИИ, не дожидаясь, пока это сделают злоумышленники.

Ранее Ярослав Якимов рассказал «Телеспутнику», как ИИ-агенты трансформируют бизнес-процессы. По словам эксперта, уже в 2026 году 40 % рабочих ролей в крупных компаниях будут напрямую работать с ИИ: рутину заберут агенты, а человеку останется сформулировать задачи, установить планку качества и решить как пустить результат в дело.

Читайте также

Похожие материалы

Спорт любой ценой: зачем онлайн-кинотеатры вкладывают в спортивные права миллиарды

23.07.2026

Кредит доверия

14.05.2025

Российские производители электроники просят перестать запрашивать цену у иностранцев при госзакупках

08.07.2025

«Оружейная столица» на канале «Арсенал»: Михаил Драгунов о работе над проектом

12.02.2025

Чем бум ИИ похож на пузырь доткомов 2000-х

30.04.2026

Популярные статьи

Подписка на рассылку

Подпишитесь на рассылку, чтобы одним из первых быть в курсе новых событий

Выбор редакции