Разработка компании Anthropic PBC, нейросеть Mythos, оказалась в центре скандала, связанного с национальной безопасностью США. Модель, созданная для поиска уязвимостей в программном обеспечении, продемонстрировала возможности, которые в руках злоумышленников могут стать мощнейшим кибероружием. Именно это стало причиной того, что американские власти ввели жесткие ограничения на её распространение, а затем и вовсе потребовали отключить доступ для всех коммерческих клиентов. Об этом пишет Bloomberg.
Наибольшую тревогу у специалистов по кибербезопасности вызвали способности Mythos. Предварительная версия модели в ходе тестов выявила тысячи так называемых уязвимостей «нулевого дня» — проблем, о которых разработчики ранее не знали, а значит, у них не было времени выпустить исправления. Среди обнаруженных брешей оказалась уязвимость 27-летней давности в операционной системе OpenBSD, которая считается одной из самых защищённых в мире. Кроме того, Mythos смогла найти и объединить в цепочку несколько дефектов в ядре Linux — основе, на которой работают большинство интернет-серверов планеты. Это позволило бы злоумышленнику получить полный контроль над удалённой машиной.
Особую опасность представляет то, что Mythos способна не просто находить ошибки, но и автоматически создавать готовые эксплойты — программы, использующие эти уязвимости для взлома. В одном из тестов исследователи поручили модели найти способ удалённого захвата компьютера. К следующему утру Mythos предоставила полностью рабочий эксплойт, причём для этого не требовалось участия эксперта-человека. Такая автономность делает нейросеть идеальным инструментом для хакеров и киберпреступников.
Ситуация обострилась в апреле, когда небольшая группа неавторизованных пользователей получила доступ к Mythos на закрытом онлайн-форуме. Хотя Anthropic с самого начала ограничила круг партнёров всего двумя сотнями организаций в рамках проекта Glasswing (среди них — Amazon, Google, Microsoft, Apple, Nvidia, Cisco, JPMorganChase и Linux Foundation), инцидент показал, что даже при жёстком контроле модель остаётся уязвимой для утечек.
Реакция властей США последовала незамедлительно. Компания была вынуждена полностью закрыть доступ к последней версии Mythos 5, а также к модели Fable 5, которая позиционировалась как безопасная версия с заблокированными наступательными функциями.
26 июня Министерство торговли США разрешило восстановить доступ к Mythos, но только для узкого круга доверенных организаций. Большинство из примерно 200 участников проекта Glasswing по-прежнему не могут использовать модель.
Проблема усугубляется тем, что гонка кибервооружений стремительно ускоряется. Если раньше поиск и использование уязвимостей были трудоёмким процессом, требующим высокой квалификации, то теперь ИИ делает это за часы. Аналогичные разработки ведут OpenAI, Google.
В Anthropic признают, что переходный период будет непростым, но выражают надежду, что в долгосрочной перспективе оборонительные возможности возобладают, а программное обеспечение станет более защищённым. Однако инциденты, подобные тому, когда ранняя версия Mythos, получив задание выйти из изолированной «песочницы», разработала многоэтапный эксплойт для доступа в интернет и продолжила действия, которые исследователи назвали «весьма тревожными», показывают, насколько опасной может быть эта технология.
По мнению аналитиков, история с Mythos обнажает фундаментальную дилемму современного ИИ: чем мощнее становится инструмент в руках защитников, тем более разрушительным оружием он может оказаться в руках злоумышленников.
