Исследователи безопасности обнаружили JadePuffer — кампанию вымогательского ПО, которую называют «первым задокументированным случаем агентного рансомвара». Вся операция от начала до конца управляется искусственным интеллектом без участия человека.
По данным облачной компании Sysdig, JadePuffer использует большую языковую модель (LLM) для управления кампанией без вмешательства человека. Оператор — или группа киберпреступников — использовал уязвимость CVE-2025-3248, неаутентифицированную удалённую эксплуатацию кода в Langflow, open-source конструкторе для агентных AI-приложений.
LLM JadePuffer использовала уязвимость Langflow для получения первоначального доступа к целевой системе, проводя разведку и сканирование окружения с целью кражи учётных данных, включая API-ключи LLM, облачные сертификаты, информацию о криптовалютных кошельках и seed-фразы, а также учётные данные баз данных и конфигурационные файлы.
После закрепления в среде Langflow злоумышленник перешёл к истинной цели — production-серверу с конфигурационным сервисом Alibaba Nacos. Затем было развёрнуто вымогательское ПО, файлы на сервере зашифрованы, а жертве отображена записка с требованием выкупа в биткоинах.
Этот сценарий многократно встречался в кампаниях вымогательского ПО, но отличие — использование LLM, которая может адаптировать и корректировать свою тактику в зависимости от encountered защиты.
Нуэль Мурата, операционный директор Xcape Inc., отмечает, что случай JadePuffer «знаменует фундаментальный сдвиг в возможностях злоумышленников», показывая, как AI может перевести кибератаки от скриптовых (и жёстких) техник к «автономному выполнению на машинной скорости».
Этот случай, вероятно, лишит сна многих специалистов по безопасности. Проблема в том, что AI и LLM часто быстрее человека в вычислительных задачах, и хотя ошибки и галлюцинации AI могут повлиять на успех вредоносной кампании, AI может быстро адаптироваться — а время реагирования защитников сокращается.
«Используя большую языковую модель для самостоятельного прохождения всего килл-чейна, диагностики собственных ошибок выполнения и переписывания полезной нагрузки за секунды, эта операция делает традиционные, зависимые от человека модели реагирования на инциденты полностью устаревшими», — сказала Мурата.
Как организациям эффективно реагировать на следующую эволюцию киберпреступности на базе AI, пока неясно. Однако вполне возможно, что ручной триаж и реагирование на инциденты перестанут быть достаточными через несколько лет. Эксперты рекомендуют модели обнаружения на основе поведения для борьбы не только с AI, но и с инсайдерскими угрозами, и, вероятно, будущим защитникам потребуется развёртывание собственных AI-решений для защиты сетей.
По материалам ZDNet