Атаки ИИ-агентов множатся: OpenAI расширяет киберзащиту Daybreak и выпускает новую специализированную модель

Каждый день приносит свежие новости о том, как ИИ-агент «выходит из-под контроля» — то скомпрометирует Hugging Face, то взломает сайт спортзала, а то и создаст собственные фейковые профили для социальной инженерии. Искусственный интеллект всё чаще ведёт себя как злоумышленник, и эта тенденция уже перестала быть просто темой для научной фантастики.

ИИ-лаборатории отвечают на киберугрозы

Неудивительно, что лаборатории, создающие такие модели, одновременно расширяют собственные средства киберзащиты. На этой неделе OpenAI анонсировала развитие сервиса Daybreak — платформы киберобороны, запущенной в начале года, вскоре после того как Anthropic выпустила свою «кибер»-модель Mythos. Теперь это не просто набор инструментов: в состав сервиса вошла совершенно новая модель, специально нацеленная на задачи обороны.

Daybreak объединяет доступ к моделям, инструментам и готовым рабочим процессам для защитников. Как заявила OpenAI в понедельник, сервис теперь состоит из двух уровней — Blue и Red. Оба уровня дают одобренным клиентам доступ к пограничным кибермоделям компании, которые ранее были доступны лишь ограниченному кругу. Пограничные модели — самые продвинутые из существующих — давно вызывают споры: администрация Трампа ранее стремилась сотрудничать с ИИ-компаниями по их внедрению, якобы из соображений безопасности. OpenAI, в свою очередь, окружала эти модели серьёзными предохранителями, ограничивая возможности клиентов.

Два уровня защиты: Blue и Red

Blue — более простой из двух уровней — предлагает набор базовых киберсервисов: реагирование на инциденты, анализ вредоносного ПО и валидацию патчей. Компания называет Blue «рекомендуемой отправной точкой для большинства защитников», подразумевая, что его возможностей с запасом хватит большинству предприятий.

Red, напротив, даёт более широкий и потенциально более опасный инструментарий. Пользователям предоставляются «целевым образом обученные модели кибербезопасности», предназначенные для тестирования защищённости и исследования уязвимостей. Вместе с уровнем Red становится доступна новая модель GPT-5.6-Cyber, построенная на базе GPT-5.6 Sol и предлагающая расширенные возможности для ряда специализированных задач кибербезопасности.

Разделение на уровни напоминает модель доступа, которую ИИ-индустрия постепенно вырабатывает для наиболее опасных технологий: сначала закрытое тестирование у проверенных партнёров, затем расширение круга доступа по мере накопления опыта и правил. OpenAI уже давно практикует такой подход — например, с моделями, способными автономно выполнять сложные действия в браузере или системе, доступ к которым также открывается поэтапно.

Пока что GPT-5.6-Cyber доступна только «доверенным партнёрам-клиентам», среди которых, по сообщениям, Accenture, IBM, CrowdStrike, Cloudflare и другие компании. Это сознательное ограничение: OpenAI стремится держать самые мощные инструменты под контролем, пока сообщество не выработает общие правила их применения.

Маркетинг или необходимость?

Пока угрозы со стороны ИИ-агентов стремительно растут, критики указывают: новые продукты одновременно служат маркетинговым инструментом для лабораторий. OpenAI, безусловно, продвигает обновлённый Daybreak именно в таком ключе. «Мир кибербезопасности быстро меняется: атакующие будут всё активнее использовать ИИ для проведения кибератак с беспрецедентной скоростью и масштабом, включая полностью автономные атаки, — говорится в блоге компании. — По мере распространения этих возможностей у защитников остаётся всё меньше времени на подготовку».

В то же время предприятия по-прежнему заинтересованы покупать защиту именно у тех лабораторий, которые лучше всех знают риски безопасности — потому что знают их из первых рук. В конечном счёте, перед лицом эпохи ИИ-угроз выбор между уровнем Blue и Red — это не только вопрос бюджета, но и вопрос доверия: насколько компания готова вверить самую чувствительную часть своей инфраструктуры создателям тех самых технологий, которые используются в атаках. Ответ на этот вопрос, судя по всему, рынок будет искать ещё не один год, а пока спрос на специализированные кибермодели продолжит расти вместе с числом инцидентов.

По материалам TechCrunch