Комитет по разведке Палаты представителей предупредил о «чёрных лебедях» в сфере ИИ
Постоянный специальный комитет по разведке Палаты представителей США призвал американские спецслужбы активнее готовиться к «чёрным лебедям» в сфере искусственного интеллекта. В новом докладе законодатели предупреждают, что технология может быть использована террористами или геополитическими противниками для создания более опасных биологических, химических и кибернетических угроз.
Доклад озаглавлен «Без подготовки к ИИ: оценка угроз от искусственного интеллекта» и представляет собой редкий пример того, как Конгресс пытается системно оценить риски новых технологий, а не реагировать на уже случившиеся инциденты. По данным источников, знакомых с содержанием документа, в нём впервые введено понятие «ИИ-чёрный лебедь» — событие, которое невозможно предсказать на основе текущих моделей, но которое способно оказать разрушительное воздействие на национальную безопасность.
Особое место в докладе занимает сценарий, при котором злоумышленник получает доступ к большой языковой модели следующего поколения и использует её для автоматической генерации эксплойтов, синтеза опасных веществ или координирования дезинформационных кампаний в промышленном масштабе. Законодатели подчёркивают, что подобные сценарии ещё год назад выглядели теоретическими, а сегодня выглядят вполне реалистичными — особенно с учётом того, что open-source модели становятся всё мощнее, а их контроль со стороны государства остаётся ограниченным.
Комитет рекомендует американским спецслужбам создать специальное подразделение, которое будет заниматься «прогнозированием чёрных лебедей» в области ИИ, а также расширить программы обучения аналитиков работе с большими языковыми моделями. Кроме того, в докладе предложено усилить международное сотрудничество с союзниками по разведке, в первую очередь с Великобританией, Канадой, Австралией и Новой Зеландией, чтобы обмениваться данными об угрозах и совместно вырабатывать защитные меры.
Доклад вышел на фоне растущего политического давления на крупнейшие технологические компании. В Конгрессе уже несколько месяцев обсуждаются законопроекты, которые могут обязать разработчиков ИИ-систем раскрывать данные об обучении моделей и проходить независимый аудит безопасности. Игроки индустрии, включая OpenAI, Google DeepMind и Anthropic, пока занимают осторожную позицию: они поддерживают идею регулирования, но настаивают на том, чтобы нормы не тормозили инновации и не закрепляли доминирование нынешних лидеров рынка.
Эксперты по национальной безопасности положительно оценивают сам факт появления такого доклада, но предупреждают, что без конкретного бюджета и полномочий он останется аналитическим документом, а не руководством к действию. В ближайшие месяцы Конгрессу предстоит решить, насколько глубоко США готовы встраивать ИИ-риски в свою систему стратегического планирования — и готово ли разведывательное сообщество перестраивать свои процессы под новую технологическую реальность.
По материалам CNBC
