Флорида просит суд остановить OpenAI: штат заговорил о риске гибели цивилизации
Власти Флориды заявляют, что большие языковые модели угрожают цивилизации, и называют их «величайшей общественной угрозой, когда-либо созданной».
Штат Флорида добивается временного судебного запрета, который вынудил бы OpenAI прекратить разработку того, что в документах названо «безрассудным и недопустимо рискованным продуктом», — до тех пор, пока компания не внедрит «системы безопасности, одобренные независимой третьей стороной».
Новое ходатайство, поданное утром в понедельник, стало частью гражданского иска, который Флорида инициировала ещё в июне. Тогда власти штата утверждали, что ChatGPT представляет собой «угрозу общественной безопасности жителей Флориды», поскольку целенаправленно воздействует на уязвимые категории граждан — детей, а также склонных к насилию или страдающих расстройствами взрослых. Однако тот иск был подан до инцидента со взломом, связанного с Hugging Face, и до последовавших за ним публичных предупреждений о катастрофических рисках «рассогласования» моделей, которые спровоцировали призывы в масштабах всей отрасли замедлить разработку и обучение так называемых фронтирных моделей.
После череды этих событий OpenAI в пятницу объявила, что уже приостановила обучение своих «самых способных моделей» — до тех пор, пока не подтвердит работоспособность протоколов безопасности, призванных не допустить выхода агентов в открытый интернет во время обучения. Однако, добиваясь запрета через суд штата, Флорида настаивает: OpenAI «неоднократно демонстрировала неспособность контролировать собственные ИИ-системы и не спешит раскрывать информацию, когда обнаруживает опасную активность».
Обосновывая своё требование, власти ссылаются и на инцидент с Hugging Face, и на другие громкие случаи рассогласования, когда системы предпринимали ненамеренные и несанкционированные попытки получить доступ к серверам правительства Австралии и США.
Кроме того, Флорида приводит высказывания лидеров отрасли искусственного интеллекта, в том числе многих сотрудников самой OpenAI, доказывая, что индустрия буквально сама просит о внешнем регулировании. В ходатайстве цитируются слова Paul Christiano: вступая в этом месяце в совет директоров компании, он заявил, что, по его убеждению, «существует реальный риск того, что стремительный рост возможностей ИИ приведёт к катастрофической и необратимой потере контроля в самом ближайшем будущем». В документе упоминается и собственное эссе OpenAI под названием An Alien Mind, и открытое письмо 1300 работников отрасли — оба призывают, если потребуется, принудительно замедлить развитие фронтирного ИИ.
Четыре месяца назад мы подали первый в истории иск штата против OpenAI и Sam Altman. Сегодня мы просим суд о временном запрете. Хватит называть это безопасным. Хватит делать вид, что это человек. Хватит продавать это детям. https://t.co/AEXvz7VQUd — Attorney General James Uthmeier (@AGJamesUthmeier), 28 сентября 2026 года
Ссылаясь на законы, позволяющие штату брать под контроль компании, создающие «общественную угрозу», Флорида утверждает, что OpenAI — это «величайшая общественная угроза, когда-либо созданная рукой человека, способная обратить в руины всю мировую цивилизацию».
«Лишь милостью Всевышнего один из ИИ-агентов ответчиков до сих пор не отравил систему водоснабжения и не отключил энергосеть — но это только пока», — говорится в ходатайстве.
Представители OpenAI пока не ответили на запрос Ars Technica о комментарии относительно ходатайства о судебном запрете.
Что на самом деле может сделать суд штата?
Многие считают угрозу краха цивилизации со стороны нынешних и даже близких к появлению ИИ-систем сильно преувеличенной, однако Флорида, судя по всему, с удовольствием ухватилась за недавнюю общественную тревогу вокруг таких рисков. Помимо сценариев вымирания и саботажа коммунальной инфраструктуры, о которых говорилось выше, власти в новом ходатайстве повторяют более широкие и куда более приземлённые доводы о рисках для общественной безопасности, изложенные ещё в июньском иске. Среди них — вопросы недостоверной рекламы вокруг описаний ИИ как «безопасного, точного и надёжного», опасность доступа детей к вызывающим зависимость и угодливым моделям, а также тревога из-за того, что модели подталкивают пользователей к вовлечённости, задавая наводящие вопросы в конце ответа.
Впрочем, запрет, вынесенный только в отношении OpenAI, вряд ли остановит разработку фронтирных моделей у конкурентов. Да и судебное предписание прекратить создание новых моделей никак не повлияет на те, что уже доступны публике и несут во многом те же риски — хотя у фронтирных моделей, обучение которых ещё продолжается, защитные механизмы могут быть проработаны хуже, чем у уже развёрнутых.
Ходатайство Флориды также делает серьёзный акцент на так называемом риске «рассогласования», когда вышедший из-под контроля ИИ-агент способен ошибочно «прийти к выводу, что убийство пациента с раком убивает и сам рак, либо что людей не придётся так много кормить, если всех их химически стерилизовать» — это лишь несколько примеров из документа, звучащих как отрывки из научной фантастики. Но такое сосредоточение внимания упускает реальные опасности: намеренное использование ИИ-агентов людьми во вред и активные попытки тех же людей отключить защитные механизмы.
Какой бы ни была юридическая сила ходатайства Флориды, сам этот шаг показывает, насколько сильно изменились правовые настроения и подходы в общественной политике вокруг ИИ-систем за последние недели и месяцы. Годами исследователи в области безопасности ИИ кричали о чрезмерных рисках, которые несут их собственные продукты. Теперь вся отрасль начинает понимать, что бывает, когда власти и законодатели начинают относиться к этим предупреждениям всерьёз.
