Суд постановил, что Пентагон может внести Anthropic в чёрный список за отказ включить функции Claude
«Чрезмерно ограниченные ИИ-модели» могут привести к провалу военных операций, заявляют судьи.
Апелляционный суд США сегодня одобрил внесение Министерством обороны технологий Anthropic в чёрный список. Судьи постановили, что администрация Трампа обладала полномочиями внести Anthropic в чёрный список за утаивание от военных определённых функций ИИ, даже если у Anthropic не было злого умысла.
В решении, принятом со счётом 2 против 1 Апелляционным судом США по округу Колумбия, коллегия судей заявила, что «дело поднимает крайне сложные вопросы о надлежащем военном применении почти невообразимо мощной новой технологии». США «поднимают глубоко отрезвляющую перспективу того, что чрезмерно ограниченные ИИ-модели могут неожиданно отключиться и тем самым привести к провалу важных военных операций. Anthropic поднимает глубоко отрезвляющую перспективу того, что неограниченные ИИ-модели могут галлюцинировать и выбирать неподобающие цели для применения смертоносной военной силы», — говорится в решении.
Трамп и министр обороны Пит Хегсет «должны определить, как лучше всего сбалансировать конкурирующие риски», — заявил суд. «Поступая так в данном случае, министр не вышел за пределы своих полномочий по Закону о безопасности цепочек поставок или Конституции. Соответственно, мы отклоняем ходатайства о пересмотре». Этот же суд ранее, в апреле, отклонил экстренное ходатайство Anthropic о приостановлении действия.
Оба судьи, вынесшие решение против Anthropic, были назначены Трампом и работали в первой администрации Трампа. Судья Грегори Кацас ранее занимал должность заместителя советника президента, а судья Неоми Рао работала в Административно-бюджетном управлении администрации Трампа.
Два суда, два разных решения
Anthropic подала иск против администрации Трампа в марте после того, как та распорядилась о том, чтобы федеральные агентства прекратили использовать продукты Anthropic, и запретила оборонным подрядчикам вести с Anthropic какие-либо дела. Anthropic может обжаловать сегодняшнее решение: либо запросив пересмотр в полном составе всеми судьями апелляционного суда, либо подав петицию в Верховный суд.
«Мы с уважением не согласны с решением суда», — заявил CNBC представитель Anthropic. «Другой федеральный суд уже признал параллельное определение правительства незаконным. Мы по-прежнему уверены в своей позиции и рассматриваем все варианты, включая дальнейший пересмотр». Несмотря на продолжающуюся юридическую борьбу, министр торговли Говард Лутник недавно заявил, что администрация Трампа и Anthropic уладили свои отношения и «находятся в согласии».
Два суда рассматривали внесение Anthropic в чёрный список США. Судья Федерального окружного суда по Северному округу Калифорнии в прошлом месяце постановил, что эти действия незаконны, поскольку Anthropic не соответствует определению риска для цепочки поставок, которое ограничивается «риском того, что противник может саботировать, злонамеренно внедрить нежелательную функцию или иным образом подорвать… охватываемую систему».
Сегодняшнее решение Апелляционного суда округа Колумбия не оспаривало основной вывод окружного суда. Но в нём сказано, что задача окружного суда состояла в проверке того, было ли это решение допустимо по одному закону, тогда как апелляционный суд обладает исключительной юрисдикцией для пересмотра решения в соответствии с другим, более разрешительным предоставлением полномочий.
Решение окружного суда установило нарушение 10 U.S.C. § 3252, согласно которому риски для цепочки поставок ограничены злонамеренными действиями противников. Апелляционный суд рассматривал внесение в чёрный список в соответствии с 41 U.S.C. § 4713, где таких ограничений нет. Примечательно, что Конгресс предоставил Апелляционному суду округа Колумбия исключительную юрисдикцию для пересмотра закупочных действий, предпринятых в рамках определений по разделу 4713.
Злой умысел не требуется
В сегодняшнем решении говорится:
У нас нет возражений против вывода Северного округа о том, что использование ключевого существительного «противник» в сочетании со зловещим подтекстом, вполне пронизывающим ряд «саботировать», «злонамеренно внедрить» и «иным образом подорвать», указывает на то, что для обоснования определения по разделу 3252 требуется злой умысел. Равным образом у нас нет возражений против вывода Северного округа о том, что Anthropic действовала без такого злого умысла в своих отношениях с Министерством. Но, как подробно объяснено выше, для обоснования определения по гораздо более широкому определению, изложенному в разделе 4713, такой злой умысел не требуется.
США определили Anthropic как риск для цепочки поставок в соответствии с обоими разделами — 3252 и 4713. Последний статут определяет «риск для цепочки поставок» как «риск того, что любое лицо может саботировать, злонамеренно внедрить нежелательную функцию, извлечь данные или иным образом манипулировать проектированием, целостностью, изготовлением, производством, распространением, установкой, эксплуатацией, обслуживанием, распоряжением или выводом из эксплуатации» охватываемых технологических продуктов, «с тем чтобы вести наблюдение, отказать в работе, нарушить или иным образом манипулировать функцией, использованием или работой» этих продуктов либо информации, хранящейся на них или передаваемой ими, — заявил суд.
Использование формулировки «любое лицо» показывает, что определение не ограничивается противниками или иностранными субъектами, заявил суд. Суд также указал на слово «отказать» (deny), которое, по его словам, применимо к тому, что Anthropic не даёт США использовать определённые функции Claude.
«В итоге мы приходим к выводу, что обеспокоенность министра по поводу того, что Anthropic отключает Claude от выполнения законных действий, запрошенных Министерством, квалифицируется как „риск для цепочки поставок“ в смысле раздела 4713», — заявило большинство судей. В нём также сказано, что «Министерство разумно опасалось, что Anthropic может манипулировать проектированием Claude, чтобы не дать ему выполнять функции национальной безопасности, которые Министерство считает договорно разрешёнными и необходимыми».
Особое мнение судьи
Особое мнение высказала судья Карен Хендерсон, назначенная Джорджем Г. У. Бушем. Хендерсон оспорила толкование определения в разделе 4713 большинством судей, заявив, что, «рассматриваемые в их законодательном контексте, все соответствующие глаголы направлены на умышленное воспрепятствование или подслушивание „функции, использования или работы“ охватываемого изделия, которое поступило в федеральную цепочку поставок».
Конгресс «принял этот статут в ответ на призывы разведывательного сообщества США к законодательству, способному противостоять угрозе проникновения „враждебных национальных государств и иных недобросовестных субъектов“ в информационные и технологические системы федерального правительства через его цепочки поставок», — написала Хендерсон. Она заявила, что определение не следует толковать как охватывающее «честное и открытое применение подрядчиком ограничений на использование охватываемого изделия, не одобряемое правительством».
Anthropic утверждала, а судья окружного суда в Калифорнии согласился с этим, что администрация Трампа незаконно отомстила компании после того, как она отказалась снять ограничения на использование своих продуктов для смертоносной автономной войны и массовой слежки за американцами.
Апелляционный суд заявил, что Anthropic «закладывает в Claude ограничения, которые не позволяют модели выполнять задачи, которые Anthropic хочет предотвратить. Неоднократно эти ограничения не давали Claude выполнять задачи, запрошенные государственными пользователями. И недавно возник спор о том, запрещают ли договорные запреты использование Claude в продолжающейся зарубежной военной операции, оставив Министерство в неопределённости относительно того, будет ли Claude работать так, как нужно и задумано».
Дело в Северном округе Калифорнии рассматривала судья Рита Лин, назначенная Байденом. Лин постановила, что внесение в чёрный список нарушило Первую поправку. «Пустая ссылка на национальную безопасность не является неограниченным мандатом наказывать государственных критиков и мстить им», — написала она.
