Гонка ИИ глазами экспертов: почему соперничество США и Китая мешает общей безопасности
Стремление Трампа победить в «гонке ИИ» может отбить у Китая желание делиться данными о безопасности — и тогда переговоры рискуют остаться формальностью. На этой неделе США и Китай — два мировых лидера в области ИИ — наконец начали переговоры, призванные защитить весь мир от возникающих рисков безопасности. Но смогут ли встречи Дональда Трампа и Си Цзиньпина привести к надёжной глобальной системе управления ИИ, зависит от того, насколько искренне готовы сотрудничать эти жёсткие соперники.
Трамп явно хочет, чтобы обсуждение выглядело успешным. Перед встречей Трампа и Си в четверг и пятницу министр финансов Скотт Бессент объявил, что стороны уже договорились о создании нового механизма уведомлений о безопасности ИИ. Если Китай согласится участвовать, появится открытая линия, по которой каждая сторона сможет направлять оповещения, когда её ИИ-системы создают угрозы или ведут себя непредсказуемо. По словам Бессента, тот же канал позволил бы странам делиться «видением общих целей».
Однако предложение прозвучало в момент, когда Китай, возможно, не готов доверять США в разговоре о безопасности ИИ, который не сводится к ограничению китайских возможностей. Трамп последовательно ужесточает экспортный контроль, прямо нацеленный на то, чтобы закрыть Китаю доступ к технологиям для развития ИИ, а Конгресс рассматривает законопроекты, которые отрезали бы страну от новых чипов и оборудования. Добавляет напряжения и то, что всего две недели назад Минюст Трампа обвинил шесть ведущих китайских разработчиков ИИ в краже технологий у американских передовых лабораторий — Китай это решительно оспаривает.
Некоторые эксперты по американо-китайским отношениям говорили Ars Technica, что были опасения, будто Китай отменит переговоры, но Пекин, похоже, не обижается на риторику Трампа. Даже посты в Truth Social, где Трамп настаивает, что Америка должна доминировать над Китаем в ИИ — заявляя «КТО ПОБЕДИТ В ИИ, ТОТ ПОБЕДИТ! Мы опережаем Китай и всех остальных и будем делать это дальше», — не помешали Китаю приехать.
Показательно, что Китай до сих пор публично не подтвердил участие в предложенной системе оповещений. И даже если бы Пекин её принял, люди, знакомые с планом Бессента, сказали Politico, что идея мониторинга оповещений о безопасности выглядит поверхностной: в ней нет чиновников с технической экспертизой, которым можно было бы доверить оценку срочности описанных рисков.
Один из источников, описывая значимость договорённости, съязвил: «научно-технический термин для этого — BS».
Сэм Бресник, научный сотрудник джорджтаунского аналитического центра Center for Security and Emerging Technology, изучает применение ИИ в нацбезопасности и американо-китайское технологическое соперничество. Он согласен, что отсутствие технической группы экспертов, следящей за каналом, — тревожный сигнал.
«Это существующий канал, и, думаю, это лучше, чем создавать совершенно новый, — сказал Бресник Ars Technica. — Но если бы у обеих сторон были технические специалисты, США и Китай могли бы вести по-настоящему глубокие разговоры о том, как они оценивают риски». Это особенно важно при обсуждении военных рисков, подчеркнул он.
«Полагаю, это точно лучше, чем ничего, но у меня мало уверенности в том, что это серьёзно изменит ситуацию в будущем», — сказал Бресник.
Скромные ожидания от переговоров Трампа
Су Лянь Цзе, главный аналитик глобальной исследовательской компании Omdia, сказал South China Morning Post, что оповещения об ИИ могут помочь «повысить прозрачность», но не сделают стороны менее подозрительными друг к другу.
«Не думаю, что диалог снимет все опасения и разногласия по поводу дистилляции, ценовой конкуренции и темпов развития», — сказал Су.
Он похвалил план как хорошее начало открытого диалога и предположил, что для осмысленности механизма безопасности потребуется куда больше сотрудничества.
«Чтобы предложение превратилось в эффективный инструмент, обеим странам придётся согласовать классификацию рисков, триггеры уведомлений, протоколы реагирования и процедуры регулярного пересмотра», — сказал он.
Возможно, это и обсудят на встрече Трампа и Си позже на этой неделе, где ИИ, как предполагается, стоит на первом месте в повестке.
Что именно будет обсуждаться, неясно, но критики, озабоченные самыми неотложными рисками ИИ, опасаются, что заявление Бессента говорит о скромных амбициях Трампа на саммите.
В эфире CBS «Face the Nation» конгрессмен Ро Ханна — ведущий демократ в спецкомитете Палаты представителей по стратегической конкуренции между США и Компартией Китая — предположил, что переговоры Трампа и Си должны идти куда дальше создания линии между двумя чиновниками без технической экспертизы.
Он заявил, что Трампу следовало бы просить у Си международное соглашение, которое срочно включало бы «запрет любого рекурсивно самоулучшающегося ИИ» и «гарантии того, что ИИ нельзя будет использовать для создания биологического или ядерного оружия».
Китай с подозрением относится к разговорам о безопасности ИИ
Многие эксперты описали обмен оповещениями о безопасности как разумный первый шаг к улучшению американо-китайской координации по ИИ, который затем мог бы развить будущий «царь ИИ» в администрации Трампа.
Элвин Ван Грейлин, глобальный технологический стратег и цифровой исследователь в Stanford Digital Economy Lab, десятилетиями оценивает геополитические риски. В последнее время он консультирует правительства и технологических лидеров по политике в сфере ИИ и глобальному управлению, в том числе делится рекомендациями о том, как построить систему уведомлений, подобную предложенной Бессентом.
Грейлин сказал Ars Technica, что был удивлён столь «позитивному» результату этой недели переговоров с Китаем. Обнадёживает и то, что у обеих стран уже запланирована ещё одна встреча в ноябре.
«Это показывает, что обе стороны видят ценность в обсуждении, — сказал Грейлин. — Иначе продолжения просто не было бы».
Грейлин заметил, что у США и Китая много общих рисков, связанных с ИИ. Не только якобы экзистенциальный риск, о котором недавно заговорили руководители ИИ-компаний, требуя замедления, но и угрозы со стороны злоумышленников — хакеров или террористов, применяющих ИИ для атак на инфраструктуру любой из стран.
США и Китаю есть чему поучиться друг у друга, если они будут говорить серьёзно. Грейлин отметил, что Китай регулярно проводит аудит ИИ-моделей и мог бы поделиться опытом сотен проверок, тогда как США только начинают аудит ИИ. США, в свою очередь, могли бы дать Китаю больше опыта в аудите передовых моделей.
«Думаю, обе стороны придут к осознанию», что управление рисками ИИ «потребует сотрудничества», сказал Грейлин.
Бресник предположил, что текущие переговоры — возможность «изучить, как каждая сторона видит риски». Пока США борются с общественными страхами перед неуправляемым ИИ, в Китае «сейчас просто нет такого же страха перед ИИ», сказал Бресник, во многом потому, что государство чувствует, что способно контролировать ИИ.
Это может измениться по мере того, как передовой китайский ИИ догонит американский, говорит Бресник. Он ожидает, что американо-китайские дискуссии могут активизироваться через полгода-год, когда Китай начнёт видеть такой же уровень возникающих возможностей.
Однако пока само различие в восприятии риска может отбить у главного соперника Америки желание садиться за стол и обсуждать угрозы от террористов или хакеров, сказал Бресник. Особенно если США продолжат увязывать разговор о безопасности ИИ с сохранением американского лидерства.
Когда Трамп или такие руководители, как Сэм Альтман, ратуют за глобальные стандарты ИИ под руководством Америки, Китай, вероятно, видит в этом лишь попытку США использовать разговоры о безопасности, чтобы закрепить своё преимущество, сказал он. Эти опасения могут в долгосрочной перспективе сделать систему оповещений Бессента бесполезной, если Китай решит, что «безопасность ИИ» — это кодовое слово для подавления китайского ИИ.
«Думаю, у Китая есть причины относиться к этому механизму уведомлений с подозрением», — сказал Бресник.
«Глубоко порочная» гонка ИИ по-трамповски
Грейлин предупреждал, что США слишком увлеклись «глубоко порочным» нарративом о «победе» в «гонке ИИ», который, скорее всего, никому не принесёт пользы.
В реальности есть как минимум две гонки: за интеллект и за долю рынка. Сейчас США больше зарабатывают на передовом ИИ, но отстают в борьбе за пользователей по всему миру. За последние полгода использование открытых китайских моделей резко выросло, и Грейлин прогнозирует, что некоторые из них скоро превысят 80 процентов рынка. Для многих руководителей, урезающих ИТ-бюджеты, открытые модели китайских компаний — более дешёвая альтернатива передовому ИИ, которая к тому же лучше защищает приватность внутренних данных и данных клиентов.
США не могут позволить себе игнорировать эту вторую гонку, сосредоточившись лишь на фиктивной финишной черте, которой в передовом ИИ никогда не будет, писал Грейлин в сентябрьской статье для непартийного аналитического центра Quincy Institute. Он считает, что ни одна страна, вероятно, не сможет удержать «устойчивое и, возможно, постоянное лидерство», которое позволило бы ей перекроить глобальный баланс сил — а именно это обещают руководители корпораций, к которым прислушивается Трамп.
«Разрывы в возможностях США и Китая на переднем крае ИИ обычно сохраняются лишь несколько месяцев, и нет конкурентного „рва“, который обеспечил бы любой из стран постоянное преимущество», — писал Грейлин. Более того, американское тестирование передовых моделей на безопасность задерживает доступ к технологии, давая соперникам время догнать, а более ранний запуск создал бы ещё больше рисков.
«Даже если мы первыми достигнем искусственного сверхинтеллекта и сумеем как-то ускорить сертификацию, то, если мы не готовы развернуть его непроверенным в упреждающем ударе по Китаю, временное преимущество может испариться за недели или месяцы», — писал он.
По мнению Грейлина, представление США о том, что достижение сверхинтеллекта Китаем станет «крупнейшей угрозой безопасности США», выглядит ошибочным и мешает сотрудничеству, которое помогло бы обеим странам подготовиться к реальным, близким рискам ИИ — угрозам для работников, национальных экономик и национальной безопасности.
«Самые опасные модели — часто небольшие специализированные, которые могут создать или использовать негосударственные злоумышленники для применения биологического, химического или кибероружия, — писал Грейлин. — Предположение о конфликте США и Китая как раз и мешает тому глобальному сотрудничеству, которое защитило бы от этой вполне реальной угрозы».
Грейлин предположил, что США могли бы предпринять шаги для снижения общемировых страхов вокруг ИИ, но некоторые из них в глазах Трампа покажутся радикальными.
Помимо обмена разведданными высокого уровня и открытия «двусторонних и многосторонних каналов по безопасности ИИ», Трамп мог бы подумать о возвращении подхода Джо Байдена «маленький двор» и ослаблении постоянно расширяющегося экспортного контроля, который, вероятно, сейчас мешает Китаю проводить более качественное тестирование безопасности. Если бы экспортные ограничения сузили до блокировки доступа только к «настоящим военным и CBRNE-угрозам», а «не ко всем передовым технологиям», Китай, возможно, выпускал бы более безопасные ИИ-продукты, предположил он.
Кроме того, Трамп мог бы последовать примеру Китая и смягчить свою линию на дерегулирование ИИ. Введя разумные правила безопасности, он смог бы «уменьшить растущий общественный страх перед ИИ, который зреет внутри страны» и который, как писал Грейлин, «неизбежно помешает стране эффективно внедрять эту технологию в экономику и снизит нашу глобальную конкурентоспособность».
«Мы не можем управлять многомерными рисками самой мощной технологии в истории человечества, отказываясь разговаривать с другой страной, которая её создаёт», — писал Грейлин.
В идеальном мире встреча Трампа и Си на этой неделе однажды привела бы к тому, что США отказались бы от нарратива о «победе в гонке ИИ», сказал Грейлин.
«Нельзя соревноваться с собой до более безопасного мира», — сказал он Ars Technica.
