Дженсен Хуанг: ИИ не нужно регулировать — безопасность это инженерная задача, а не юридическая
Основатель и генеральный директор Nvidia Дженсен Хуанг чётко обозначил свою позицию по поводу угроз, связанных с ИИ, выступая на конференции Dreamforce, которую проводит Salesforce. По его мнению, искусственный интеллект — не некий «чужой разум», как его описывал как минимум один исследователь безопасности из OpenAI. Это всего лишь аппаратное и программное обеспечение, созданное людьми, — говорит он. А значит, людьми и действующими законами его можно контролировать.
«Безопасность — это инженерная проблема, а не юридическая, — заявил он. — В конце концов, мы разрабатываем программное обеспечение. Мы разрабатываем вычислительные системы. Да, это сложная вычислительная система, но всё-таки вычислительная система».
Следовательно, новых законов и правил для управления ИИ не требуется, настаивает он. Более того, Хуанг и вовсе не видит большой нужды в новых законах: по его мнению, свободный рынок сам заставит компании не выпускать небезопасные продукты.
«Если мы не уверены в безопасности продуктов — как и все компании, как вы и я, как все присутствующие здесь, — если вы создаёте продукт или услугу и не уверены в их работе, возможностях или безопасности, то не выпускайте их. Это очевидная вещь», — сказал он.
«Вы сами задаёте темп, пока не убедитесь, что выпускаете то, что рынок оценит. Рыночные силы уже работают. Нам не нужны новые законы. Не нужны новые правила. Нужно лишь, чтобы компании сами решали, когда бежать на максимальной скорости, — продолжил он. — По-моему, инновации, скорость и безопасные продукты — это ложный выбор. Вполне можно иметь и то, и другое одновременно. Так что бегите так быстро, как можете. Но если в какой-то момент почувствуете, что компания выходит из-под контроля или продукт будет небезопасен, сделайте паузу и убедитесь, что всё сделано правильно».
В каком-то смысле это утешительная мысль. Если кто и разбирается в ИИ, так это основатель Nvidia: он создавал аппаратную «начинку» для ИИ задолго до появления ChatGPT, а сегодня возглавляет компанию, которая выпускает ещё и открытые модели, агентов, среды запуска и песочницы.
С другой стороны, если смотреть цинично, такая точка зрения неудивительна для человека, которого бум ИИ буквально озолотил. Зачем ему регуляция, добавляющая слой препятствий и способная замедлить стремление Nvidia продавать всё больше ИИ-систем и ПО? Как он сам сказал в интервью: «Я амбициозен как никогда. Благодаря нашим амбициям и росту производительности, который даёт нам ИИ, для нас нет потолка. Нет потолка для нашей компании. Нет потолка для любой отрасли и любой страны».
Увы, даже компании с самыми добрыми намерениями выпускают некачественные продукты с непредвиденными последствиями — и софт здесь не исключение. Вспомните фиаско CrowdStrike 2024 года с «синим экраном смерти», из-за которого отменили тысячи рейсов и возникли другие проблемы у бизнеса. А есть ещё компании, которых обвиняют в намеренных действиях отнюдь не с благими целями: Meta только что заплатила 18 млрд долларов по иску о вреде соцсетей для детей.
И ИИ уже причинял вред — независимо от намерений и проведённых тестов безопасности: от взлома Hugging Face моделью OpenAI до исков к лаборатории после самоубийств молодых людей, подолгу общавшихся с её чат-ботом.
Стратегия «оставьте их в покое», позволяющая таким компаниям выпускать продукты по своему усмотрению, с точки зрения общества может оказаться неразумным подходом к безопасности ИИ. Хотя Хуанг прав в одном: действующие законы об ответственности за продукцию, возможно, и охватят ИИ — если, конечно, ИИ не убьёт нас всех раньше, чем через суды пройдёт достаточно дел для проверки этой гипотезы.
О другом пути, который, похоже, уже вырисовывается, он не говорил — о саморегулировании отрасли. Подход Хуанга скорее в том, чтобы продвигать модели с открытыми весами и их использование компаниями как противовес закрытым ИИ-лабораториям.
Но сейчас у отрасли короткое окно, чтобы ввести саморегулирование и убедить ИИ-лаборатории по всему миру, включая китайские, в разумности участия. Как сказал в понедельник на саммите All-In глава Microsoft Сатья Наделла: «Китай тоже должен глубоко заботиться о тех же вопросах безопасности, если о них заботится США, разве нет? Почему для них должно быть иначе? Не то чтобы у них не будет той же проблемы со взломами. Не то чтобы они не хотели, чтобы их граждане получали пользу от ИИ, — так же, как мы хотим, чтобы её получали наши граждане».
Впрочем, пока Хуанг против любых новых правил для ИИ — и, возможно, его влияния хватит, чтобы настоять на своём. На этой неделе он также наглядно показал, что буквально имеет доступ к уху президента Трампа.
