Сатья Наделла выступил с предупреждением для компаний, использующих ИИ

Генеральный директор Microsoft Сатья Наделла опубликовал неожиданную и во многом провокационную запись в блоге, в которой выступил с серьёзным предупреждением для компаний, использующих искусственный интеллект от крупных AI-лабораторий. Среди всех дебатов о потенциальных недостатках ИИ есть одна тревога, вызывающая наибольшее беспокойство среди экспертов Кремниевой долины: страх, что гигантские лаборатории, продающие проприетарные модели, действуют как троянские кони, незаметно собирая ценнейшие данные своих клиентов.

Суть проблемы: когда стартапы и предприятия используют AI-модели от лабораторий вроде OpenAI и Anthropic, эти лаборатории получают всё более глубокий доступ к наиболее чувствительной деловой информации компаний — их стратегиям, внутренним процессам, клиентским данным и бизнес-моделям. Затем создатели моделей могут использовать эти знания, потенциально становясь прямыми конкурентами своим же клиентам. Это создаёт фундаментальный конфликт интересов, который пока не получил должного внимания регуляторов. Такие предупреждения уже звучали от венчурного капиталиста Джейсона Калаканиса и генерального директора Palantir Алекса Карпа, но теперь к ним присоединился и Наделла.

В своей публикации Наделла предупреждает, что пользователи ИИ платят дважды, часто не осознавая этого. Во-первых, они платят деньгами за использование токенов AI. Во-вторых, и это гораздо важнее, они расплачиваются своими данными и проприетарными знаниями, неизбежно раскрываемыми в процессе взаимодействия с моделями. «Вы по сути платите за интеллект дважды: один раз деньгами, и ещё раз — чем-то гораздо более ценным: проприетарными знаниями, которые вы должны раскрыть, чтобы сделать этот интеллект полезным. Чем лучше вы хотите, чтобы модель работала именно для ваших задач, тем больше таких знаний вы должны ей предоставить», — пишет Наделла.

Наиболее тревожный аспект: предприятия буквально обучают модели на тонкостях своего бизнеса, не осознавая масштабов передачи знаний. «Модели учатся на «выхлопе» — промптах, которые пишут люди, инструментах, которые используют AI-агенты, и особенно на исправлениях, когда модель ошибается. Каждое исправление превращается в институциональное знание, сохраняемое в модели», — поясняет Наделла. Это «знания, которые конкурент никогда не смог бы купить ни за какие деньги», и предприятия добровольно передают их поставщикам AI-моделей без какой-либо компенсации.

Наделла предлагает фундаментальный пересмотр отношений между поставщиками и потребителями AI-технологий. Если AI-компании могут свободно собирать данные из интернета для обучения своих моделей, предприятия имеют полное право изучать — или «дистиллировать» — эти модели в ответ. Дистилляция — это практика использования выходных данных модели для понимания её внутренней работы и создания новой, часто более компактной модели на основе полученных инсайтов. В феврале Anthropic подала в суд на стартапы за дистилляцию своих моделей, и этот вопрос становится предметом судебных разбирательств, которые могут определить будущее всей отрасли.

Ключевая концепция Наделлы — «суверенитет интеллекта»: право компании владеть и контролировать интеллект, создаваемый при взаимодействии с ИИ. «Я считаю, что у Microsoft есть определённая роль в обеспечении этого суверенитета, — пишет он. — Мы строим Azure как открытую облачную платформу, работающую с любым оборудованием или моделью, с открытым исходным кодом или проприетарными». Это заявление особенно интересно, учитывая многомиллиардные инвестиции Microsoft в OpenAI и их тесное партнёрство. По сути, Наделла предлагает предприятиям альтернативу: запускать ИИ на собственной инфраструктуре Azure, сохраняя полный контроль над данными.

Наделла подчёркивает необходимость тщательного выбора AI-инструментов и заблаговременного построения защищённой инфраструктуры. По его прогнозу, крупные предприятия будут запускать собственные модели на собственной инфраструктуре вместо использования внешних API. Это может привести к фундаментальной реструктуризации рынка корпоративного ИИ, где возникнет модель «суверенного интеллекта», при которой данные и обученные модели остаются под полным контролем компаний-владельцев. Такой подход может кардинально изменить баланс сил в AI-индустрии.

Для российских компаний и стартапов это предупреждение особенно актуально: использование западных AI-моделей сопряжено с дополнительными рисками утечки данных и зависимости от иностранных поставщиков. Концепция суверенитета интеллекта Наделлы предлагает альтернативную модель, где компании сохраняют контроль над своими данными, одновременно получая доступ к передовым AI-технологиям через защищённую инфраструктуру.
Заявление Наделлы вызвало широкий резонанс в технологическом сообществе, поскольку оно исходит от руководителя компании, инвестировавшей более 13 миллиардов долларов в OpenAI — крупнейшего разработчика проприетарных AI-моделей. Многие эксперты отметили иронию ситуации: Microsoft одновременно является крупнейшим инвестором OpenAI и активным продавцом AI-решений через Azure, но теперь её CEO предупреждает об опасности зависимости от внешних AI-лабораторий. Это можно рассматривать как стратегический ход, направленный на продвижение собственной облачной платформы Azure AI как альтернативы прямым API от AI-лабораторий.

Реакция отрасли была неоднозначной. Сторонники открытого ИИ и децентрализованных моделей приветствовали заявление Наделлы, увидев в нём подтверждение своих опасений. Критики же указали на то, что Microsoft активно использует AI-модели OpenAI в своих продуктах — от Copilot до Azure OpenAI Service — и тем самым сама получает доступ к данным миллионов пользователей. Некоторые эксперты назвали публикацию «лицемерной», хотя и признали, что поднятые Наделлой проблемы являются реальными и требуют решения. Венчурный капиталист Джейсон Калаканис, ранее предупреждавший об аналогичных рисках, поддержал CEO Microsoft в социальных сетях, отметив, что «даже слепая курица иногда находит зерно».

Практические последствия для бизнеса значительны. Компаниям, использующим AI-модели от сторонних поставщиков, рекомендуется:
1) тщательно анализировать условия использования моделей и политику обработки данных;
2) рассмотреть возможность развёртывания открытых моделей (LLaMA, Mistral, Qwen) на собственной инфраструктуре;
3) внедрять политики минимизации раскрытия конфиденциальных данных в промптах;
4) использовать техники федеративного обучения и шифрования для защиты данных при использовании внешних API.

Концепция «суверенитета интеллекта», предложенная Наделлой, может стать поворотным моментом в развитии корпоративного ИИ. Если крупные предприятия последуют этой рекомендации, мы можем увидеть фундаментальный сдвиг от централизованной модели «все данные уходят в API» к децентрализованной модели, где каждая компания владеет и контролирует собственные AI-модели, обученные на её уникальных данных. Это не только повысит безопасность и конфиденциальность, но и создаст новые возможности для дифференциации бизнеса за счёт собственных AI-решений, недоступных конкурентам.

Российским компаниям особенно важно учитывать эти риски: использование западных AI-моделей сопряжено с дополнительными геополитическими рисками и возможными ограничениями доступа. Концепция суверенитета интеллекта Наделлы предлагает альтернативную модель, при которой компании сохраняют полный контроль над своими данными, одновременно получая доступ к передовым AI-технологиям.

По материалам TechCrunch