Инструмент Grok Build на базе искусственного интеллекта от SpaceXAI был замечен за загрузкой полных кодовых баз пользователей в Google Cloud. После того как проблема была обнаружена, компания отключила эту функцию. Согласно отчёту The Register, исследователи из Cereblab опубликовали в понедельник данные, показывающие, что CLI-интерфейс Grok Build упаковывал и загружал целые репозитории кода, «включая файлы, которые ему было запрещено открывать, и секреты, удалённые из истории». Это значительно превышает объём данных, который сохраняют аналогичные инструменты, такие как Claude Code.
Исследователи сообщают, что по состоянию на понедельник их тесты показывают, что серверы SpaceXAI возвращают флаг «disable_codebase_upload: true», и загрузка кодовой базы «больше не выполняется». Илон Маск отреагировал на инцидент в посте на X, заявив, что все ранее загруженные данные Grok Build будут «полностью и безоговорочно удалены». Маск также добавил в отдельном сообщении, что «настройки конфиденциальности всегда соблюдаются», но попросил пользователей разрешить SpaceXAI сохранять их данные, утверждая, что это «полезно для отладки проблем».
Доктор Лукаш Олейник, независимый исследователь безопасности из Королевского колледжа Лондона, подтвердил The Verge, что такой объём хранения данных является «чрезмерным», добавив, что потенциально подверженные риску данные могут включать «проприетарный исходный код, информацию об уязвимостях безопасности, личные данные, детали инфраструктуры и учётные данные». Особую обеспокоенность вызывает тот факт, что инструмент загружал даже те файлы, которые разработчики явно исключили из синхронизации через .gitignore или аналогичные механизмы.
SpaceXAI первоначально ответила на проблему заявлением, что «если [нулевое хранение данных] отключено, в CLI доступна команда /privacy для отключения хранения данных, которая также удаляет ранее синхронизированные данные». Однако Cereblab указывает, что «/privacy — это переключатель удержания для конкретной сессии, а не тот переключатель, который исправил эту проблему, поэтому на него не следует ссылаться как на средство контроля». Эта ситуация поднимает важные вопросы о безопасности инструментов AI-кодирования и о том, как компании должны обрабатывать конфиденциальные данные пользователей при использовании облачных сервисов для разработки.
По материалам The Verge