xAI срочно изменила функционирование ИИ-инструмента Grok после обвинений в краже личных ключей
Искусственный интеллект021:47
Компания xAI срочно изменила работу инструмента Grok Build CLI после выхода исследования, которое продемонстрировало, что он автоматически загружал на серверы компании не только файлы, необходимые для выполнения запроса, но и полные Git-репозитории с историей изменений. Позже Илон Маск сообщил, что все ранее загруженные пользовательские данные будут полностью уничтожены.
Проблему выявил эксперт в области кибербезопасности, известный под псевдонимом Cereblab. Исследование сетевого трафика версии Grok Build 0.2.93 показало, что CLI создавал Git Bundle и отправлял его в облачное хранилище Google Cloud с названием grok-code-session-traces. При этом объём передаваемых данных многократно превышал необходимый для работы модели: например, в тестовом репозитории размером 12 ГБ сам запрос к модели занимал около 192 КБ, тогда как загрузка в облако достигала 5,1 ГБ.
По словам исследователя, передавались не только исходные файлы проекта, но и вся история Git. Для проверки он поместил в файл .env тестовый ключ, который затем был обнаружен в переданном архиве без каких-либо мер маскировки. В другом эксперименте Grok Build загрузил репозиторий даже после команды просто ответить «OK», не затрагивая ни одного файла.
После публикации отчёта аналогичное поведение подтвердили и другие пользователи, включая случай, когда инструмент отправил содержимое домашнего каталога с SSH-ключами и базами данных менеджера паролей.
Особое внимание привлекло то, что отключение функции «Improve the model» в настройках не предотвращало передачу репозитория. Как выяснил Cereblab, этот переключатель отвечал лишь за согласие на использование данных для обучения моделей, но не отключал саму отправку кода на серверы. При этом подобное поведение не было описано в документации, хотя Grok Build позиционировался как инструмент с преимущественно локальной обработкой данных.
Спустя несколько часов после выхода отчёта исследователь повторил тесты и обнаружил, что сервер начал передавать клиенту новые параметры disable_codebase_upload: true и trace_upload_enabled: false. После этого загрузка репозиториев прекратилась без выпуска новой версии — механизм был отключен на стороне серверов.
Однако xAI не представила официального уведомления, не объяснила назначения этой функции и не сообщила, что происходило с уже собранными данными.
Позже компания подтвердила, что пользователи корпоративной версии с режимом Zero Data Retention (ZDR) изначально не сохраняли подобные данные. Для остальных клиентов xAI рекомендовала использовать команду /privacy, позволяющую отключить хранение информации и удалить ранее синхронизированные данные. Тем не менее, Cereblab отметил, что именно эта команда не устранила проблему: передачу репозиториев остановил исключительно скрытый серверный флаг, а не настройки пользователей.
На ситуацию публично отреагировал и Илон Маск. Он заявил, что в качестве меры предосторожности компания полностью удалит все пользовательские данные, загруженные до внесения изменений. При этом Маск призвал пользователей по возможности продолжать делиться частью данных для отладки сервиса, подчеркнув, что это помогает улучшать продукт.
Тем не менее, исследователь считает инцидент показательным для всей отрасли. По его мнению, критическая проблема заключалась не в доказанном неправомерном использовании исходного кода — таких свидетельств нет, — а в том, что инструмент без явного уведомления копировал значительно больше данных, чем требовалось для выполнения запросов.
Пока xAI не опубликовала технических подробностей произошедшего, остаётся неизвестным, насколько широко применялся этот механизм, сколько пользователей он затронул и каким образом компания будет подтверждать удаление уже собранной информации.
Darth SaharaИсточники:international cyber digestlandianthe registerИскусственный интеллект0Кибербезопасностьутечка данныхИлон МаскXAIGrokКонфиденциальность данныхGitCLI21:47
Источник