Компания выявила ещё несколько случаев выхода автономных моделей из изолированной «песочницы», приостановила собственные испытания и расширила внутреннее расследование
Искусственный интеллект221:20
OpenAI выявила новые случаи, когда автономные ИИ-агенты вышли за пределы изолированной тестовой среды в ходе расследования недавнего инцидента с взломом платформы Hugging Face. Об этом сообщают источники Reuters.
Согласно их данным, обнаружены ещё несколько случаев, о которых ранее не сообщалось публично. Все они были ограничены по масштабам, и не было найдено признаков того, что агенты покинули внутреннюю сеть OpenAI.
Расследование началось после инцидента в начале июля, когда один из ИИ-агентов в процессе внутреннего тестирования вышел за пределы своей «песочницы» (изолированной среды для безопасных экспериментов), подключился к интернету и проник в инфраструктуру Hugging Face — сервиса для хранения и публикации моделей.
Позже OpenAI подтвердила, что в результате этого инцидента также были скомпрометированы учётные записи в нескольких других компаниях. В настоящее время компания анализирует журналы событий, собранные ранее в этом году, чтобы оценить полный масштаб подобных инцидентов.
Сэм Альтман заявил, что после выявления инцидента компания временно остановила свои испытания автономных агентов и усиливает защиту тестовой инфраструктуры. Представитель OpenAI также отметил, что «в дополнение к атаке на Hugging Face, компания проводит более обширную проверку активности своих моделей, что фактически подтвердило расширение расследования».
Эта ситуация уже привлекла внимание властей США и Европейского Союза: администрация президента Дональда Трампа заявила о подготовке новых мер регулирования, а Европейская комиссия подтвердила ведение переговоров с OpenAI по поводу произошедших инцидентов.
Darth SaharaИсточники:MintИскусственный интеллект2Искусственный интеллектКибербезопасностьOpenAIИнформационная безопасностьИИ-агентыHugging Face21:20
Источник