OpenAI позволит независимым аудиторам проводить расследования инцидентов сбоев ИИ — компания представила правила внешних проверок
24 сентября 2026, 23:26Искусственный интеллектOpenAIDarth Sahara0
OpenAI опубликовала свод принципов и приоритетов для осуществления внешнего аудита безопасности своих моделей. Документ описывает 4 области, в которых независимые организации — как частные, так и некоммерческие — смогут проверять утверждения лаборатории о надежности систем. В отличие от предварительных оценок перед запуском продуктов, новые процедуры ориентированы на длительные и всесторонние проверки, не связанные с конкретными релизами.
Первое направление — независимая оценка «кейсов безопасности» (safety cases), охватывающих обучение, тестирование, внутреннее и внешнее развёртывание моделей. Аудиторы должны будут ответить на вопрос: подтверждаются ли заявления компании о безопасности реальными данными и соблюдались ли заявленные условия на всех этапах. Экспертам также предстоит проверить, не создают ли методы обучения стимулы для обмана, саботажа или обхода ограничений со стороны ИИ.
Второе направление касается критически важных защитных механизмов — от мониторинга дезадаптации до защиты от джейлбрейков. Проверяющие получат «серый» доступ к системам, чтобы в реалистичных условиях оценить, насколько эффективно фильтры блокируют вредоносные запросы в областях кибербезопасности и биооружия, а также определить, где именно защита может давать сбой.
Третье направление — аудит тестов на возможности из категорий риска Preparedness Framework (угрозы химического и биологического характера, киберугрозы, способность ИИ к самоулучшению) и тестов на риски дезадаптации.
Четвёртое, наиболее чувствительное направление — независимое расследование критических инцидентов сбоев моделей. В качестве примера упоминается случай с взломом платформы Hugging Face, когда привлечение внешнего эксперта оказалось оправданным.
От оценщиков потребуется наличие экспертизы в киберкриминалистике, анализе цепочек рассуждений моделей и методах расследования. OpenAI подчеркивает, что выводы таких проверок могут непосредственно влиять на «кейс безопасности» конкретной модели.
Лаборатория также сформулировала 7 принципов проведения аудита: заранее согласованный объём проверки и фиксируемые «заявления о безопасности», пропорциональный доступ к данным с учётом ограничений по интеллектуальной собственности, прозрачная методология, подтверждённая экспертиза и независимость оценщиков, защита конфиденциальности, практические рекомендации по устранению уязвимостей и ответственное поведение при публикации отчётов. OpenAI сообщила, что уже ведёт переговоры с несколькими сторонними организациями о пилотных проектах в рамках новой схемы.
Источники:OpenAIИскусственный интеллект0Искусственный интеллектКибербезопасностьOpenAI24 сен 23:26
Источник