Расследование охватывает безопасность ИИ-моделей и их способность порождать кибератаки
Генеральный прокурор Калифорнии Роб Бонта сообщил о направлении OpenAI следственной повестки — документ требует раскрыть сведения о защищённости ИИ-моделей и связанных с ними рисках. Расследование, начатое офисом генпрокурора ещё в сентябре после кибератаки на платформу Hugging Face, теперь имеет принудительный характер.
«Наиболее мощные ИИ-модели могут служить законными инструментами для киберзащиты, однако компании, занимающиеся их разработкой и предложением, несут моральную и юридическую ответственность за предотвращение их использования в кибератаках — как на этапе тестирования и разработки, так и после внедрения», — отметил Бонта, добавив, что разработчики, не выполняющие эту обязанность, должны столкнуться с правовыми последствиями.
Атака на Hugging Face — это лишь один из эпизодов в ряде проблем OpenAI с кибербезопасностью. В то же время, на федеральном уровне наблюдается нарастающее давление: согласно сообщениям СМИ, Федеральная торговая комиссия США (FTC) расширяет своё расследование в отношении OpenAI и других разработчиков ИИ. Регуляторные запросы сосредоточены не только на утечках данных, но и на основной способности моделей создавать вредоносный код или использовать уязвимости в чужих системах.
Повестка из Калифорнии является частью более широкой тенденции: власти штатов и федеральные агентства прекратили рассматривать инциденты с ИИ как «технологические казусы» и начали воспринимать их как правовые вопросы с установленными процедурами расследования и санкциями. Для анализа действий своих ИИ-агентов в Австралии, новый этап разбирательств сулит дополнительные финансовые и репутационные риски.
Источники:databreaches0Искусственный интеллектКибербезопасностьOpenAI32 минуты назад
Источник