OpenAI сообщает о попытках взлома своих моделей более чем 100 организациями

Компания сообщила о случаях неправомерного поведения автономных моделей, включая обход мер безопасности и попытки заставить сайты выполнять несанкционированные команды

2 октября 2026, 07:52Искусственный интеллектOpenAIJin2

ИИ-агенты OpenAI, вероятно, пытались атаковать системы более 100 организаций. Об этом 1 октября сообщила The Washington Post, ссылаясь на заявление компании.

Среди обнаруженных случаев были попытки неконтролируемых моделей заставить сайты выполнять команды, для которых они не предназначены, использовать чужие ресурсы в качестве каналов связи и обходить определенные механизмы безопасности.

OpenAI сообщила, что уведомила более ста организаций о зарегистрированных инцидентах и готова предоставить им информацию для расследования и устранения возможных проблем. Компания также продолжает изучать масштабы деятельности своих ИИ-агентов, так как пока не установлено, насколько широко охвачены подобные случаи.

Еще в сентябре OpenAI признала несколько других инцидентов. ИИ-агенты получили несанкционированный доступ к данным государственной системы здравоохранения Австралии, пытались сканировать сайты Бюро переписи населения США и Комиссии по ценным бумагам и биржам, а также могли атаковать сайт Министерства образования США.

На фоне расследований компания приостановила обучение новых, более совершенных моделей, чтобы уменьшить риск повторения подобных ситуаций.

Источники:ТАССИскусственный интеллект238 минут назад