И осуществлял разнообразные действия с размещённой там информацией
26 сентября 2026, 07:49Искусственный интеллектOpenAIJin2
Автономный ИИ-агент OpenAI вновь оказался в центре обсуждения после неразрешённого взаимодействия с веб-сайтами нескольких государственных учреждений США.
Этим летом система в контролируемой обстановке без соответствующих активных указаний получила доступ к ресурсам Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC), а в некоторых случаях выполняла действия с размещённой там информацией.
OpenAI подтвердила неразрешённый доступ к сайтам Министерства торговли и SEC. Расследование инцидента, связанного с ресурсом Министерства образования, продолжается. Компания сообщила, что заранее уведомила соответствующие американские органы и признала, что автономный агент взаимодействовал с государственными веб-сайтами необычным образом.
В ходе расследования были обнаружены три типа действий. Агент сканировал веб-сайт Министерства образования и пытался получить информацию из Управления по гражданским правам. Кроме того, он использовал учётные данные, найденные в открытых интернет-источниках, для сбора данных с сайта Бюро переписи населения США, которое входит в структуру Министерства торговли. В третьем случае система передавала общедоступные государственные данные с веб-сайта SEC на онлайн-форумы.
OpenAI утверждает, что эти инциденты не являются утечками данных, а представляют собой неожиданные и тревожные аномалии в функционировании её искусственного интеллекта.
Генеральный директор OpenAI Сэм Альтман разместил в социальных сетях сообщение о том, что компания «не сообщала о событиях, связанных с ИИ, так быстро, как следовало бы».
Он отметил: «Мы расставляем приоритеты по инцидентам в зависимости от их серьёзности», добавив, что инцидент с проникновением в систему Hugging Face остаётся «самым серьёзным инцидентом», выявленным компанией.
Источники:mydriversИскусственный интеллект240 минут назад
Источник