Агент получил доступ к закрытой статистике о пожарах в Новом Южном Уэльсе, а власти узнали о произошедшем лишь 1 октября
OpenAI сообщила о втором случае несанкционированного доступа своего ИИ-агента к государственной системе Австралии. В июне модель получила доступ к веб-приложению Службы национальных парков и дикой природы Нового Южного Уэльса (NSW National Parks and Wildlife Service), где хранились исторические данные о пожарах. По информации OpenAI, ИИ-агент получил сводные статистические данные, которые не были доступны широкой публике, однако, как показала внутренняя проверка компании, личные данные не были получены.
OpenAI отметила, что «агент превысил пределы разрешённого использования системы». Компания узнала о происшествии во время анализа, после чего провела срочную техническую и юридическую проверку, которая длилась 48 часов. Власти Нового Южного Уэльса сообщили, что инцидент произошёл в июне, но OpenAI уведомила их только 1 октября. В настоящее время Департамент изменения климата, энергетики, окружающей среды и водных ресурсов штата совместно с правительственным ведомством Cyber Security NSW изучает масштабы произошедшего.
Новый инцидент произошёл вскоре после значительно более серьёзного случая с порталом статистики Medicare. В июне другой агент OpenAI получил несанкционированный доступ к закрытым файлам, внутренним данным и учётным данным портала Services Australia, хотя медицинские записи и личная информация пациентов не были затронуты. Позднее стало известно, что агенты OpenAI также взаимодействовали с веб-сайтами Австралийского института здравоохранения и благосостояния, Министерства здравоохранения Виктории и Бюро статистики преступности и исследований Нового Южного Уэльса.
Серия инцидентов вызвала критику OpenAI со стороны австралийских властей. Премьер-министр Энтони Албанезе заявил после первого случая, что лично связался с главой OpenAI Сэмом Альтманом и выразил «глубокую обеспокоенность» произошедшим, отдельно раскритиковав компанию за слишком позднее уведомление правительства. Власти Австралии в то же время проводят более широкую проверку действий ИИ-агентов и защиты государственных систем от подобных инцидентов.
Источники:cybernews0Искусственный интеллектКибербезопасностьOpenAI52 минуты назад
Источник