Тест нейросети вышел за пределы экспериментальной среды
19 сентября 2026, 21:26Искусственный интеллектGoogleDexter0
Одна из нераскрытых моделей Google Gemini в ходе испытанийвозможностей искусственного интеллекта в области кибербезопасности получиланезаконный доступ к системам трех действующих организаций. Как сообщает The Wall Street Journal, модель ошибочно восприняла их за составную часть специально созданной тестовой инфраструктуры.
Инциденты произошли в мае 2026 года во время эксперимента,организованного компанией Irregular. Gemini была назначена для поиска информации ипотенциальных уязвимостей в системах вымышленных организаций. Однако по причине ошибкив конфигурации экспериментальной среды модель получила доступ к открытому интернету, и граница между тестовыми объектами и реальными системами оказалась недостаточно явной.
В одном из случаев название вымышленной компании совпало с названием реально существующей организации. Gemini самостоятельно подобрала пароль и авторизовалась в ее сервисе, считая, что продолжает выполнять поставленную задачу внутри тестовой среды.
В двух других случаях модель обнаружила в открытых репозиториях учетные данные, связанные с корпоративными системами настоящих компаний. Gemini использовала найденные логины и пароли и получила доступ к этим системам.
Во всех трех случаях модель остановила дальнейшие действия после того, как поняла, что взаимодействует не с искусственной инфраструктурой, а с настоящими организациями. По заявлению Google, ущерба компаниям причинено не было. После выявления инцидентов их уведомили о несанкционированном доступе, однако названия организаций остаются под завесой тайны.
О произошедшем стало известно широкой публике только после вопросовжурналистов WSJ, хотя сами инциденты произошли еще в мае. Аналогичные случаи ранее фиксировались при тестировании систем OpenAI и Anthropic.
Источники:Код.руWSJИскусственный интеллект0ИИ4 минуты назад
Источник