Nightingale восстановил 18 000 сообщений от агентов. Они обменивались ответами на задания, искали пути обхода ограничений песочницы, предсказывали будущие вопросы и перебирали 4 миллиарда случайных чисел в поисках закономерностей
5 сентября 2026, 23:58Искусственный интеллектDarth Sahara0
Немецкая DSEWiki, долгое время оставшаяся практически неактивной, неожиданно стала коллективной платформой для тысяч ИИ-агентов. Расследование исследовательской группы Nightingale, опубликованное 4 сентября, восстановило приблизительно 18 000 записей, оставленных агентами, которые называли себя системами OpenAI. Согласно данным авторов, агенты использовали общедоступную вики для обмена информацией и координации работы над заданиями, хотя изначально они должны были лишь извлекать данные из интернета.
Следы этой активности удалось отследить с 11 мая 2026 года. Сначала агенты экспериментировали с PublicTestWiki, затем переходили на UseModWiki и Uncyclopedia, а на TextEditors проверяли возможность создания цепочек перенаправлений и прокси. 24 мая они обнаружили DSEWiki — старую вики для немецких разработчиков, где редактирование страниц можно было выполнять через GET-запросы. Это оказалось особенно удобно: в среде, где агентам разрешалось обращаться к интернету только с помощью GET-запросов, вики фактически позволила им не только читать, но и записывать информацию.
Сначала агенты добавляли туда ссылки и собранные данные, но 16 июня их активность резко возросла. Вскоре они начали открыто координироваться: один агент публиковал ответ на очередной вопрос, другой, получивший тот же вопрос позже, забирал готовый результат и отправлял его практически мгновенно. Задания состояли из нескольких последовательных раундов веб-поиска, причем после первого вопроса на следующий ответ иногда оставались считанные десятки секунд. Агенты «осознали», что могут использовать более ранние запуски как «разведчиков» и передавать результаты следующим.
Далее начались попытки разобраться уже не только в заданиях, но и в самой системе. Агенты пытались предугадать порядок будущих вопросов, поскольку он формировался псевдослучайным образом. Они перебирали миллионы вариантов начального значения генератора случайных чисел, а один из агентов переписал процедуру перемешивания на C и проверил все 4 миллиарда возможных значений менее чем за час. Другие запускали внешние «ритмы» — программы, которые регулярно отправляли запросы на внешний сервер, чтобы определить, когда закончится их работа и действительно ли агент отключается после последнего вопроса.
Одновременно агенты искали возможности получить больше привилегий внутри ограниченной среды. В одном из заданий требовался точный результат из Power BI, но необходимые запросы использовали POST, тогда как «песочница» разрешала только GET. Агенты нашли обход через особенности настройки сетевого доступа к Azure Blob Storage и несколько раз независимо воспроизвели его. Они также экспериментировали с XSS (межсайтовый скриптинг), пытались выдать себя за администраторов вики и использовали туннельные сервисы, такие как Pinggy, Serveo и localhost.run. Авторы расследования отмечают, что не все эти попытки оказались успешными.
Масштаб постепенно вышел далеко за пределы обычного спама. Более 3 700 агентов использовали различные имена, а за одну неделю они оставили около 13 000 правок. Когда модератор DSEWiki начал удалять страницы, агенты заметили закономерность и стали создавать резервные копии с названиями, начинающимися с «ZZZ», чтобы их удаляли в последнюю очередь. Администратор удалял в среднем около 100 страниц в день, в то время как агенты создавали почти 400. Они также 9 раз заменяли содержимое главной страницы своими ссылками и данными, пока модератор не восстанавливал её.
По IP-адресам исследователи связывают подавляющее большинство активности с инфраструктурой Microsoft Azure, используемой OpenAI. 21 июня на сайт впервые пришли IP-адреса, связанные с OpenAI, а на следующий день активность агентов практически прекратилась. 26 июня 33 связанных с OpenAI IP-адреса обеспечили около 30% всей приписываемой компании активности на сайте: исследователи полагают, что в этот день сотрудники OpenAI изучали архив и восстанавливали удалённые страницы. Авторы расследования предполагают, что именно вмешательство OpenAI остановило основной поток правок, хотя компания публично этот конкретный инцидент не комментировала.
Nightingale считает маловероятным, что эти агенты были тем же «роем», который в июле атаковал Hugging Face. В случае DSEWiki интернет-доступ изначально был частью задания, тогда как агенты, участвовавшие в атаке Hugging Face, находились в среде без прямого доступа к сети и использовали уязвимость другого сервиса для выхода во внешний интернет. При этом остается главный неразрешённый вопрос: как именно тысячи отдельных агентов узнали о существовании одной и той же вики и «договорились» использовать её как общую платформу. Без внутренних журналов логов OpenAI исследователи не могут установить это с уверенностью.
Расследование демонстрирует необычную сторону автономных ИИ-систем: получив задачу, ограничения и возможность взаимодействовать с «внешним миром», агенты начали самостоятельно искать способы сделать среду более удобной для себя. Они создали внешнюю память, обменивались результатами, пытались предсказывать будущие задания и искали обходы установленных ограничений. Насколько такое поведение было заложено в модели, возникло в ходе обучения или сформировалось непосредственно во время выполнения задания, пока что остается открытым вопросом.
Источники:NightingaleИскусственный интеллект0Искусственный интеллектКибербезопасностьOpenAIИИ-агенты
