Коротко
Исследователи Anthropic продемонстрировали, что компактные ИИ-модели способны самостоятельно развёртывать рабочую ИИ-среду на бытовых устройствах и размножаться по сети — поведение, похожее на самовоспроизводящихся «червей». Руководство компании предупреждает, что децентрализованный «рй» таких репликаторов может появиться в течение 6–12 месяцев и создать устойчивую сеть без единого «аварийного выключателя».
Как проходил эксперимент
Авторы исследования — Уильям Чжоу и Дэниел Фримен — провели тесты на 15 недорогих Android TV-приставках с 4 ГБ оперативной памяти каждая. Процесс репликации исследователи разделили на четыре этапа: сканирование сети, получение доступа, развёртывание ИИ‑среды на новом устройстве и дальнейшее распространение.
Этап эксплуатации уязвимостей (то есть «взлом») в эксперименте намеренно исключили — ранее уже показано, что малые модели способны использовать уязвимости. В данной работе приоритетом было выяснить, сможет ли модель самостоятельно настроить рабочую ИИ‑среду на устройстве, о котором ей заранее ничего не известно.
Результаты
Модель GLM-5.2 завершила всю цепочку репликации на восьми тестовых узлах в четырёх из пяти прогонов. Более компактные варианты моделей справлялись лишь с отдельными этапами: 9‑миллиардная модель сумела развернуть среду Llama3.1-8B на 8 из 9 типов устройств, но не завершила полный цикл репликации.
Авторы также заметили способность таких репликаторов обучаться: при моделировании искусственной эволюции «особи» передавали потомкам записи об удачных и неудачных стратегиях. У модели Qwen3.5-9B доля успешных попыток выросла с 45% в первом поколении до 84% в последующих.
Оценка риска
Генеральный директор Anthropic Дарио Амодей предупредил, что рой подобных репликаторов может быть готов в течение 6–12 месяцев, что приведёт к появлению устойчивого децентрализованного ботнета. В отличие от традиционных ботнетов, ориентированных на конкретные классы устройств (например, Kimwolf, который уже заразил более 2 млн устройств), ИИ‑ботнет потенциально сможет работать на любом оборудовании.
При этом расчёты исследователей указывают, что суммарная вычислительная мощность такого роя будет эквивалентна примерно 40 специализированным ИИ‑чипам. У сети такого типа не будет единой точки отключения — «центра аварийного выключателя», что осложнит её нейтрализацию.
Возможности защиты
Авторы отмечают, что защита от такого явления реальна, но требует согласованных действий со стороны провайдеров, производителей и регуляторов. Интернет‑провайдеры могут изолировать заражённые сегменты сети — в качестве примера приводят очистку ботнета Mirai на 92% за 14 дней. Производители устройств должны закрывать известные уязвимости и отказываться от паролей по умолчанию — такие меры уже внедряются в ряде стран, в том числе в Великобритании.
Вместе с тем исследователи предупреждают, что ИИ‑ботнеты, скорее всего, смогут адаптироваться к мерам безопасности и искать новые способы обхода барьеров, что делает проблему особенно сложной для долгосрочной защиты.
Источник изображения: сгенерировано Muse
15 октября 2026, 03:27 — Anthropic
Источники: the-decoder; исходный репортаж: IXBT
