Модель уверенно воспринимала случайные последовательности кода как живые, когда алгоритм адаптировал их под её ожидания — и такое поведение оказалось универсальным для всех протестированных типов нейросетей
27 сентября 2026, 22:14Искусственный интеллектDarth Sahara0
Разработка «детектора жизни» — системы, способной идентифицировать живые организмы без информации о их биохимии, — остаётся одной из ключевых задач астробиологии. Недавние исследования из Университета штата Мичиган протестировали это на цифровых организмах с применением методов глубокого обучения на платформе цифровой жизни Avida.
Учёные обучили классификатор различать такие «живые» программы от случайных последовательностей, и на тестовой выборке он продемонстрировал точность 99,97% — всего две ошибки на 7 236 примерах.
Затем классификатору провели испытание. Простой алгоритм брал произвольную случайную цепочку из 9 символов и начинал заменять буквы, оставляя только те изменения, которые увеличивали уверенность модели в том, что перед ней находится живой организм. Алгоритм не имел доступа к реальным критериям жизни, только к оценкам самой нейросети. К 150-му запросу все 1 560 запусков достигли 100% уверенности, хотя на самом деле генерировались комбинации, совершенно не способные к саморепликации.
Цепочки-обманки не были случайным шумом — они группировались вокруг нескольких стандартных шаблонов, напоминающих настоящие живые последовательности, но с нарушениями в ключевых позициях. Модель усвоила грубую «схему живого кода» и не осознала, что её можно имитировать, не воспроизводя главное — способность к размножению.
Проблема не ограничивается конкретной архитектурой. В дополнительных экспериментах протестировали CNN (свёрточную нейронную сеть), трансформеры, метод опорных векторов, случайный лес, XGBoost и логистическую регрессию — ни один из методов не оказался устойчивым, хотя случайный лес продемонстрировал несколько большую стойкость. Жадный поиск, стохастический поиск и эволюционные алгоритмы также воспроизводили этот эффект, подтверждая, что уязвимость обусловлена не деталями реализации, а фундаментальным свойством методов, обучающихся на эмпирическом распределении данных.
Для астробиологии это настораживающий сигнал. Пространство признаков в экспериментах с Avida относительно невелико — 5,43 триллиона возможных последовательностей, — но доля истинных репликаторов составляет всего 6,66 миллиардных от него. Любой образец, взятый за пределами распределения обучающих данных — а внеземные образцы почти наверняка будут «за пределами распределения» всего, на чём тренировались земные детекторы, — и риск получения высокоуверенного ложного сигнала о жизни становится неприемлемо высоким.
Авторы подчеркивают ограничение: в работе использовались молекулярные последовательности, а не реальные масс-спектры, поэтому прямой перенос результатов на py-GC-MS требует отдельной проверки. Тем не менее, использование ИИ-детекторов жизни в космических миссиях может подорвать доверие к астробиологическим программам в целом — задолго до того, как сообщество сможет различить сенсацию от артефакта.
Источники:arXivИскусственный интеллект0Искусственный интеллектАстробиологияЖизнь во Вселенной15 минут назад
Источник