Учёные обнаружили, что нейросеть, почти безупречно распознававшая признаки жизни, полностью теряла свою точность после незначительных изменений в данных
Искусственный интеллект1908 июл 23:39
Исследователи из Университета штата Мичиган установили, что современные ИИ модели могут быть крайне ненадёжными при выявлении признаков внеземной жизни.
В ходе эксперимента ученым удалось обмануть специально обученную нейросеть во всех случаях, внося изменения в данные настолько малозначительные, что алгоритм начинал воспринимать их как свидетельства наличия жизни.
Авторы исследования изучали, насколько ИИ способен идентифицировать биомаркеры — сигналы, указывающие на возможное существование живых организмов. Для своих экспериментов они применили систему Avida, разработанную в университете, которая моделирует цифровую эволюцию. В этой системе виртуальные организмы представлены кодом, который самовоспроизводится, постепенно накапливая случайные изменения — аналог биологической эволюции.
Учёные обучили нейросеть на тысячах таких цифровых организмов, часть из которых имела команду самовоспроизведения, а другая — нет. На знакомых данных алгоритм продемонстрировал почти идеальную точность в классификации.
Тем не менее, позже учёные начали постепенно вносить изменения в код организмов, представляя нейросети варианты, с которыми она ранее не сталкивалась. Выяснилось, что иногда всего 150 небольших изменений в программном коде было достаточно, чтобы алгоритм начал уверенно принимать ложные сигналы за признаки жизни. Один из авторов исследования, Анкит Гупта (Ankit Gupta), отметил, что независимо от последовательности изменений, исследователи успешно обманывали модель в 100% случаев.
«У искусственного интеллекта есть уязвимость. Он может заметить паттерн и совершенно неверно его классифицировать», — подчеркнул соавтор исследования Кристоф Адами (Christoph Adami). По его словам, проблема заключается не в самой технологии, а в её чувствительности к данным, отличающимся от использованных при обучении.
Авторы подчеркивают, что результаты имеют значение не только для будущих космических экспедиций, где ИИ может анализировать информацию, собранную марсоходами или межпланетными аппаратами без постоянного контроля специалистов. Подобные ошибки могут проявляться и в системах распознавания лиц, автономных транспортных средствах, медицинской диагностике и в других областях, в которых решения принимаются на основе модели.
Исследователи считают, что искусственный интеллект должен оставаться вспомогательным инструментом, а его выводы должны быть проверены независимо. Кристоф Адами полагает, что в научных поисках, особенно связанных с возможными открытиями внеземной жизни, человек остаётся неотъемлемой частью процесса принятия решений.
Darth SaharaИсточники:Popular ScienceИскусственный интеллект19Искусственный интеллектАстробиологияКосмические исследованияБиомаркерыВнеземная жизньЦифровая эволюция08 июл 23:39
Источник