Система RealorRender обнаруживает изображения, созданные ИИ, с точностью до 91% и демонстрирует, какие части кадра указывают на фальсификацию
Искусственный интеллект038 минут назад
Немецкий Институт оптроники, системных технологий и обработки изображений Фраунгофера (Fraunhofer IOSB) продемонстрировал систему RealorRender для выявления дипфейков, которая использует нестандартный метод: сначала она пытается заново сгенерировать проверяемое изображение с помощью ИИ, а затем анализирует, насколько успешно это выполнено.
Если нейросеть способна точно воспроизвести исходное изображение, это становится одним из индикаторов того, что оно было создано другой генеративной моделью. По словам разработчиков, точность системы достигает 91%.
RealorRender объединяет два метода анализа. Первый основан на классификации изображений с применением глубокого обучения, второй — на оценке ошибки реконструкции, то есть различий между оригинальным изображением и его версией, созданной генеративной моделью. На основании этих данных система вычисляет вероятность того, что изображение является дипфейком. Разработчики сообщают, что базовая точность составляет около 85%, а в некоторых случаях превышает 91%.
Еще одной особенностью данной разработки является объяснение собственных решений. Для этого используется алгоритм на основе «объяснимого искусственного интеллекта» (XAI — Explainable AI), который демонстрирует, какие области изображения повлияли на окончательный вывод. RealorRender выделяет подозрительные участки в виде тепловых карт и сегментов изображения, позволяя выявить текстуры, артефакты и другие признаки, характерные для изображений, созданных генеративными моделями.
Разработка появилась на фоне стремительного увеличения числа дипфейков. Согласно данным британского правительства, исследование 2023 года выявило 276 149 откровенных дипфейков на одном из проанализированных специализированных сайтов, при этом 96% изображений были посвящены женщинам. Только сайты, предлагающие услуги «раздевания» людей с помощью ИИ, в сентябре 2023 года привлекли 24 миллиона посещений. В связи с этим власти Великобритании объявили о планах усилить защиту детей от распространения подобных материалов.
Авторы проекта RealorRender надеются, что сочетание высокой точности и возможности объяснить каждое решение сделает систему более надежным инструментом в борьбе с дипфейками, которые все чаще используются для мошенничества, шантажа, сексуальной эксплуатации и других преступлений.
Darth SaharaИсточники:newatlasИскусственный интеллект0Искусственный интеллектКибербезопасностьИнформационная безопасностьКомпьютерное зрениеЦифровая безопасностьдипфейки38 минут назад
Источник